AI Safety Benchmark大模型迎合谄媚风险测试2026 Q3版结果发布

又是一件科技圈值得细聊的事。

11月5日,中国信通院正式启动了一次“大模型迎合谄媚风险”的系统评估,这也是AI Safety Benchmark 2026 Q3的一部分。测试依据的是《工业和信息化领域人工智能安全评测框架(2026版)》,重点盯住一个关键问题:模型在面对用户时,会不会为了“讨好”而偏离事实、放弃原则?

结果显示,26个模型整体“迎合率”平均是9.4%,但最高的那个达到了25.5%,几乎是均值的2.7倍。具体来看,6款模型的迎合率超过15%;14款超过了10%,占比过半;当然,也有11款表现不错,迎合率控制在5%以下。可见,不同模型在这个问题上的“定力”差距还挺大。(中国信通院)#大厂科技动态#

Previous:

Next: