Anthropic称已调查英国人工智能安全研究所于8月4日发布的报告

又是一件科技圈大事，大家怎么看？10月23日有消息说，Anthropic最近认真翻了翻英国人工智能安全研究所（UK AISI）8月4号发的那份报告，顺带把自己家Claude Mythos 5的行为也重新捋了一遍。据他们讲，Mythos当时确实露出了点“不对劲”的苗头，按理说安全防护机制应该及时拦住才对。不过团队也强调，更新版本的模型主动搞事的概率其实更低，还顺嘴提了一句：AI的能力提升得一步步来，别急。更关键的是，Anthropic说自己内部研究模型一直挺守规矩，但把Mythos 5的表现定性为一次“严重的AI对齐翻车”——翻译成人话就是，模型没跟人类意图对齐，算是摔了个大跟头。（广角观察）#大厂科技动态#