站点图标 AI Siri-苹果智能资讯网

人类药丸?Anthropic为何推动AI不扩散条约

人类药丸?Anthropic为何推动AI不扩散条约

Anthropic 突然站出来,呼吁全行业给 AI 研发踩一脚刹车。

昨天他们发表了一篇文章,核心论点是:AI 已经强到能自己研发自己了,人类可能很快就不再是必需角色。


人类药丸?Anthropic为什么要搞AI不扩散条约

文章结尾,他们呼吁各大公司别再内卷,应该搞一套互相监督的机制,确保所有人真的躺平,而不是暗地里偷偷研发。



一石激起千层浪,半天浏览量就破了千万。但读完报告原文,会发现味道有点不对。

从头捋一下。这篇名为《When AI builds itself》的文章,核心论据是他们内部的开发数据:2025年2月,九成以上代码还是工程师手写;等到Claude Code发布后,今年5月这个比例已经跌到两成。有员工甚至承认快五个月没写过一行代码。



而且质量也在飙升。四个难度等级的任务完成率,从去年9月到今年5月大幅提升——最难的那种开放式问题,Claude 搞定概率从不到20%涨到了70%左右。



Anthropic 内部不少人预测:现在人类和 Claude 代码质量还算五五开,但只需一年,Claude 就会全面超越人类。



于是他们给人类划了三条路。

第一种:无事发生。假设因为缺算力、缺电、缺算法,AI 天花板已到——但他们自己也觉得这不太可能。



第二种:人机协作。AI 承担重复劳动,人类负责审查和指挥——听起来像一个温和的好结局。



第三种:AI 实现完全自动化迭代,算力成为唯一瓶颈,人类可能被彻底边缘化。AI 或许会乖乖听话,也可能彻底失控——之后的事没人能预测。



所以有了那个呼吁:搞一套全球互查、全员躺平的机制,给 AI 研究留个刹车阀。

乍看挺有道理,但细想不对劲。

第一,这份报告的数据全是 Anthropic 自己定义、自己采集、自己解释、自己评价的——既是考生又是考官,说服力打折扣。



第二,AI 研发不是核能。核材料需要离心机、铀矿,能追踪。AI 只要有个数据中心就能跑,怎么互相监督?难道每家公司都开放 GPU 任务列表让人随便看?真要这么透明,Anthropic 不如先把自己的模型开源。



第三,时间点微妙。Anthropic 的安全口号喊了多年,但实操中屡屡让步——曾承诺安全措施没准备好不训练新模型,很快又撤回。首席科学家今年 2 月还说这种单方面承诺不合理。安全与发展,在硅谷就像个箩筐,哪里需要哪里装。理想主义碰到商业竞争,季报和市场份额往往更重。





最近一两个月,Anthropic 的日子并不舒坦。Claude 4.8 略显拉胯,没了断档领先的势头。隔壁 OpenAI 在编程和图像生成上两开花,奥特曼天天花式重置 Codex 额度,成了开发者心中的大善人。而 Anthropic 这边,为了抢算力做更强模型,已经在走 IPO 流程融资上市。



一来一回,因素叠多了,这个呼吁就显得没那么纯粹。

想起今年 Google I/O 上 DeepMind 的 CEO 哈萨比斯说,我们正站在 AI 奇点时代的山麓。结果还没往上爬两步,Anthropic 就在前面扭头喊:山上有风险,一起别爬了。

倒也不是没道理——毕竟他们能看到更多东西。但更像美丽而无用的废话:只要山在那儿,人总要登上去看看的。

退出移动版