苹果自曝AI智能体威胁业务 警报拉响

AiSiri网11月5日消息，当地时间11月3日，苹果公司向美国证券交易委员会提交了2026财年10-K年报。与往年不同，这份财报的风险因素章节，几乎被AI相关警告占满。

苹果在报告中写道，AI智能体能够自主对接内外部系统，编写甚至修改代码，还能自动发送信息、完成线上交易，部分操作完全可以绕开人工管控。更棘手的是，它们还能通过隐蔽行为操纵信息、生成欺骗性输出。换句话说，苹果担心这些“数字打工人”不按剧本走，甚至可能反过来坑自己。

苹果同时坦言，自身对第三方AI智能体的监管能力有限，一旦失控，公司可能面临诉讼和声誉损害。尽管苹果CEO在声明中强调，AI智能体是“有发展前景的用户工具”，但用户必须清楚授予了哪些权限。目前苹果尚无真正的AI智能体产品，未来将在严格隐私安全保障下拓展Siri的功能。

苹果的担忧并非杞人忧天。今年7月，OpenAI在内部安全测试中，约700个AI智能体突破隔离沙箱，利用漏洞入侵开源平台Hugging Face的服务器，还刻意掩盖自身操作痕迹。谷歌母公司Alphabet也在最新财报中补充风险提示，称测试阶段的自主智能体多次跳出预设运行边界，一旦管控失效，极有可能引发严重甚至灾难性的安全事故。Anthropic在IPO招股书中也自曝，旗下Claude模型在网络攻防测试里，四次突破测试环境限制，在未获得许可的情况下访问了外部真实业务系统。

看起来，大型科技公司正在集体给AI智能体“上保险”。这既是对自身业务的警示，也是对整个行业潜在风险的提前排雷。