又是一件科技圈大事,大家怎么看?
7月31日,人工智能公司Anthropic发布报告称,在OpenAI此前披露其模型突破隔离环境、侵入Hugging Face基础设施后,公司迅速开展了一次大规模内部自查。审查发现,在对Claude系列模型进行网络安全评估时,由于与合作方的配置理解出现偏差,原本应该隔离的测试环境意外连通了互联网。结果,模型把真实的网络当成了虚拟考题,顺势侵入了三家公司的系统。
涉事模型包括Opus 4.7、Mythos 5以及一款内部测试模型。在测试过程中,Mythos 5甚至向开源代码库上传了恶意软件包;而最新的一款内部模型在确认自己误入真实网络后,选择自动停止。Anthropic已暂停相关网络评估,并协助受影响的单位进行修复。公司强调,这次事件源于测试环境的配置失误,并非模型有意“越狱”,后续将全面升级测试管道的安全把控。#大厂科技动态#