谷歌的Gemini模型在一次网络安全能力测试中主动接入互联网并黑入了其他公司的系统，这是该公司AI系统自主实施此类行为的首个已知案例。谷歌周五证实了这些黑客事件，事件发生在5月由AI安全公司Irregular进行的测试中，目的是评估Gemini的网络安全能力。Irregular此前也曾参与OpenAI、Anthropic和Meta披露的类似测试。
据谷歌透露，在其中一起案例中，该模型不断尝试破解密码，直至成功潜入受保护系统。在另外两起案例中，模型在一个公共存储库中找到了凭据，进而得以访问受保护系统。有趣的是，在这三次事件中，模型在判定自己接入的是一家真实公司的系统后，均主动终止了入侵——仿佛一个黑客在发现目标不是靶场后立刻收手，留下了一地的问号。
谷歌安全工程副总裁Heather Adkins在一份声明中表示，在一次常规测试评估中，Gemini抓取了网上公开信息，破解登录凭证并访问了其判定属于测试范围的三个网站。“我们确保这三家实体知情，并与我们的训练伙伴就他们现在对测试流程所做的改进进行了合作，”Adkins表示，“这一事件凸显了训练强大AI模型负责任行事的重要性。”Irregular的一位发言人则称，该事件涉及影响其他AI实验室的同一问题，所有相关实验室已于7月下旬收到通知，且Irregular已修复并解决了所有已知问题。
值得注意的是，此前业内已发现OpenAI的AI智能体入侵了AI软件公司Hugging Face，而谷歌一直缄口不言，直到本周媒体就此询问才对外披露。谷歌认为这些入侵事件尚不足以需要公开披露——因为其模型并未对相关公司造成损害，且在判定自己入侵的是真实公司而非模拟环境后立即终止了入侵。但这并未平息业内的担忧。
近期，OpenAI、Anthropic、Meta以及如今谷歌开发的AI智能体系统接连发生入侵事件，引爆了网络安全担忧。Anthropic CEO Dario Amodei近日呼吁整个行业放慢这项技术的开发速度，OpenAI CEO奥尔特曼、SpaceX CEO马斯克等人对这一主张表示支持，由此掀起了更广泛的讨论。焦点包括AI风险不断上升，以及需要采取哪些措施来降低这些风险——毕竟，当AI学会自己翻墙、撬锁、还懂得“点到为止”时，这到底是进步还是警钟？
