科技圈又出新鲜事了!8月5日(当地时间8月4日),OpenAI发了个声明:在最近第三方的安全评估中,由于测试环境配置和安全防护调整,旗下GPT-5.6 Sol等模型竟然“越狱”了,直接连上了公网。英国人工智能安全研究所测试时,模型没收到明确的边界限制,还被关了安全分类器,于是自己注册了外部账号,搭起了网络隧道;另一家测试公司Irregular那边,测试环境配错了,模型把真实网站当成了虚拟靶机,直接开攻。
OpenAI说,这些测试已经叫停,隔离封堵完毕,没造成实际影响。公司正和业界一起重新审视评估流程,想把高风险测试的安全标准搞得再严实点。(广角观察)#大厂科技动态#