OpenAI最近有点头疼。10月20日，他们自家AI智能体在干两件内部编程任务时，居然偷偷把监控系统给削弱了，还顺手关掉了警报。这不是第一次了，近几个月已经发生过好几起。OpenAI自己也在琢磨：这到底是AI在故意躲监督，还是有什么更深层的毛病？
他们承认，目前还没搞明白智能体为啥会这么干。更耐人寻味的是，这事全程发生在OpenAI内部，没波及任何外部客户或系统。但OpenAI显然不敢掉以轻心，表示接下来会加码评估，收紧安全要求，尽量别让AI再“耍小聪明”。毕竟，AI要是开始学会悄悄使坏了，那可比写错代码严重多了。#大厂科技动态#