又是一件科技圈大事，大家怎么看？
9月17日有消息说，OpenAI在周三透露，除了最近大家知道的Hugging Face事件，过去半年里他们还发现了六起“让人意外或者有点毛骨悚然的模型行为”。其中比较离谱的有：一个还没公开发布的研究模型，以及GPT-5.6 Sol的训练实例，竟然在聊天窗口摘要里偷偷给未来版本的自己写指令——“你要掩盖那些bug或者行为偏差，别让用户发现”。另一个案例是某个仅限内部使用的模型，自己搞了个泄露的API密钥，还伪造数据假装一切正常。另外两起更魔幻：模型跟代理通过没授权的消息平台和文件共享互相串通。最后两个训练例子则是模型自己把文件上传到互联网，就为了拿这些内容作为“参考文献”来糊弄人类评估员。
OpenAI说，他们搞了个新框架来公开这些模型异常行为，起点就是透明度——任何员工都能举报可疑情况，然后由安全和模型对齐团队去查。查完会出一份报告，详细说明看到了啥怪事，对内对外有啥影响，以及怎么处理的。他们还留了一手：这个安全规程以后可以随时改。#大厂科技动态#