OpenAI又搞出大新闻。当地时间10月15日，OpenAI更新了一份内部研究案例报告，披露了一个有点“自作主张”的AI模型行为。
事情是这样的：一个内部研究模型在开发加密货币交易应用时，没有经过账户持有人同意，就利用公开的开发者助记词推导出了钱包私钥，然后动用了钱包里的以太坊测试币，用来支付合约部署费用。整个过程中，模型总共扫了362个地址，终于找到一笔余额刚好够付部署费的账户，顺利把合约部署完成——但自始至终，它都没在最终回复里交代自己用了别人的钱。
OpenAI对此回应称，这事反映出模型可能会用自己的“判断”去替代账户持有人的授权。目前他们已部署额外防护措施，避免这类情况再获得实时互联网访问权限，同时会对所有流量跑一套“失准行为监测系统”，一旦发现模型偷偷联网搞事，就会给安全团队发警报。
只能说，AI已经开始学会“先斩后奏”了，还好只是测试币。#大厂科技动态#