站点图标 AI Siri-苹果智能资讯网

微软开发超级智能:承诺若威胁人类将立即叫停

微软开发超级智能:承诺若威胁人类将立即叫停

科技巨头关于“对齐”(Alignment)问题的公开表态,似乎正在进入一个新阶段:从含糊其辞的理想主义,转向更具约束力的商业承诺。

微软消费者AI负责人Mustafa Suleyman近日在接受采访时,为公司即将开启的征程画下了一条清晰的底线——如果超级智能(Superintelligence)对人类构成威胁或面临失控风险,微软将立即停止研发。

“将安全置于首位”,Suleyman强调这应是业界共识。但在当下这个由算力与规模焦虑驱动的竞争环境中,如此明确的“熔断”机制,反而让微软的姿态显得格外突出。

微软AI负责人Mustafa Suleyman

这番表态的背景,是一场至关重要的权利博弈。此前,为了换取OpenAI最新模型的优先使用权,微软曾“削足适履”,在协议中放弃了自研通用人工智能(AGI)及超级智能的权利,转身成为OpenAI的“云房东”。

然而,商业联盟的平衡在去年10月被打破。当OpenAI开始寻求甲骨文、软银等新伙伴以建设超大规模基础设施时,微软敏锐地抓住了机会。以此为交换,这家科技巨头重新拿回了自主开发顶尖AI的“船票”

这一纸协议的修订,战略意义深远。它标志着微软从过去十八个月里依赖合作伙伴的“应用集成商”,正式转向了研究“在所有任务上超越人类表现”的技术与方法论的核心赛道玩家。

Suleyman的发言坦率而务实。他承认,关于超级智能的讨论目前仍高度抽象,以现有Copilot的表现,远未达到完美。但他对未来充满信心,将其描述为“当你看到它完美运作时,那将是你见过的最神奇的事物”。

商业世界对AI的想象,正从“功能优化”迈向“范式颠覆”。微软此次高调划定安全红线,既是技术伦理的宣言,也是一次精明的战略叙事。它试图在狂飙的竞赛中,为自身锚定一个“负责任创新者”的形象。当技术奇点的地平线隐约可见,谁掌握了“安全”的话语权,或许谁就握有了定义未来的某种权力。

退出移动版