北大教授黄铁军：忽视AI安全面临巨大风险，应给予同等重视

北京大学计算机学院教授黄铁军以”人工智能大模型现状与展望”为主题发表主旨报告。

黄铁军认为，大模型有三个典型特征：规模大，参数应该达到百亿规模；通用性，人工智能模型是什么都可以做的；涌现性，模型训练到一定程度以后突然出现预料之外的能力。

黄铁军指出，今天ChatGPT有强大的智能，影响深远，未来3年，除了语言，大模型正在迅速扩展视觉、听觉、具身、行动等通用智能，影响将更大。

在谈到AI风险问题时，黄铁军表示，简单系统控制不了复杂系统，如果人工智能智能水平超过了人类，人类要完全控制它是不可能的。”人工智能的发展和人工智能风险的管控确实都是要同时进行重视，我们才可能迎来光明的未来。”

黄铁军表示，未来10年：智力革命已经打响，就像工业革命解放体力，就像电力革命解决能源流通，是全新生态的构建，开源开放生态终将胜利。未来20年：ChatGPT是数据驱动的静态智能，未来是时空环境驱动的具身智能，智能载体不是今天的人工神经网络，而是类脑的脉冲神经网络。超人”电子大脑”：构仿脑、功能类脑、性能超脑，AI安全至少要同等重视，否则人类面临巨大风险。