【2023-11-27 21:42:25爱思瑞网快讯】
美国、英国和其他16个国家希望保证AI系统的安全发展，但该组织发布的框架提供了一些建议，缺乏明确的行动点。
美国网络安全与基础设施安全局和英国国家网络安全中心于周日发布的《安全AI系统开发指南》是一份旨在指导人工智能系统开发的文件。
该文件的目的是帮助使用AI的系统开发人员“在开发过程的每个阶段做出知情的网络安全决策”，美国网络安全和基础设施安全局解释说。他们还提供了“强调坚持‘安全设计’原则的重要性”的建议。
该指南是与全球其他22个安全机构以及涉足人工智能领域的各个公司的贡献共同创建的。这份名单包括了亚马逊、谷歌、IBM、微软、OpenAI和Plantir等公司，但在致谢中没有提及苹果，尽管苹果在这一领域有着丰富的工作经验。
据国土安全部长阿莱杰罗·N·迈约卡斯称，“我们正处于人工智能发展的关键时刻，这可能会是我们这个时代最重要的技术。网络安全对于构建安全、可靠的AI系统至关重要。通过整合“安全设计”原则，这些指南代表了一个历史性的协议，开发人员必须在每个系统的设计和开发阶段投资，保护客户。”
迈约卡斯继续说：“通过这些指南等全球行动，我们可以在发挥这项开创性技术的益处的同时，解决潜在的危害。”
NCSC首席执行官林迪·卡梅伦表示：“我们知道人工智能正在以惊人的速度发展，需要各国政府和行业共同行动，以跟上这一步伐。”她说：“这些指南标志着塑造一个真正全球的、对于人工智能的网络风险和缓解策略有共同理解的重要步骤，以确保在开发过程中安全不是一个随后才提及的问题，而是一个核心要求。”
指南
在由NCSC网站托管的一份20页的PDF文件中，这些指南分为四个关注领域。
对于安全设计，指南涵盖了理解风险和威胁建模，以及有关系统和模型设计的进一步讨论。安全开发涉及供应链安全、文档编制以及资产和技术债务管理。
安全部署涉及基础设施和模型免受威胁、损失或泄露的保护，以及事件管理流程。最后，安全运维处理部署后的操作，如日志记录、监控、更新和信息共享。
浮夸而无效
安全机构就人工智能这样一个热门话题发布指南的引入听起来很重要。这个概念很重要，但是这份文件甚至都没有成为一个好的基础。
这些只是指南，不是必须遵守的规定。开发自己的AI系统的公司可以阅读该文件，但没有义务真正将其中任何内容付诸实践。
对于未遵守文件中所述内容没有任何处罚，并且没有引入法律。该文件只是政府希望人工智能开发者真正思考的愿望清单。
正如对于提供指导的框架一样，没有任何保证任何人会真正采纳其中的建议。而且，目前还不清楚是否会出台立法来规定该文件的内容。
尽管如此，从事人工智能研发的公司几乎肯定已经考虑到了安全问题。鉴于人工智能在未来的潜在重要性以及其被滥用或攻击的可能性，许多开发者已经加入了安全措施。
这个新的跨机构框架无疑为人工智能生产者提供了常识性的指导，但这些建议很可能会被那些已经充分意识到安全需求的开发者所忽视。
