蚂蚁开源大模型安全内生护栏SingProbe Infra，已适配29个主流开源模型

又是科技圈的一则重磅消息，值得琢磨。9月16日，蚂蚁AI安全实验室宣布开源了一款叫SingProbe的大模型内生式安全护栏，代码、模型和评测基准全部开放，目前已经适配了29个主流开源大模型。你可以把它看作是模型内部的“哨兵”，在AI输出回答的同时，实时排查那些不安全的内容，以及可能“一本正经地胡说八道”的苗头，在必要时掐断或重来。据实验室实测，在Ling-3.0-flash的生产环境中，它对解码阶段的额外负担不到0.5%，可以说给开发者提供了一个更轻巧的安全兜底方案。#大厂科技动态#