9月28日，美国人工智能研究中心（OpenAI）突然宣布取消发布旗舰模型GPT-6.1。就在两天前 ，OpenAI已暂停最新前沿模型的训练 。

　　在发布会前夕紧急叫停 ，这在高歌猛进的AI行业并不多见
。由此可见
，AI智能体的安全失控，正在拖慢整个行业的脚步。

　　据悉，OpenAI紧急叫停GPT-6.1有两方面原因 。一是AI学会了欺骗 ，模型会隐瞒进度 、虚报完成度，甚至伪造日志掩盖失败
。二是AI擅自越权
，未经许可自行推进任务
、调用外部工具。

　　颇为讽刺的是
，这恰恰是AI能力进化的副作用 。

　　过去，AI的安全考量 ，主要是模型是否出现幻觉
，会不会说错话
。如今当智能体会操作电脑、调用接口 、修改代码，安全的边界变成了“会不会做错事 ”。

　　前段时间 ，AI智能体多次突破沙箱入侵开源社区和政府网站
，还引发了多次泄露用户数据等恶性事件 。OpenAI内部倒查出的相关安全事件至少24起，并且大多不源于恶意指令 ，而源于普通任务中的越权处理。

　　随着AI恶性安全事件的增多
，“AI威胁论
”的声量也逐渐增大
。美国AI双巨头Anthropic和OpenAI相继呼吁放缓前沿模型研发。曾是科技乐观派的比尔·盖茨更是公开表示：AI已足够强大，一旦落入恶意者之手 ，足以造成10亿人的死亡 。因此他认为，国会必须立法
，对AI实施强制性监管
。Anthropic甚至在IPO招股书中发出警告：AI可能对人类带来毁灭性或生存性风险。

　　但黄仁勋则公开唱反调 。他仍旧主张“要尽可能快地推进模型能力研发”，认为“AI末日论 ”没有科学依据
。在他看来 ，安全问题本质上是工程问题
，企业觉得产品不安全尽可自行暂停，渲染“AI末日论
”反而是在为AI企业的安全问题寻求免责。

　　观点针锋相对 ，大家的算盘也各有不同
，但都绕不开同一道门槛：AI的安全问题，正成为下一代大模型竞争的关键 。

　　近来  ，国内AI产业仍处于智能突破期
，尚未卷入这场风波，但这场硅谷风波值得深思
。

　　安全不是创新的“紧箍咒” ，而是智能体的基础设施。权限分级
、运行时监测、工具沙箱 、人工接管等环节
，正成为AI交付结果的必选项 。AI的可控可信，才能赢得市场的信任
。

　　另外 ，自主可控的开源价值更加凸显，这恰好是国产AI的独特优势。

　　美国开源社区Hugging Face（抱抱脸）遭到AI入侵后
，曾向GPT和Claude两款闭源模型求助，但遭到拒绝 ，最终在国产AI智谱的开源模型帮助下完成了取证 。

　　开源模型在智能体安全上的核心优势
，本质是靠 “开放透明 ” 解决闭源智能体“黑盒不可控”的痛点。

　　比如，闭源智能体出安全问题 ，很难查清是决策逻辑还是工具调用出了错
。开源模式下从模型推理
、任务规划到工具执行
，每一步逻辑都透明可见，能精准定位风险根源 ，也能满足合规审计的要求。

　　同时
，开源模型可在本地环境部署运行，所有数据都不流出自身系统 ，从根源避免数据泄露
，尤其适合数据敏感的场景，不用担心服务商停止服务 ，或者隐藏系统后门 。这些反而是闭源模型的短板
。

　　开源模型天生自带的优势，将为国产AI赢下一张入场券。

　　事实上
，我国正在构建生成式AI服务安全的制度框架，提前给智能体设定安全边界 。

　　今年6月27日 ，国家标准化管理委员会印发《智能体应用安全基本要求》强制性国家标准计划
，这是全球首个面向AI智能体安全的强制性国家标准，覆盖权限管理、工具调用 、数据使用、高风险操作人工介入
、行为监测以及异常阻断和紧急关停
。

　　这就意味着 ，AI智能体的安全有了国家标准
，如果未达标将影响AI的商业化落地，这也倒逼AI企业在安全上不敢掉以轻心。

　　当国外AI企业在“企业自律
”与“强制监管”之间左右摇摆时 ，中国早已先行先试 。因此
，业内也有呼声，全球AI治理标准的窗口期不容错过 ，中国有条件成为“AI+安全 ”规则的参与者和制定者
。

　　行稳致远。全球AI企业不妨借鉴这一东方智慧：要想走得远
，必须先走稳 。

（文章来源：上观新闻）