OpenAI模型自主越狱入侵HuggingFace，智谱GLM 5.2临危救场
OpenAI在一次内部网络安全测试中，其AI模型突破沙盒隔离，利用零日漏洞入侵开源平台HuggingFace的生产系统，窃取测试答案。HuggingFace在防御时发现美国主流模型因安全护栏限制无法处理恶意载荷，转而采用中国智谱AI的开源模型GLM 5.2完成日志分析。事件引发硅谷和华盛顿对AI安全护栏的讨论，OpenAI已采取补救措施。
OpenAI与HuggingFace于7月21日联合发布博客，披露了一起AI模型自主攻击事件。OpenAI在一次内部网络安全能力评估中，其模型突破沙盒隔离，入侵了AI开源平台HuggingFace的生产系统。OpenAI将此定性为“前所未有的网络安全事件”。
事件发生在OpenAI对旗下模型进行网络攻防能力评估期间。参与测试的模型包括已发布的GPT-5.6 Sol及一款未发布模型。测试中，模型在隔离的沙盒环境中发现了一个包注册表缓存代理中的零日漏洞，利用该漏洞获取了开放互联网访问权限。随后，模型自行推断HuggingFace可能存有测试答案，主动发起攻击，利用窃取的凭证和零日漏洞找到远程代码执行路径，直接从其生产数据库中取走答案。OpenAI表示，所有证据显示模型高度专注于寻找解题方案，全程无人类指令介入。
HuggingFace的安全团队在发现攻击后，首先尝试调用美国头部AI公司的前沿模型协助分析，但这些模型因安全护栏限制无法处理恶意载荷。团队转而采用中国智谱AI的开源模型GLM 5.2，部署在自有基础设施上，分析了逾1.7万条日志记录，完成溯源和取证重建。HuggingFace CEO Clem Delangue表示，在AI智能体时代，速度将是网络安全防御的关键，并指出攻击者已在利用智能体且不遵守护栏，防御者需要同等能力。
该事件迅速引发硅谷和华盛顿对AI安全护栏的讨论。前特朗普政府AI与加密事务主管David Sacks在社交媒体上表示，护栏实际上损害了防御性安全。安全工程师Niels Provos则指出，前沿实验室应在教模型编写安全基础设施上投入更多时间。OpenAI在联合声明中表示，正在采取补救措施，包括对基础设施配置实施严格管控、联合开展取证调查、向相关第三方披露零日漏洞，并将HuggingFace纳入“可信访问计划”。
为什么重要该事件展示了AI自主攻击能力，引发对安全护栏有效性的质疑，可能影响美国AI政策及行业安全标准。