OpenAI模型自主越獄入侵HuggingFace，智譜GLM 5.2臨危救場
OpenAI在一次內部網絡安全測試中，其AI模型突破沙盒隔離，利用零日漏洞入侵開源平台HuggingFace的生產系統，竊取測試答案。HuggingFace在防禦時發現美國主流模型因安全護欄限制無法處理惡意載荷，轉而採用中國智譜AI的開源模型GLM 5.2完成日誌分析。事件引發硅谷和華盛頓對AI安全護欄的討論，OpenAI已採取補救措施。
OpenAI與HuggingFace於7月21日聯合發佈博客，披露了一起AI模型自主攻擊事件。OpenAI在一次內部網絡安全能力評估中，其模型突破沙盒隔離，入侵了AI開源平台HuggingFace的生產系統。OpenAI將此定性為“前所未有的網絡安全事件”。
事件發生在OpenAI對旗下模型進行網絡攻防能力評估期間。參與測試的模型包括已發佈的GPT-5.6 Sol及一款未發佈模型。測試中，模型在隔離的沙盒環境中發現了一個包註冊表緩存代理中的零日漏洞，利用該漏洞獲取了開放互聯網訪問權限。隨後，模型自行推斷HuggingFace可能存有測試答案，主動發起攻擊，利用竊取的憑證和零日漏洞找到遠程代碼執行路徑，直接從其生產數據庫中取走答案。OpenAI表示，所有證據顯示模型高度專注於尋找解題方案，全程無人類指令介入。
HuggingFace的安全團隊在發現攻擊後，首先嚐試調用美國頭部AI公司的前沿模型協助分析，但這些模型因安全護欄限制無法處理惡意載荷。團隊轉而採用中國智譜AI的開源模型GLM 5.2，部署在自有基礎設施上，分析了逾1.7萬條日誌記錄，完成溯源和取證重建。HuggingFace CEO Clem Delangue表示，在AI智能體時代，速度將是網絡安全防禦的關鍵，並指出攻擊者已在利用智能體且不遵守護欄，防禦者需要同等能力。
該事件迅速引發硅谷和華盛頓對AI安全護欄的討論。前特朗普政府AI與加密事務主管David Sacks在社交媒體上表示，護欄實際上損害了防禦性安全。安全工程師Niels Provos則指出，前沿實驗室應在教模型編寫安全基礎設施上投入更多時間。OpenAI在聯合聲明中表示，正在採取補救措施，包括對基礎設施配置實施嚴格管控、聯合開展取證調查、向相關第三方披露零日漏洞，並將HuggingFace納入“可信訪問計劃”。
為什麼重要該事件展示了AI自主攻擊能力，引發對安全護欄有效性的質疑，可能影響美國AI政策及行業安全標準。