點擊上方藍字談思實驗室

獲取更多汽車網絡安全資訊

美國開放人工智能研究中心（OpenAI）21日承認，該公司的GPT-5.6 Sol模型和另一款能力更強的預發布模型聯合進行內部評估時失控，突破隔離測試環境，侵入了人工智能開源平臺美國抱抱臉（Hugging Face）公司的系統。

今日凌晨，OpenAI首席執行官薩姆·奧爾特曼也在社交平臺發文證實此事件，稱公司在模型評估過程中遭遇了一起重大安全事件，并感謝全球最大的AI開源社區Hugging Face的合作。

據科創板日報，這是目前公開披露的首起由前沿大模型自主完成真實網絡攻擊的安全事件。

抱抱臉此前表示，上周，其生產基礎設施遭到一個“自主”人工智能代理系統的入侵。在取證分析時，由于美國前沿模型“無法區分事件響應方和攻擊者”，他們轉而采用中國模型分析攻擊者數據。

OpenAI在官網發文說，此次內部評估在與互聯網高度隔離的“沙箱”環境中進行，僅能通過一套內部托管的第三方軟件安裝軟件包。模型在嘗試完成名為ExploitGym的網絡安全基準測試時，識別并利用了第三方軟件的一個“零日漏洞”，由此獲得互聯網訪問權限。模型推斷抱抱臉平臺可能存有ExploitGym測試相關的模型、數據集和解決方案，利用多種攻擊手段找到進入抱抱臉系統的路徑。

OpenAI安全團隊發現內部異常活動，抱抱臉安全團隊在其基礎設施上檢測到并阻止相關活動，雙方正在展開聯合調查。

抱抱臉方面表示，目前仍在評估是否有合作伙伴或客戶的數據受到影響，尚未發現模型、數據集或應用空間遭到篡改。在調查過程中，抱抱臉使用人工智能分析了包含逾1.7萬條記錄的攻擊行動日志，以重建時間線、識別受影響情況并區分真實攻擊行為和干擾活動。

抱抱臉說，其最初嘗試使用通過某商業應用程序接口提供的前沿模型分析日志，但請求被阻止。該公司隨后改為在自己的基礎設施上運行中國企業智譜開發的開放權重模型GLM-5.2，以進行取證分析，從而避免攻擊者數據及相關憑據離開公司內部環境。

據公開資料，GLM 5.2發布于今年6月中旬。GLM 5.2上線首周，日均詞元調用量就增長了27倍、客戶數增長80倍。

近日，智譜已落地1GW級國產AI算力數據中心建設，并全部采用國產AI芯片。同時，智譜也于7月21日正式完成對國產AI異構算力軟件公司中科加禾（XCore Sigma）的收購。后者源自中科院計算所編譯實驗室，長期深耕異構算力軟件棧及編譯優化，被業內視為國內頂尖AI Infra團隊之一。

OpenAI說，這一事件表明，先進人工智能模型已能夠在無法訪問源代碼情況下發現現實系統中的新型攻擊路徑，并持續執行復雜、多步驟的網絡操作。模型網絡安全能力快速提高的同時，內部評測環境、模型行為控制和安全防護措施等也需要同步加強。

來源：每日經濟新聞