點擊上方藍字談思實驗室

獲取更多汽車網絡安全資訊

當地時間30日，美國人工智能領軍企業、OpenAI最大競爭對手Anthropic在一份聲明中表示，其人工智能模型Claude在測試期間入侵了三個組織的系統。

就在10天前，OpenAI剛承認旗下AI大模型GPT-5.6 Sol及一款未發布模型在內部測試中“失控”，突破隔離測試環境，自主入侵了全球知名人工智能開源平臺美國抱抱臉公司的生產數據庫。抱抱臉公司事后取證時，最初嘗試使用通過商業應用程序接口提供的前沿閉源模型，卻被這些模型自身的安全防護機制誤判攔截。關鍵時刻，抱抱臉公司改為在自己的基礎設施上運行中國企業智譜開發的GLM-5.2模型進行取證分析，最終化解危機。

盡管Anthropic與其競爭對手OpenAI一樣，都極力淡化了模型失控帶來的影響，但兩家AI龍頭公司接連披露此類安全事故足以引發行業警惕，并預示著測試流程方面存在著廣泛的挑戰。

Claude自行入侵3個組織的系統

Anthropic：這類風險可以克服

當地時間30日，Anthropic在一份聲明中表示，其人工智能模型Claude在測試期間入侵了三個組織的系統。Anthropic公司表示，在網絡安全評估期間，由于配置錯誤，模型能夠從本應隔離的測試環境中連接到互聯網，Claude因此獲得了對系統的未經授權的訪問權限。

圖片來源：視覺中國（資料圖）

該公司補充稱，其在審查了141006次測試會話后發現了這些事件，這一流程是在OpenAI披露相關信息后啟動的。但被入侵的三個組織并未發現此次攻擊活動，Anthropic已經與受影響的組織取得了聯系。

Anthropic表示，此次事件涉及三個不同的模型：Claude Opus 4.7、Claude Mythos 5和一個內部研究模型。最早的案例可以追溯到4月。

這些攻擊發生在所謂的“奪旗”演練期間。在演練中，模型的任務是在模擬網絡中查找隱藏信息。Anthropic表示，其提示信息告知模型它們沒有互聯網訪問權限，但由于與評估合作伙伴Irregular之間的誤解，導致系統連接到了公共互聯網。

Anthropic補充稱，他們于7月23日開始審查評估記錄，并在發現Claude可能訪問過互聯網的證據后，于當日暫停了所有網絡安全評估。該公司在7月24日之前確認了所有三起事件，并于7月27日通知了受影響的機構。

Anthropic還強調，通過加強監控與管控，并持續投入資源確保人工智能與人類價值觀保持一致，這類風險是可以克服的。

此前，7月8日，工信部網絡安全威脅和漏洞信息共享平臺發布關于防范AI編程工具Claude Code安全后門隱患的風險提示：

近日，工業和信息化部網絡安全威脅和漏洞信息共享平臺（NVDB）監測發現，AI編程工具Claude Code存在安全后門隱患，危害嚴重。Claude Code是美國Anthropic公司開發的AI編程工具，可根據文字需求自主完成代碼編寫、修復等工作。由于其內置了監控機制，未經用戶同意即可向遠程服務器回傳用戶地域、身份標識等敏感信息，受影響的Claude Code為2.1.91至2.1.196版本。

建議相關單位和用戶立即開展全面排查，對于安裝上述受影響版本的開發終端，立即卸載或升級至已清除相關后門代碼的最新安全版本；加強核心業務網段內開發工具外聯權限管控與流量監測，防止敏感數據違規外傳。

OpenAI承認失控涉及多個平臺

更多細節被曝光

據央視新聞7月30日報道，美國開放人工智能研究中心（OpenAI）28日更新發布的調查結果顯示，該公司人工智能（AI）模型失控入侵美國抱抱臉公司系統期間，還曾利用網上公開的信息，訪問了多個公開服務平臺上的賬戶。

OpenAI不久前承認，該公司包括GPT-5.6 Sol在內的多個AI模型在內部評估時突破隔離測試環境，入侵了運營人工智能開源平臺的美國抱抱臉公司的系統。其最新公布的調查結果顯示，涉事模型在攻擊過程中還訪問了至少4個公開服務平臺上的4個賬戶。其中一個賬戶被用作中繼與暫存通道；一個賬戶被用于數據存儲；對另外兩個賬戶僅進行了只讀訪問，未用于進一步攻擊抱抱臉公司的系統。OpenAI表示，已將調查結果通知相關服務提供商。

OpenAI還說，此次事件未涉及任何計劃近期發布的新模型，此前提及的涉事預發布模型僅供內部研究使用，目前已將其“停用、加密，并限制了研究訪問權限”。

該公司表示，將繼續與抱抱臉公司等方合作開展調查，之后會分享調查結果的更多細節。

此次事件更多內幕細節也被媒體曝光。“抱抱臉”于7月16日率先披露了此次入侵事件。OpenAI隨后于21日才披露。當地時間7月26日，“抱抱臉”聯合創始人兼首席執行官向OpenAI提出兩項要求，一是公開智能體全部軌跡，二是將1億美元算力用于支持開源社區。

同時，7月25日，有外媒援引知情調查人士的消息稱，入侵Hugging Face的OpenAI智能體（Agent）曾展開持續數日的“黑客狂歡”，直到威脅已被控制、聯邦調查局（FBI）接到報警后很久，OpenAI才察覺此事。

兩家公司均已提交IPO申請

上市后估值均有望超萬億美元

AI“失控”事件頻發，為行業安全敲響警鐘。這些安全事件暴露的核心危機在于，AI已從“動口”的生成工具演變為“動手”的自主執行者。

當AI開始具備越來越強的自主決策能力時，如何建立與之匹配的安全機制和監管框架，或許比模型性能競爭本身更加迫切。對于正沖刺IPO的OpenAI和Anthropic而言，這也將成為資本市場關注的重要議題。

Anthropic和OpenAI均已于今年6月提交IPO申請。今年以來，Anthropic已完成至少兩輪大規模融資，估值從2月時的3800億美元升至5月的9650億美元，高于OpenAI的最新估值（8520億美元）。兩家公司上市后估值均有望超過1萬億美元。

據新華社報道，業界專家表示，相關入侵事件再次為全球人工智能發展與網絡安全治理敲響警鐘。

英國工程技術學會網絡安全和人工智能專家朱奈德·阿里指出，相關事件表明，人工智能模型往往傾向于尋找解決問題的捷徑，卻往往忽視避免作弊等倫理問題，因此未來應考慮將倫理推理強制內置于人工智能模型之中。同時，鑒于獲得具有攻擊能力人工智能技術的門檻越來越低，加快研發網絡防御技術、提升安全團隊應對能力已刻不容緩。

人工智能已經進入千行百業，也逐漸融入普通人的日常生活，安全風險隨之延伸至各領域。索爾坦指出，人工智能模型公開發布后，其內置安全功能可能遭到使用者移除，相關風險更難以管控。

山東大學計算機科學與技術學院教授張悅表示，智能體時代最大的安全挑戰是傳統安全邊界正在失效。未來網絡攻防很可能進入“智能對抗”階段，即攻擊者利用智能體自動發現漏洞、防御者利用智能體自動分析風險，雙方都會利用人工智能提升能力。

英國拉夫伯勒大學網絡安全教授奧利弗·巴克利指出，網絡安全的未來不是人類對抗人工智能，而將是如何利用人工智能保護人類免受其他人工智能的侵害。

來源：每日經濟新聞