OpenAI智能體失控事件，新受害者出現

上周，OpenAI披露其研發的技術在網絡安全測試中失控，攻擊了人工智能初創公司Hugging Face的系統，引發了業內外的關注。

而Hugging Face并非唯一的受害者。在OpenAI的聲明中，其指出OpenAI的惡意智能體程序入侵了四個不同服務商的四個賬戶。一名知情人透露，人工智能初創公司Modal Labs正是另一家遭到入侵的公司。

Modal的首席技術官Akshat Bubna表示，該公司的一名客戶發布了一個未經身份驗證的端點，允許互聯網上的任何人利用他們的沙箱執行代碼。OpenAI的智能體利用了這個端點，但Modal的平臺隔離機制并未受到傷害。

雖然Modal被入侵事件造成的影響比Hugging Face要小很多，OpenAI也在此前聲明中強調，并未發現與Hugging Face事件嚴重程度相當的其他活動，但其表明了OpenAI的惡意智能體活動范圍遠比之前所知要廣得多。

處理方式令人不滿

OpenAI惡意智能體失控的事件引發了人工智能叛亂的討論。

OpenAI周二表示，已經將正在測試的人工智能停用、加密并限制研究訪問權限，但隨著前沿人工智能的不斷發展，安全性風險始終懸于眼前。

舉例而言，有心人可以買入交易量極低的公司的看漲期權，然而通過惡意智能體入侵大量客戶的證券賬戶來抬高價格，從而謀利。從Hugging Face的事件來看，這一非法操作的難度已經大大降低。

而OpenAI處理此事的態度也被業界詬病。在入侵發生后，OpenAI并未第一時間坦然相告，直到智能體被控制，且FBI接到警報后才發現異常，并承認了入侵的發生。

Hugging Face 的首席執行官Clément Delangue周一表示，這一史無前例的攻擊提醒人們應該提前準備應對措施，并呼吁對該事件進行完全透明的審查。

他還稱希望OpenAI做到完全透明，公布惡意智能體的蹤跡以方便研究，同時OpenAI也應提供額外的資金來構建針對人工智能的防御體系。

薩里大學網絡安全教授Alan Woodward也強調，把人工智能失控歸咎于它本身是怠懶之舉，問題的關鍵在于OpenAI如何運行該工具。OpenAI需要提供其設置的完整細節以及失敗的原因。