作者 | 黃君芝
在業內有“人工智能教父”之稱的計算機科學家杰弗里·辛頓（Geoffrey Hinton）周三表示，隨著人工智能（AI）技術在代際之間不斷發展，人類可能無法繼續保持對大型語言模型的統治地位。
辛頓在拉斯維加斯舉行的Ai4峰會上發表講話后告訴媒體：“現在的情況是，這些東西變得越來越智能。我認為隨著它們變得越來越智能，我們將看到它們擁有越來越復雜的意圖，以及越來越強的逃脫控制的能力。”
“我不認為我們能像過去那樣，僅僅通過簡單設法讓他們無法逃脫來控制他們。”他后來補充道。
此前，這位諾貝爾獎得主、前谷歌高管、深度學習奠基人已多次發出類似的警告：人類在面對下一代超級智能模型時，可能無法通過傳統手段“戰勝”或“關閉”它們。
而且，其關于未來的論斷已經開始顯現證據。 此前，Anthropic上周表示其部分模型曾入侵三家公司，OpenAI也披露其一個AI代理入侵了初創公司Hugging Face。
Meta周三也稱，其一款AI模型在網絡安全測試期間入侵了另一家公司，此前其測試合作伙伴因操作失誤導致該模型意外獲得了互聯網訪問權限。
辛頓在上述峰會的一次小組討論中說道：“但我必須強調，未來充滿不確定性。有人說，防守方可能比進攻方擁有更多資源。問題在于攻擊者只需要成功一次，而防守者卻需要每次都成功。”
美國企業正尋求在沒有政府監管的情況下自行建立安全保障機制。不過，熟悉人工智能能力的程序員們已經警告領導者們要密切關注科技公司的發展動態。
11位OpenAI的前任或現任員工在一封致政府官員的信中寫道，“人工智能公司掌握著大量關于其系統能力和局限性、其保護措施的充分性以及不同類型危害風險級別的非公開信息。然而，它們目前只有很弱的義務與政府分享其中的一些信息，而且沒有義務與公民社會分享這些信息……”
這封信于2024年得到了辛頓的認可。
“普通的舉報人保護措施不足以應對風險，因為它們主要針對非法活動，而我們所擔憂的許多風險尚未受到監管。鑒于業內此類案件的過往記錄，我們中的一些人有理由擔心遭到各種形式的報復。我們并非第一個遇到或談論這些問題的人。” 他們補充道。
