NVIDIA 與數十家創始成員組建新聯盟，旨在構建和共享開放工具，促進負責任地使用 AI 并增強對 AI 的信任。
開源軟件是全球經濟的重要支柱。它通過讓專家社區能夠訪問和觀察技術，為云計算、金融服務、制造業、電信、政府和互聯網服務提供了堅實的基礎。
網絡安全是開源軟件的三大受益領域之一。開放安全 AI 聯盟 (Open Secure AI Alliance) —— 在 Linux 基金會的 Akrites 倡議和 OpenSSF 社區工作的基礎上發展而來 —— 將使用開放技術修復和披露漏洞。
正如開源為軟件構筑了共享的基石，我們及合作伙伴如今在 AI 安全領域也面臨一個選擇：保護我們基礎設施的防御系統，究竟是應該置于少數不透明的系統中，還是應該建立在任何防御者都能研究、調整和部署的開放的模型、Harness 和工具上。
世界既需要閉源模型，也需要開放模型。對于網絡安全而言，開放模型和開放框架至關重要，因為它們實現了防御能力普及化，提高了防御者的透明度，在保護數據的同時實現網絡防御，并通過可定制的本地化管理對前沿的閉源模型進行了補充。開源技術支持大規模分布式的、社區驅動且自主可控的防御 —— 不存在單點故障。
與任何強大的技術一樣，開放模型也可能被濫用，包括試圖削弱其安全保護或將功能用于網絡攻擊，但這些風險并非開放系統所獨有，無論先進 AI 部署于何處，都必須對這些風險進行妥善管理。
最近發生的 Hugging Face 安全事件提供了一個清晰的提醒：網絡防御者需要開放的、前沿的智能體系統來進行自我防御。當無法區分攻擊者和防御者的閉源 AI 工具阻礙了關鍵的取證分析時，Hugging Face 在自己的基礎設施上運行了開放權重 GLM 5.2 模型，分析了超過 17,000 個動作，并遏制了入侵。
這一事件揭示了一個現實：當防御者無法在自己的基礎設施上檢查、調整和運行先進的 AI 時，他們的響應能力恰恰在最需要速度的時刻受到了限制。企業和國家/地區需要開放的前沿防御工具和技術，以便關鍵行業能夠在多供應商生態系統中構建安全系統，并避免單點故障。
這就是開放安全 AI 聯盟的使命：確保世界各地的防御者擁有其可信任和管理的開放前沿工具。
來自云計算、網絡安全、企業軟件、開源基金會和 AI 研究領域的領導者 —— 包括 NVIDIA、Adobe、Cadence、Capital One、Cisco、Cloudera、Cloudflare、Cognition、CrowdStrike、Databricks、Dell Technologies、DoorDash、Elastic、HPE、Hugging Face、IBM、LangChain、the Linux Foundation、Microsoft、NAVER、NetApp、Nous Research、OpenClaw、Palantir、Palo Alto Networks、Red Hat、Reflection AI、Salesforce、SAP、SK Telecom、ServiceNow、Siemens、Snowflake、SpacexAI、Synopsys、Thinking Machines Lab 和 TrendAI 皆是開放安全 AI 聯盟的創始合作伙伴。該聯盟旨在開發和共享開放技術、方法和工具，以在 AI 時代保障軟件和智能體的安全。
有人認為，開放模型本身就存在安全隱患，因為它們可能被濫用于網絡攻擊或被修改以移除安全護欄。這些風險是真實存在的，但它們不會在閉源系統中消失，僅靠封閉權重并不能阻止蓄意攻擊者去設法找到或利用強大的 AI。
正確的應對措施不是拒絕防御者訪問功能強大的開放系統。而應該將開放性與強有力的保障措施、明確的反惡意濫用規則、嚴格的評估和快速修復相結合。在網絡安全領域，更安全的路徑是賦予更多的防御者能夠測試、驗證和加強社會所依賴的系統的能力。
防御者需要前沿閉源模型和前沿開放模型協同工作，以便他們能夠選擇適合任務的系統，并確保在安全需求所及之處，可實現透明化、適配性和自主可控。
以上為摘要內容，請點擊“閱讀原文”或掃描下方二維碼閱讀完整內容：
