點(diǎn)擊藍(lán)字 關(guān)注我們
SUBSCRIBE to US

Image Credits:Samuel Boivin/NurPhoto / Getty Images
幾乎每天都有AI智能體“失控作亂”的新消息傳出。無(wú)論是入侵Hugging Face平臺(tái)、攻擊健身網(wǎng)站,還是自行創(chuàng)建虛假賬號(hào),通過(guò)社會(huì)工程學(xué)手段實(shí)施入侵,AI模型正越來(lái)越多地扮演惡意攻擊者的角色。
于是,這些研發(fā)出攻擊類(lèi)模型的AI實(shí)驗(yàn)室,正在擴(kuò)充自身的網(wǎng)絡(luò)安全防護(hù)產(chǎn)品。本周,OpenAI宣布升級(jí)旗下網(wǎng)絡(luò)防御服務(wù)Daybreak;該服務(wù)于今年早些時(shí)候上線(xiàn),而在此前不久,Anthropic剛發(fā)布了主打網(wǎng)絡(luò)安全能力的模型Mythos(https://openai.com/index/expanding-daybreak-as-the-cyber-defense-window-narrows/)。
Daybreak是一款面向網(wǎng)絡(luò)防御人員的服務(wù),整合了模型調(diào)用權(quán)限、各類(lèi)工具以及工作流程。本次升級(jí)新增了一款專(zhuān)為防御任務(wù)打造的全新網(wǎng)絡(luò)安全專(zhuān)用模型。
OpenAI于周一表示,Daybreak現(xiàn)已劃分為兩個(gè)版本:Blue與Red。兩個(gè)版本均允許經(jīng)過(guò)審核的客戶(hù)調(diào)用OpenAI受限開(kāi)放的前沿網(wǎng)絡(luò)安全模型。前沿模型代表當(dāng)前最高水平的AI模型,一直頗具爭(zhēng)議。Blue屬于兩者中相對(duì)基礎(chǔ)的版本,提供多項(xiàng)網(wǎng)絡(luò)安全服務(wù),涵蓋事件響應(yīng)、惡意軟件分析以及補(bǔ)丁有效性驗(yàn)證。OpenAI將Blue稱(chēng)作“大多數(shù)防御人員的推薦入門(mén)選擇”,暗示該版本對(duì)于絕大多數(shù)企業(yè)而言已經(jīng)完全夠用。
而Red版本則提供范圍更廣、潛在風(fēng)險(xiǎn)也更高的工具集。該公司向用戶(hù)開(kāi)放“經(jīng)過(guò)專(zhuān)項(xiàng)訓(xùn)練的網(wǎng)絡(luò)安全模型”,用于開(kāi)展安全測(cè)試與漏洞研究。
Red版本還搭載了專(zhuān)屬新模型GPT-5.6-Cyber,該模型僅在此版本中提供。OpenAI稱(chēng),GPT-5.6-Cyber基于GPT-5.6 Sol開(kāi)發(fā),在部分專(zhuān)業(yè)網(wǎng)絡(luò)安全任務(wù)上具備更強(qiáng)的處理能力。
目前,GPT-5.6-Cyber僅向“可信客戶(hù)合作伙伴”開(kāi)放,據(jù)報(bào)道包括埃森哲、IBM、Crowdstrike、Cloudflare等企業(yè)(https://www.bleepingcomputer.com/news/security/openai-releases-chatgpt-56-cyber-but-its-only-for-approved-users/amp/)。
盡管來(lái)自AI智能體的威脅正在快速加劇,但批評(píng)人士也指出,這類(lèi)威脅同樣成為了AI實(shí)驗(yàn)室的營(yíng)銷(xiāo)契機(jī)。OpenAI顯然也在借這一邏輯推廣升級(jí)后的Daybreak服務(wù)。
該公司在一篇博客文章中表示:“網(wǎng)絡(luò)安全領(lǐng)域正在發(fā)生飛速變化。惡意攻擊者會(huì)越來(lái)越多地利用人工智能,以前所未有的速度和規(guī)模發(fā)起網(wǎng)絡(luò)攻擊,其中包括完全自主實(shí)施的攻擊。隨著這類(lèi)能力不斷擴(kuò)散,防御方的準(zhǔn)備時(shí)間正在不斷縮短。”
與此同時(shí),企業(yè)仍然傾向于向最了解各類(lèi)安全風(fēng)險(xiǎn)的AI實(shí)驗(yàn)室采購(gòu)防護(hù)服務(wù),畢竟這些機(jī)構(gòu)對(duì)相關(guān)風(fēng)險(xiǎn)有著切身的認(rèn)知。

微信號(hào)|IEEE電氣電子工程師學(xué)會(huì)
新浪微博|IEEE中國(guó)
Bilibili | IEEE中國(guó)
· IEEE電氣電子工程師學(xué)會(huì) ·
往
期
推
薦
IEEE TryEngineering資助計(jì)劃展現(xiàn)STEM教育科普成效
6G融合AI:核心爭(zhēng)議不在可行性,而在部署地點(diǎn)
歐洲科學(xué)家研發(fā)出分辨率達(dá)100微米的觸覺(jué)傳感器
Walden Robotics攜手豐田研發(fā)實(shí)用人形機(jī)器人