美國DARPA在人工智能領域的新發展

云腦智庫 2022-06-30 00:00


來源 |?信息安全與通信保密雜志社

智庫 |?云腦智庫(CloudBrain-TT)

云圈?|?“云腦智庫微信群”,請加微信:15881101905,備注您的研究方向

聲明?|?本號聚焦相關知識分享,內容觀點不代表本號立場,可追溯內容均注明來源,若存在版權等問題,請聯系(15881101905,微信同號)刪除,謝謝。

美國國防高級研究計劃局(DARPA)一直處在人工智能研究的前沿,可以說,美國人工智能的發展很大程度上歸功于DARPA的支持。從20世紀60年代初至今,在60余年的研究中,從最初的基礎研究項目到軍事應用研究,DARPA在基礎研究和應用研究之間建立了平衡,先后進行了自然語言理解、感知和機器人、可解釋的人工智能、下一代人工智能、人機融合、基于人工智能的網絡攻擊與防御技術等領域的研究。因此,在人工智能領域的研究和技術選擇方面,DARPA對未來人工智能技術的發展起到重要支撐和引導作用。本報告梳理了近三年DARPA在人工智能領域的新進展及新項目,分析項目中涉及的技術及DARPA的研究重點,研判DARPA未來人工智能的發展趨勢,最后,基于上述內容提出幾點認識和思考。


一、DARPA在人工智能領域的重點技術域及研究項目


當前,除了2018年美國《國防部人工智能戰略》給出了人工智能(AI)的簡明定義外,學術界對人工智能技術并沒有明確的定義和分類。DARPA當前正在進行的人工智能計劃或項目合計約33項,涉及范圍很廣。本報告選取DARPA的部分計劃和項目,將其從事的人工智能技術群歸納、提煉劃分為通用的9個技術領域,2017年以前DARPA的研究范疇未納入本文所列技術范圍。

(一)基于人工智能的網絡安全技術

以人工智能技術為支撐的網絡安全攻擊和防御已成為網絡安全發展的新方向,迫切需求全面而深入地開展基于人工智能的網絡安全攻擊和防護研究應用落地,無論是軍事領域,還是產業界支持人工智能與網絡安全的集成勢在必行。到2026年,人工智能網絡安全市場規模預計將增長到382億美元,年復合增長率高達23.3%。為此,DARPA在網絡攻擊和防御領域都開展了相關研究,開發AI工具并用于網絡領域,是DARPA長期戰略中深度推進的幾個關注焦點之一。攻擊方面高度重視研發基于人工智能芯片的自主網絡攻擊系統,進一步提升美軍在網絡安全領域的進攻實力。防御方面創建了利用僵尸網絡植入針對性打擊網絡攻擊的HACCS項目;旨在開發新一代防御技術,尋求可靠的抗欺騙機器學習模型和算法的GARD項目;采用自適應數據收集技術發現隱藏在大量輸入數據中的高級網絡攻擊的CHASE項目;尋求對社會工程攻擊自動防御的ASED項目;意在融合人工和計算機網絡防御系統,發揮“1+1>2”聯合效應的CHESS項目。

*基于人工智能的網絡攻擊技術

“基于人工智能芯片的自主網絡攻擊系統”項目。最初由美斯坦福大學和美Infinite初創公司2017年10月聯合研發,DARPA給予高度重視并予以優先資助。該系統能夠自主學習網絡環境并自行生成特定惡意代碼,實現對指定網絡的攻擊、信息竊取等操作。該新型網絡攻擊系統基于ARM處理器和深度神經網絡處理器的通用硬件架構,在特定網絡中運行后,能夠自主學習網絡的架構、規模、設備類型等信息,并通過對網絡流數據進行分析,自主編寫適用于該網絡環境的攻擊程序。該系統每24小時即可生成一套攻擊代碼,并能根據網絡實時環境對攻擊程序進行動態調整,由于攻擊代碼是全新生成的,因此現有的依托病毒庫和行為識別的防病毒系統難以識別,隱蔽性和破壞性極強。DARPA高度重視該系統的自主學習能力、應對病毒防御系統的能力,認為具有極高的應用潛力,能夠在未來的網絡作戰中幫助美軍獲得技術優勢。

*基于人工智能的網絡安全防御技術

(1)“利用自主系統對抗網絡對手計劃(HACCS)”項目。該項目于2018年啟動,將持續4年,是DARPA的重點項目之一,正迅速推進人工智能與網絡安全和網絡戰的集成。該項目將網絡空間中脆弱的和已被惡意控制的節點集合統稱為灰色地帶,灰色地帶的節點可能表現為僵尸程序、后門和跳板等形態,可能被多個攻擊者利用。該項目旨在通過技術和算法,測量識別僵尸網絡感染的網絡,識別駐留在網絡中的設備類型以及潛在訪問媒介的穩定性。總體目標是開發“自主軟件助理”,研究能準確識別僵尸感染網絡、網絡設備類型及潛在的穩定訪問矢量的技術和算法,以利用僵尸網絡植入有針對性地打擊網絡攻擊,以及大規模惡意軟件攻擊,旨在整合AI增強型應用程序來捍衛美國武裝部隊的網絡。

目前該項目正投資于三項主要技術領域:在互聯網上發現和識別僵尸網絡的系統;通過已知安全漏洞將軟件傳至受感染設備的工具;能夠禁用僵尸網絡惡意軟件傳輸應用的軟件。最終,DARPA計劃將這些技術集成到一個單獨的系統中,這樣就可以在無人參與的情況下發現、處理和消除受僵尸網絡感染的設備。目前項目的第一階段由Packet Forensics公司研發能夠掃描全球約5%的IP地址,并且發現僵尸網絡的準確率達80%的技術。到項目結束時,DARPA預計該系統將能夠對全球80%的互聯網進行掃描分析,并且發現僵尸網絡的準確率可達95%。

(2)“確保人工智能抵御欺騙的穩健性(GARD)”項目。該項目于2019年啟動,意在尋求以檢測、定位和預測進行防御,推動先進機器學習防御技術;尋求通過開發抵抗不同模式物理攻擊(視頻和音頻)的防御技術,推動先進機器學習防御技術超越標準的數字圖像模式。該項目的三個具體目標是:(1)開發防御性機器學習的理論基礎。這些基礎包括用于衡量機器學習弱點的標準,以及用于確定增強系統可靠性的機器學習性能標準。(2)在各種環境中,創建并驗證原則防御算法。(3)構建基于想定的評估框架,表征在多種目標和威脅模型下的防御技術。2019財年,項目團隊重點研究識別漏洞產生的原因,為機器學習算法的魯棒性制定指標;2020財年開發提高機器學習系統應對欺騙數據和敵對攻擊魯棒性的方法,通過挑戰性問題、攻擊模擬和公開競賽建立機器學習風險評估試驗臺。

盡管當前機器學習防御技術傾向于高度針對特定攻擊和狹窄威脅模型,但GARD項目尋求開發更通用的防御技術,適用于廣泛的攻擊類別和不同的威脅模型。GARD項目的防御技術將在基于想定的框架中評估,表征針對多種威脅的防御能力,包括:數字之外的物理環境;藥餌和推理攻擊;不同級別的攻擊者或防御者知識(例如黑箱、白箱);輸入模式(例如圖像、視頻和音頻),以及多模式多傳感器設置;攻擊者和防御者的資源約束(例如計算、數據和疑問)。

(3)“大規模網絡捕獵(CHASE)”項目。企業規模的網絡在規模和分布式結構方面都面臨挑戰,當今最先進的商業工具也無法直接解決為多個網絡提供最佳防御所需的規模和速度。2018年,DARPA和BAE系統公司聯合開發一種以人工智能為支撐的新型大規模網絡捕獵(CHASE)安全技術。該項目尋求開發自動化工具,以檢測和表征新穎的攻擊媒介,收集正確的上下文數據以及在企業內部和企業之間傳播保護措施。CHASE的目標是開發用于檢測,表征和戰略數據管理的基礎技術,專注于研究能夠加速網絡搜索的方法,在正確的時間從正確的設備提取正確的數據,利用機器學習建立自動化,通過模式識別、背景關聯、新舊數據對比來組織和分析新的信息。DARPA將此技術稱為“自適應數據收集”,使用計算機自動化、高級算法和更高的處理速度實時跟蹤大量數據,使網絡“獵手”能夠發現隱藏在大量輸入數據中的高級網絡攻擊。通過過濾人類網絡防御者無法追蹤的大量信息,開展實時調查研究。

CHASE項目還將開發一些組件的原型,這些組件能夠讓網絡所有者重新配置傳感器,達到機器的速度,同時又具有適當的人工干預,不僅要挫敗惡意軟件、網絡釣魚和拒絕服務攻擊,而且還要挫敗更縝密、更復雜的攻擊。該項目由三階段組成,計劃在三年內為美軍提供該技術,目前處于第一階段,主要利用機器學習優勢,即計算機自動化處理大量信息,并同時將數據置放在正確的背景下,一定程度上,可通過使用算法分析數據(有時以毫秒為單位)來實現。

(4)“主動社會工程防御(ASED)”項目。DARPA于2017年9月發布ASED項目公告,旨在尋求利用軟件機器人從惡意對手那里自動獲取信息,以甄別、破壞和調查社會工程攻擊。軟件機器人將傳達用戶和潛在攻擊者之間的通信內容、檢測攻擊行為以及協調調查行動以發現攻擊者的身份。該項目包括三個技術領域:(1)自動檢測社會工程攻擊,主要通過觀察社會工程攻擊的特征研發自動檢測社會工程攻擊的技術,并驗證通信者的身份。該項目此部分工作將研發通信機器人,以傳達和觀察攻擊者和潛在受害者之間的通信信息。(2)自動調查社會工程人員,使用自動化、虛擬、可變自我的機器人來幫助發現攻擊者的身份。每個機器人將管理它可以交易的資源,以獲取有關攻擊者的信息。(3)可擴展的評估團隊,評估自動探測社會工程攻擊和自動調查社會工程師的表現,并通過社會工程攻擊衡量其進展情況。該項目將使用真實機構的電子郵件和電話系統構建試驗范圍,以建立技術評估的現實環境并開展真實試驗。

(5)“人機探索軟件安全(CHESS)”項目。該項目于2018年5月啟動,其目標是實現自主、半自主網絡安全系統與網絡安全專家之間的協同合作,開發一種允許計算機和人類進行協作推理的技術。雙方通過在類似于源代碼和編譯二進制文件等軟件構件上進行協作,從而能比人類更快、更準確地發現漏洞,將黑客專業知識轉化為技術人員更容易獲得的自動分析技術,最終在機器速度下實現專家黑客級漏洞分析。該項目是DARPA在網絡能力方面重點關注的三大技術領域之一,整個項目預計耗時42個月,計劃將從5個技術領域尋求創新方案:人機協作、漏洞發現、進攻性的態度、控制團隊以及集成、測試和評估。很明顯,CHESS代表了由人機團隊擔任高強度網絡運營的發展趨勢——將人類的洞察力與機器的計算分析速度和規模相結合,利用自動化程序分析技術與高級人機協作的創新融合,實現在某些規模下、特定時間內發現系統漏洞。

(二)下一代人工智能技術

DARPA認為第二代人工智能技術依賴于大量高質量的訓練數據,不能適應不斷變化的條件,提供有限的性能保證,無法向用戶解釋其結果。未來第三代AI技術可能會極大地改變軍事任務規劃,科學家可利用機器開展研究,人類可與機器互動。人機各有優點和不足,兩者之間更加密切的合作可實現更好的決策能力和產生更具創造性的思維。

為此,DARPA啟動了開發第三代AI技術的下一代人工智能(AI Next)項目,以及大型的、多樣的基礎及應用的人工智能項目組合—人工智能探索(AIE)計劃;致力于將AI提升為有洞察力和可信賴的合作者的AIRA計劃;為第三代AI開發新算法的虛擬智能處理(VIP)項目。

*主要研究內容

(1)“下一代人工智能(AI Next)”項目。該計劃于2018年7月首次宣布,并于2019年8月續簽。DARPA未來5年將為此計劃投資高達20億美元,研究重點涵蓋新能力、高可靠性、對抗性、高性能、下一代AI等。AI Next項目基于DARPA過去60年引領開發的兩代人工智能技術,旨在解決國防部最棘手的問題,并定義和塑造未來的發展趨勢。該計劃的重點領域包括關鍵的國防部業務流程的自動化;提高AI系統的魯棒性和可靠性;增強機器學習和AI技術的安全性和彈性;減少功耗,數據和性能效率低下;并開創了下一代AI算法和應用程序,例如“可解釋性”和常識推理。

(2)“人工智能探索(AIE)”計劃。該計劃于2018年創建,通過AI計劃,DARPA尋求開發“第三波“人工智能理論和應用程序,通過使機器能夠結合上下文中的可用數據、事實、模型、啟發式和附加信息來解決當前的限制,以實現更大的魯棒性、適應性和可推廣性。AIE構成了一系列高風險,高回報的項目,旨在加快AI平臺的研究和開發工作,主要進行 AI 試點、概念驗證、將商業技術平臺用于國防用途,以及操作或技術工具的設計、開發與演示,測試創新概念的價值和可行性。該計劃是一個綜合性計劃,研究工作包括兩方面:一是側重于基礎研究;二是開發基于深度學習的模型及其他,以當前AI行業的開發基準來制定解決問題的框架。專注于第三波人工智能的應用及理論,讓機器適應不斷變化的情況。

(3)“人工智能研究助理(AIRA)”計劃。2018年9月,DARPA宣布了人工智能研究助理(AIRA)計劃,致力于將人工智能提升為有洞察力和可信賴的合作者。該計劃重點解決兩個目標:1)探索和開發新的人工智能算法和方法,以發現復雜物理現象的科學規律和控制方程;2)探索新的方法來評估數據過于稀疏,嘈雜或不足以建立預測模型的地方;產生可檢驗的假設;找出可以緩解數據短缺問題的高價值實驗;并量化訓練空間之外預測的置信度。該計劃是DARPA AIE計劃的一部分,旨在通過標準項目和相對短期的技術開發項目來提高人工智能的水平,這些項目可以快速測試和驗證新的人工智能概念。此外,在AIRA計劃下,DARPA尋求解決將人工智能嵌入物理學,以及更廣泛地嵌入科學和科學過程的挑戰。

(4)“虛擬智能處理(VIP)”項目。第三代人工智能算法要能處理不完整、稀疏、冗雜的數據,以及新計算模型引發的意外情況,同時可從較少的案例中學習新概念,并指導未來硬件的發展。2019年啟動的該項目共分兩個階段:第一階段主要解決基于未研究的數學理論的算法,并驗證其能效和數據處理能力能否提高10倍,以解決軍事領域的相關問題,預計持續12個月;第二階段將第一階段開發的算法應用于實際的數據庫,并提供可行的硬件結構,探索未來硬件開發的性能伸縮預測,預計持續6個月。

(三)機器學習技術

當前的機器學習系統無法不斷學習或適應新的情況,系統程序在經過訓練后即會固化,因此部署后,無法對新的、不可預見的情況做出響應,通過增加新信息來修改程序缺陷又會改寫現有的訓練集。在當前技術條件下,解決這一問題需要使系統脫機,并利用包含新信息的數據集對機器系統進行重新訓練。為解決這一問題,DARPA于2017年開展了“終身學習機器”項目,目的是使智能系統目前采用的固化訓練方法能夠被現場學習方法所取代,實現更安全、靈活、有效的人工智能系統能夠在操作中學習并將學習內容應用于系統之前未經訓練的新環境。同年,啟動了“通過數字捕捉并傳遞人類行為規范”的項目,讓機器人能夠快速評定給定情景并學會應用人類的社會行為規范。2019年啟動“能力感知機器學習”(CAML)項目,主要研究自主裝備與系統能夠評估自身的任務完成能力與策略,并以人類可理解的方式呈現出來。

*主要研究內容:

(1)“終身學習機器(L2M)”項目。探索生物學習機理在人工智能中的應用,推進新一代人工智能系統的發展,試圖打破機器學習系統對預編程和訓練樣本的依賴,使人工智能系統像生物系統一樣能夠根據經驗進行決策,提高行動的自主性,增強廣度環境適應能力。為了實現這一目標,L2M項目旨在從根本上開發一種全新的機器學習機制,使系統能夠從經驗中不斷學習,并將為第三次人工智能技術浪潮打下堅實的技術基礎。

該項目從2017年以來將持續4年,包含兩個技術領域:第一個著眼于框架開發,可以不斷應用過去的經驗,應用“經驗教訓”于新數據和新情況。同時,要求開發的技術可用于監測機器學習系統的行為,對適應能力的范圍進行限制,以及按需要控制系統的功能。研究將包括網絡理論、算法、軟件和計算機結構。第二個是技術領域,源于對生物學習機制的興趣,著重探討生物系統是如何學習和適應,以及考慮是否和如何將這些原則和技術應用到機器學習系統。2019年3月,該項目取得重大進展,所研究的機器人肢體依賴一種生物啟發算法,即可自行學習步行任務,機器人“邊做邊學”的能力是機器終身學習的重大進步,人工智能系統有可能從相關經驗中進行學習,該研究成果發表于《自然·機器智能》雜志。

(2)“能力感知機器學習(CAML)”項目。該項目自2019年啟動以來為期四年,重點研究自我認知或經驗認知、任務策略的自我認知、能力感知學習和能力演示四個方面,目的是通過創建一種全新的機器學習方法來改善人機協同能力,并幫助人類作戰人員根據機器的專業水平和經驗選擇合適的智能機器伙伴,有助于將自主裝備與系統從工具轉變為可信任的合作伙伴。最終自主裝備與系統能夠控制自身行為以符合人類操作員的預期,并使操作員能夠快速、準確地洞察系統在復雜的、時間要求高的動態環境中的能力,最終達到人機良性協同與互動。

(3)“通過數字捕捉并傳遞人類行為規范”項目。主要研究為“規范和規范性網絡是什么”制定理論和形式框架;實驗研究這些規范是如何在人類意識中形成并激活的;判定這些規范如何學習并通過新的交互式算法表現出來。目前已經建立了人類表現中規范的認知計算模型,并編碼至機器,開發了機器學習算法,使機器能夠在由人類數據描繪的不熟悉情景中學習規范。此項工作代表了人工智能系統開發的重要進步,使人工智能系統能夠“憑直覺感知”如何在特定情況下以大多數人類做事的方式來進行社交活動。這些研究成果加速了人工智能機器模仿最佳人類行為規范的進程,有助于機器人變得“社會化”甚至“倫理化”。

(四)可解釋AI技術

可解釋人工智能(XAI)是人工智能領域的一個新興分支,研究如何通過動態生成的圖表或文本來描述和理解AI技術做出決策的路徑,解釋AI決策背后的邏輯。傳統的人工智能/機器學習算法在輸入數據和輸出答案之間存在著不可觀察的黑盒空間,因此,對XAI的研究也應運而生。2017年,DARPA啟動了“可解釋人工智能”項目,旨在建立一套新的或改進的機器學習技術,生成可解釋的模型,結合有效的解釋技術,使用戶能夠理解、一定程度信任并有效管理未來的人工智能系統。2017年3月,DARPA從學術和工業界挑選出13家研究機構進行資助,包括加州大學伯克利分校、加州大學洛杉磯分校、卡耐基梅隆大學、SRI、PARC、Rutgers、Raytheon等。

*主要研究內容:

該項目正在開發新一代機器學習技術,以形成一套基礎理論來解釋人工智能得出的結論,目標是產生更多可解釋的模型,同時保持高水平的預測準確性,使用戶能夠理解、信任并有效管理新一代人工智能伙伴。該項目可分為兩個技術領域:可解釋的學習者和解釋的心理學模型。2018年已取得了一些成果,主要在通過獎勵分解解釋深度自適應編程,使用場景圖和視覺注意生成對視覺問答的自然語言解,學習循環策略網絡的有限狀態表示,一種解釋貝葉斯網絡分類器的符號方法等方面取得了一些新進展。2019財年評估了初始原型系統的性能,著重改進可解釋的機器學習方法,完善人工智能解釋理論的計算模型。2020財年著重優化可解釋的機器學習用戶界面,將其集成到原型系統。目前,華盛頓大學的研究團隊已經取得了一些研究成果,開發了一種方法,可以讓人工智能系統闡述其輸出結果的基本原理,并會從數據集中自動找到一些樣本,然后給出簡短的解釋。研究團隊還針對圖形識別系統設計了一些方法,通過標注圖片上最重要的部分來揭示圖形識別系統的判斷邏輯。該項目將建立起信任的橋梁,使人類能夠適應并習慣與智能機器一起工作,未來的應用前景十分可觀,但還面臨著巨大挑戰:如何生成可解釋模型、如何設計解釋接口、如何理解用戶心理需求以進行有效地解釋等。

(五)人機融合技術

意識控制系統將可能推動軍事理論和應用的重大變革,具有巨大的潛在軍事價值,人機融合是其在未來戰場應用的主要障礙之一。為解決機器和人類“思考”方式的基本差異,促進人機融合與團隊合作,使人工智能系統成為“解決問題的合作伙伴”。為此,DARPA非常重視人機融合領域的研究,2019年陸續發布“智能神經接口”(INI)項目和“人工智能科學和開放世界新奇學習”(SAIL-ON)項目,致力于推動人機融合技術的發展。

*主要研究內容:

(1)“智能神經接口(INI)”項目。旨在開發神經接口維護和應用的決策方法,通過模擬和利用生物神經電路信息來提高帶寬與計算能力,解決中樞和外圍神經接口的有關問題,建立第三代人工智能方法的概念原型,以改進和擴大下一代神經技術的應用空間。主要包括兩個技術領域:一是神經接口維護,研究神經接口的可持續發展和維護決策,以提高魯棒性和可靠性;二是信息內容的最大化,對生物神經電路的信息內容進行建模和最大化,以增加神經接口的帶寬和計算能力。

(2)“人工智能科學和開放世界新奇學習(SAIL-ON)”項目。旨在研究和開發必要的基礎科學原理以及通用工程技術和算法,以創建在開放世界中發生的新穎情況下適當且有效地起作用的AI系統。SAIL-ON在AI的多個子領域尋求專業知識,包括機器學習、計劃識別、知識表示、異常檢測、故障診斷和恢復、概率編程等。項目主要包括三個目標:一是制定科學原則,量化和描述開放世界的新奇性類型和程度;二是創建可在開放世界中適當和有效運作的人工智能系統;三是在選定的國防部領域進行系統演示和評估。該項目旨在奠定相關技術基礎,使無論什么領域的機器,都能自主進行軍事OODA循環過程,即觀察形勢、根據觀察內容進行調整、決策最佳行動方針、最終采取行動。

(六)推理決策技術

推理決策是指計算機程序模擬人類智能,為達到一定目標,按照某種策略從已有事實和知識推出結論、做出決策并付諸實施的過程。推理決策技術包括確定性推理決策和不確定性推理決策,人工智能系統的智能水平主要體現在求解不確定性問題的能力上。2019年,DARPA啟動了“以知識為導向的人工智能推理模式”(KAIROS)項目,旨在建立復雜現實事件的圖譜結構和知識庫,構建能夠對事件進行分析和預測的人工智能模式識別能力。

*主要研究內容:

KAIROS項目將使用一種“基于模式的人工智能”技術感知世界各地的事件,尤其可用于發掘多媒體信息中的復雜事件,并對其進行上下文理解和時間推理,預測其如何發展。該項目分為兩個階段目標展開:(1)利用大規模數據來學習創建一系列模式,主要基于語言學推理和常識的因果關系來對各個子事件進行檢測分類和聚類。通過大量普遍的、復雜的和特殊的過程來幫助系統生成一種可以同時描述簡單和復雜事件的機制,將這些機制按照一定的序列組合就能發掘出像時間線和關鍵角色一類重要的上下文信息。(2)系統被用于分析復雜的現實世界數據,并嘗試根據創建的模式提取事件和敘述,可從紛繁復雜的世界中抽取出復雜事件的蛛絲馬跡。致力于識別事件、實體等因素之間的關聯關系,以幫助人工智能系統形成和擴展其知識庫。該技術通過系統分析社會運作和輿論趨勢,提前預知諸多風險,使管理部門和政府可以及時防患于未然,具有很大的軍事和國防應用潛力。未來,基于全球信息系統的因果分析和推理系統將會在人工智能的幫助下逐漸成型。

(七)頻譜管理技

隨著軍事系統、手機、智能家庭設備等越來越多,頻譜越來越擁擠。如何解決日益增加的頻譜需求,對國家是挑戰,對軍隊更是亟待解決的難題,而現行的人為管理方式使頻譜無法根據動態供求關系進行自適應調整。為此,DARPA于2017年啟動了致力于將軟件定義無線電和人工智能技術結合起來重新思考頻譜實踐的“頻譜共享挑戰賽”(SC2)項目;同年啟動了“射頻機器學習系統(RFMLS)”項目,探索利用機器學習理解無線電信號,旨在利用射頻機器學習系統能力研究無線電頻譜構成,并通過相關技術開發改善和擴展頻譜共享,極大擴展電磁頻譜的無線通信容量。

*主要研究內容:

(1)“頻譜共享挑戰賽(SC2)”項目。該項目旨在極大擴展電磁頻譜能夠容納的無線電通信流量,確保呈幾何級數增長的軍用和民用無線電設備能充分使用日益擁擠的電磁頻譜。參賽對手重新設計頻譜接入策略,并開發一種新的無線模式,使無線電網絡自主協作,推出共享RF頻譜、避免干擾的方法,并共同開發實現頻譜最佳使用的方案。SC2團隊借用人工智能和機器學習的最新技術以及擴展的軟件定義無線電能力來開發這些突破性能力。該項目不僅要挑戰學術界和商業界的創新人員在共享AI方面取得的突破,還要催化一種新的頻譜模式,幫助DARPA開辟一個頻譜充足的時代。

(2)“射頻機器學習系統(RFMLS)”項目。針對目前電磁環境中存在著態勢感知能力不足、威脅無法確定以及通信易受惡意干擾等問題,該項目探索利用機器學習理解無線電信號,包括掌握占用頻譜的信號種類、從背景中提取出重要的信號,辨別來自物聯網設備的射頻信號,以及將這些信號與試圖入侵設備的信號區分開來等。

RFMLS具有四個技術組件,這些組件將集成到將來的RFML系統中:1)特征學習:利用射頻信號數據集,RFML系統需要學習用于識別和表征各種民用和軍用設備信號的特性。2)注意力與顯著性:RFML系統其注意力導向運行射頻頻譜中潛在的重要事項,并設計一種射頻領域的“顯著性檢測”,即實現一種對重要視覺和聽覺刺激進行識別的能力。3)自主射頻傳感器配置:對于那些系統認為對完成任務最為有效的信號和信號特征,系統應當能夠自動調節對其感受能力。4)波形合成:對幾乎一切可能波形進行數字合成。DARPA認為,該項目將使射頻系統能夠對空前擁擠的頻譜中的信號進行區分和表征,并為新興的自動化系統及依賴這些系統的指揮官們提供更多了解無線領域所需信息。在RFMLS的四個組成部分中,特征學習和波束合成屬于射頻前端,注意力引導和自主射頻傳感器配置屬于頻譜感知。

(八)新一代計算機芯片技術

摩爾定律作為一項基本原理,一直推動著計算機芯片微處理器的發展,但隨著晶體管越來越小,晶體管電路逐漸接近性能極限,通過提高集成度來提升芯片性能變得愈發困難,摩爾定律即將走到盡頭。為此,DARPA認為開發專用電路或專用型集成電路芯片(ASIC)是突破摩爾定律的方法之一,將研發特制芯片作為“電子復興計劃”(ERI)的一部分,2017年,DARPA授出3億美元的合同,開發新一代計算機芯片,以滿足對更高階處理能力的需求,確保人工智能的長足和持續發展。

*主要研究內容:

(1)“軟件定義硬件”項目。通過開發一種硬件/軟件系統,允許數據密集型算法在不受任何與ASIC相關的開發成本、開發時間和單個應用限制的情況下,在ASIC上高效運行。領域內專用系統芯片項目。簡單地說,就是將通用芯片、硬件協處理器和ASIC組合起來,將這個組合體輕松編到特定技術領域的應用程序中。

(2)“實時機器學習(RTML)”計劃。旨在通過開發一種基于機器學習框架的自動生成新穎芯片設計的方法,來降低與開發針對新興機器學習應用量身定制的ASIC相關的設計成本。RTML程序的目標是創建一個編譯器或軟件平臺,該編譯器或軟件平臺可以接收TensorFlow和Pytorch之類的機器學習框架,并根據特定機器學習算法或系統的目標,生成針對該機器學習優化的硬件設計配置和標準Verilog代碼。在程序的整個生命周期中,RTML將在兩個關鍵的高帶寬應用領域(5G網絡和圖像處理)中探索編譯器的功能。基于應用空間的預期敏捷性和效率,RTML編譯器為原型設計和測試需要新穎芯片設計的基本機器學習研究思想提供了理想的平臺。RTML是DARPA電子復興計劃第二階段的一部分,該計劃為期五年,美國政府和國防電子系統投資超過15億美元。作為ERI第二階段的一部分,DARPA支持國內制造方案,并能夠開發滿足不同需求的差異化能力。

(3)“大腦皮質處理器”項目。旨在通過模擬人類大腦皮質結構,開發出數據處理更優的新型類腦芯片。這些人工智能芯片功耗極低,可用于實時數據感知處理和目標識別,還可解決高速運動物體的即時控制等難題,其未來投入應用后,將實現無人作戰及云計算能力的巨大提升。

(九)深度偽造檢測技術

深度偽造不同于以往相對簡單的PS圖像篡改或其他的視頻、音頻篡改技術,而是基于訓練樣本進行人工智能的深度學習,是人工智能發展到一定階段的產物。隨著樣本數據越來越多,計算機對目標對象的模擬也越來越真實,可達到以假亂真的地步。深度偽造技術結合社交網絡的漣漪效應,可以帶來大規模的以訛傳訛式擴散,達到信息作戰目標。在近幾年迅速興起,為國家間的政治抹黑、網絡攻擊、軍事欺騙、經濟犯罪甚至恐怖主義行動等提供了新工具,為國家安全帶來很大沖擊。隨著深度偽造技術的飛速發展及造成的影響越來越大,對其檢測變得越來越重要。為此,DARPA重點研發媒體取證(MediFor)、語義取證(SemaFor)兩大項目,檢測并識別深度偽造技術制作的各型產品,以防御大規模的自動虛假信息攻擊,提高美軍在信息作戰中的防御能力。

*主要研究內容:

(1)“媒體取證”項目。該項目正在研發自動評估照片和視頻完整性的算法,并向分析師提供有關偽造內容是如何產生的信息。致力于探索并識別深度偽造中存在的視聽不一致的技術,包括像素不一致(數字完整性)、與物理定律不一致(物理完整性),以及與其他信息源的不一致(語義完整性)等問題。MediFor項目匯集了世界一流的研究人員,試圖通過開發技術來自動評估圖像或視頻的完整性,并將這些技術集成到端到端媒體取證平臺,對于給定的圖像或視頻,自動進行檢測,并向分析師和決策者提供具體信息,包括不同操作的表現形式,如何進行操作,以及相關重要性,以便于根據圖像和視頻價值做出決定。該項目2019財年獲得1750萬美元的資助,2020財年獲得530萬美元。“媒體取證”項目在2021財年完成后,預計將過渡到作戰指揮和情報部門。

(2)“語義取證”項目。該項目于2019年8月啟動,旨在開發使偽造媒體資產的自動檢測、歸屬和表征成為現實的技術,目標是開發一套語義分析算法,為了開發跨媒體模式和大規模使用的分析算法,該項目專注于三種特定類型的算法:語義檢測、歸因和表征。(1)語義檢測算法確定是否生成或操縱多模態媒體資產;(2)而歸因算法推斷媒體是否來自聲稱的組織或個人。確定媒體是如何創建的,由誰來幫助確定其創建的更廣泛的動機或理由,以及偽造者所掌握的技能;(3)最后,表征算法推斷是否為惡意目的生成或操縱多模態媒體。這些技術有助于識別、阻止和了解對手的虛假信息宣傳活動。該項目還將開發使人類分析師能更有效審查被操縱的媒體資產并確定其優先級的技術,包括整合檢測、歸因和表征算法提供的定量評估的方法,自動確定媒體的優先級,以便進行審核和響應。為了向分析師提供可理解的解釋,還將開發自動組裝和策劃檢測、歸因和表征算法提供的證據的技術。在項目的整個生命周期中,針對一組代表新的或新興威脅情景的挑戰進行評估。該項目最終形成的語義不一致性檢測工具將顯著提高媒體偽造者的惡意成本,因為媒體偽造者以后需要“完善每一個語義細節”,而防御者“只需找到一處不合理之處”就可判斷媒體真偽。該項目將于2024年6月前完成。

二、DARPA在人工智能領域的研究重點


(一)高度重視第三代人工智能基礎理論研究,秉承顛覆性技術創新的使命定位

DARPA認為第一代人工智能系統主要基于手工化處理知識或狹義任務規則,對嚴格定義的問題具有較好推理能力,但由于沒有學習能力且處理不確定性問題能力較差,因而系統脆弱且應用范圍有限;第二代人工智能系統以統計學習為主要特征,系統依賴大量高質量的訓練數據,只能提供有限的可靠性能保證,并且無法向用戶解釋結果的原因并缺乏情境聯想推理能力,無法適應不斷變化的復雜環境;第三代人工智能系統將重點突破前兩代的局限性,利用情境模型來感知、學習、抽象和推理,并具有很強的適應不同情境的能力。

為此,DARPA在繼續開發第二代人工智能技術及其軍事應用的同時,積極布局第三代人工智能發展,通過新設項目和延續項目,致力于第三代人工智能的基礎研究,旨在通過機器學習和推理、自然語言理解、建模仿真、人機融合等方面的研究,突破人工智能基礎理論及核心技術。為了維持美國人工智能的創新優勢,DARPA開展了一系列具有長遠價值的基礎研究項目,典型項目包括上述的:終身學習機器、下一代人工智能、人工智能探索計劃、智能神經接口、人工智能科學和開放世界新奇學習、虛擬智能處理、機器常識、可解釋人工智能、人機探索軟件安全、以知識為導向的人工智能推理模式等項目。涵蓋了大部分DARPA的AI項目,秉承并契合著其使命定位,根植于DARPA的創新基因,大膽從事其他軍種不愿意觸碰的高難度、跨軍種、與國家安全關系重大的AI項目。而且DARPA所具有的戰略眼光和長遠視野,以及超乎尋常的創造能力,使其不拘泥于眼前需求和具體問題,注重基礎理論研究,尋求問題本質,這種獨特定位使其能在國家安全戰略大格局下思考重大需求問題,推動顛覆性技術創新。

(二)高度重視以人工智能為支撐的新型網絡攻擊和防御技術的研究

人工智能作為信息革命中最具顛覆性、變革性的前沿技術,正全面而快速地融入軍事領域,網絡安全領域也不例外,以人工智能為支撐的新型網絡攻擊和防御研究在多角度研發中不斷尋求突破和發展。例如,人工智能技術加持的惡意軟件可以提高隱蔽性和針對性,繞過主流的檢測技術。而另一方面,基于人工智能的惡意代碼檢測技術可有效提升惡意代碼檢測效率和精度。

針對網絡安全這些新興問題,DARPA已將人工智能技術融入了其網絡安全研究中,啟動了相關項目,有望開辟網絡安全的新路徑:(1)網絡攻擊方面,以基于人工智能芯片的自主網絡攻擊系統項目為代表,通過人工智能自主尋找網絡漏洞,自主學習網絡環境,自行生成特定惡意代碼,自主編寫適用于特定網絡環境的攻擊程序并進行動態調整,具有隱蔽性、破壞性強,智能化程度高的特點。(2)網絡防御方面,借助機器學習和人工智能,使用大規模訓練樣本集搭建智能模型,可以準確、高效地預防、檢測和阻止網絡威脅,識別分析未知文件,即使在面對持續進化和變種的惡意軟件時也能始終保持極高檢出率,有效提高威脅檢測與響應能力,從而極大提升安全防御能力。以HACCS、GARD、CHASE、ASED、ASED、CHESS等項目為代表,DARPA從理論基礎、檢測、定位、表征、預測、人機協同、構建具備自我修復能力的網絡體系等幾方面尋求突破,實現新的網絡防御模式,應對更縝密、更復雜及人工智能加持的新型網絡攻擊。

(三)高度重視人工智能技術的可解釋性研究

可解釋性不強是當前以深度學習為代表的人工智能技術的弊端之一。絕大部分算法屬于“黑盒”系統,中間的分析與決策過程不得而知,也缺乏可交互性和操作性。對于大規模的深度學習網絡,由于存在復雜的非線性變換及大量的神經元連接,少量擾動即可引起結果的劇烈變化,表現出的行為將會變得難以理解。具有可解釋性的智能系統能夠實現人機互操作,便于將人的經驗融入到決策中,做到決策可追溯、可引導、可糾正,從而提升系統的智能性。

現代戰場環境錯綜復雜,作戰環境的微小改變都有可能讓智能化算法不再“智能”。加強算法的可解釋性,是發展通用人工智能迫切需要解決的問題。為此,DARPA依托“可解釋人工智能”項目,旨在形成一套基礎理論來解釋人工智能得出的結論,推動研究人員理解人工智能行為決策背后的機理,能夠理解、一定程度信任并有效管理未來的人工智能系統。通過該項目,新的機器學習系統將能解釋自身邏輯原理、描述自身的優缺點,并解釋未來的行為表現。此外,DARPA下一代人工智能技術域中的“下一代人工智能”項目等,其目的都是探索機器如何獲得與人相類似的交流和推理能力,讓人類可以更好地理解人工智能。DARPA的人機融合也是將最新的人機交互技術(如可視化、語言理解、語言生成和會話管理)與新的原則、策略和技術相結合,獲得有效的解釋。同時,通過解決算法的可解釋性問題,提升對智能系統的信任度,更好理解人工智能的行為和表現,解決人機信任危機。

(四)高度重視人工智能技術對美軍“馬賽克戰”能力的提升

“馬賽克戰”作為DARPA提出的創新性作戰概念,融合了美軍近年來其他作戰概念的思想和理念,成為DARPA軍事作戰體系研究的頂層核心概念。馬賽克戰的中心思想是人工指揮和機器控制相結合,通過對更為分散的美軍部隊的快速組合和重組來為美軍制造適應能力,為敵方制造復雜性和不確定性,其本質是迅速構建模塊化部隊、實現分布式作戰,對美軍作戰概念和部隊的發展具有重要意義。?

基于自主系統的分布式作戰和任務指揮、基于人工智能的快速決策支持是馬賽克戰的實現基礎。事實上,不論是基于自主系統的作戰指揮,還是基于人工智能的決策支持,都離不開人工智能技術的支撐。因此,可以說馬賽克戰從理論研究走向應用研究,歸根結底不可或缺的一環是充分發掘和利用成熟的人工智能技術。

DARPA從底層算力算法基礎層出發,利用強大算力、高效架構平臺及深度學習算法支撐通用AI技術層,以上述AI芯片、AI算法等為主要研究內容。通過對AI技術域進行組合,支撐馬賽克戰概念的關鍵作戰應用層,以上述可解釋AI、推理決策、基于AI的網絡安全技術、人機融合、語音識別等為主要研究內容。通過對各種作戰應用技術進行組合,形成分布式作戰指揮能力及快速決策支持能力,支撐起整個馬賽克作戰體系,充分體現了DARPA擅長將作戰概念與新技術相結合以創造新的顛覆性優勢的特點。

(五)高度重視基于人工智能的深度偽造檢測技術研究

當前,深度偽造給國家政治安全、經濟安全、社會安全、國民安全等領域帶來了諸多風險。國家政治安全方面,深度偽造技術為抹黑政治人物提供了新的強大工具,利用深度偽造技術制作政治人物的虛假負面視頻可以破壞其在民眾中的形象。對國家領導人選舉而言,無疑會破壞選舉人形象和選舉制度的公正性,從而威脅國內政治制度的合法性。例如2020年美國大選之前對深度偽造技術進行了重點調查,并展開了相關立法行動。深度偽造技術還可能成為信息戰的強大武器,破壞國家間的正常關系。經濟安全方面,深度偽造技術可為破壞企業形象提供新工具,為引發金融市場動蕩提供了新的不穩定源。社會安全方面,深度偽造可能會使民眾對一切事物產生懷疑,從而可能造成全社會范圍內的信任危機。國民安全方面,深度偽造技術可能會被不法分子用于制作虛假視頻,進行詐騙、勒索等違法行為,威脅公民的生命財產安全。

為防范和應對深度偽造技術的潛在風險,各國政府必須從技術工具、法律監管、公民教育以及國際合作等方面建立相應的治理框架,而其中最為關鍵的就是預警檢測技術工具的研發,DARPA為此著力開展媒體取證和語義取證兩大項目,力圖在自動評估照片和視頻完整性的算法,以及語義分析算法方面進行突破,包括整合檢測、歸因和表征算法提供的定量評估的方法,旨在開發使偽造媒體資產的自動檢測、歸屬和表征成為現實的技術。

三、DARPA在人工智能領域的未來研究趨勢


(一)認知技術的發展

?2020財年DARPA人工智能的重點投資項目,如“可解釋的人工智能”、“不同來源的主動詮釋”、“自動知識提取”和“確保人工智能抵御欺騙的穩健性”等項目,都涉及到了認知技術的研究,將數據結合知識、環境等信息轉化為認知,致力于研究具有常識、能感知語境的系統,極大促進人機融合智能的發展。未來DARPA對于認知技術的發展將從當前的自動行為轉變為自主行為,能預先感知人、環境和有效操作;加強人機交互,實現合作與信任;未來將進一步完善認知能力,提高自主能力,同時實現一些新的概念,例如智能化無人機系統編隊在對抗環境中的自主作戰,無人系統與有人平臺協同作戰等。

(二)適應動態環境的AI系統

當前的人工智能系統擅長于執行由嚴格規則定義的任務,但是,并不能很好地適應現實世界中不斷變化的條件。對人工智能系統而言,要做的第一件事就是認識世界已經改變;第二件事是表征世界如何變化;第三件事是適當地調整其響應;第四件事就是要更新世界模型。為了使AI系統能夠有效地與各種軍事應用中的人類合作,學會應對變化多端的新穎情況。DARPA致力于研究可自動識別現實環境中的變化并對其做出反應的新的AI系統。例如,DARPA的開放世界新奇的人工智能和學習科學(SAIL-ON)計劃,意在實現上述人工智能系統第三階段的飛躍。

(三)新一代網絡防御措施

當前機器學習防御趨向于高度特定,并且僅對特定攻擊有效。防御措施旨在防止特定的預先定義的對抗攻擊,并且在測試時仍然容易受到設計參數之外的攻擊,為了應對這一安全挑戰,DARPA先后啟動了利用自主系統對抗網絡對手、確保人工智能抵御欺騙的穩健性、大規模網絡狩獵、主動社會工程防御、人機探索網絡安全等諸多項目,重在實現新的網絡防御模式,致力于開發能夠防御各種攻擊的新一代防御措施,試圖通過開發基礎廣泛的防御方法來解決機器學習防御方法的不同,并探索包括生物學在內的許多潛在防御方法,解決當前的需求及未來將面臨的挑戰。

(四)可信賴的人機合作

雖然人工智能和深度學習方法在某些應用領域被證明非常有效,但在科學發現和技術開發方面,人工智能仍然沒有成為值得信任和重視的合作者。信任是團隊的關鍵要素,在組建有效的人員和自治系統團隊時,人員需要及時、準確地了解其人工智能合作伙伴的技能、經驗和可靠性,以在動態環境中信任他們。目前,機器缺乏對自身能力的了解,也無法與人類合作伙伴進行交流,從而降低了信任度并破壞了團隊效率,人工智能仍然沒有成為值得信任和重視的合作者。為了幫助將機器從簡單的工具轉變為值得信賴的合作伙伴,DARPA在機器學習、可解釋的AI、人工智能探索(AIE)、人機融合等領域創建了多個項目,側重于將AI提升為科學發現和科學過程中富有洞察力和值得信任的合作者的角色。從全新的機器學習機制尋求突破,結合有效的解釋技術,使用戶能夠理解、一定程度信任并有效管理未來的人工智能系統,最終實現人機融合。

(五)與量子計算的交叉融合

算法是計算領域技術發展的基石,人工智能領域的應用是推動算法發展的一大要素。目前,人工智能+量子計算作為交叉融合的熱點研究方向,仍需探索諸多開放性科學問題,如機器學習中的數據與特征的量子編碼與量子制備問題、量子版本的機器學習是否可真正發揮量子計算的優勢,復雜且靈活的量子機器學習任務如何與量子計算硬件進行協同適配等。目前,DARPA除了重點關注用量子計算解決機器學習問題,通過對量子/經典方法的結合,大幅改善構建高性能機器學習/深度學習解決方案所花費的總時間之外,DARPA已通過人工智能技術大幅提升量子計算的穩定性,開始探索人工智能算法在量子計算機上運行的可行性。

四、認識和思考


對于DARPA而言,可總結思考的角度很多,本節主要圍繞DARPA的創新力提出幾點認識。因為對于DARPA而言,創意就是一切。而美國軍事硬實力和戰略威懾力在很大程度上依賴于其源源不斷的科技創新能力,尤其是對戰略前沿技術的敏銳捕抓能力。

(一)善于提出問題,善于做“白日夢”

DARPA很善于提出問題,DARPA從事的科學開發工作與美陸、海、空三軍主要的軍事科學中心之間是平行關系,一般都是從事那些有潛在軍事用途而又未被陸、海、空軍列入現時議程的跨部門跨學科研究、高風險研究、超前研究和基礎研究。DARPA的獨特定位使其能超越軍種、行業、領域,甚至學科學派,在國家安全戰略大格局下思考重大需求問題,更易催生顛覆性技術的視野和遠見,推動顛覆性技術創新所需新思想、新理念的開拓。DARPA還非常善于做“白日夢”,看重的是技術理念的新穎性,偏重于以顛覆傳統的“奇思妙想”來激勵創新;其根本職責是“開發富有想象力、創新精神且通常是高風險的理念”,不受約束地“胡思亂想”各種情景,并從中總結規律,不走尋常路且不受各種條框約束的創新思維是DARPA的精髓所在。

對我們而言,必須著眼于未來需求,感知軍方的未來潛在需求,而不是去驗證軍方提出的現實需求。基于這樣的要求,對于科研工作者而言,必須真正落腳于原創性,不僅僅是跟風炒熱點,在認識、見識、方法、思維、恒心上予以重塑,盡量減低非科研因素等的干擾。

(二)注重基礎科技,夯實發展基石

軍事強國要想長期保持國防科技領先優勢和創新優勢,必須高度重視基礎學科和科技的建設和發展,持續加大投入,為武器裝備的可持續發展和國防科技的不斷創新奠定堅實基礎。對DARPA而言,其2020財年預算總計35.56億美元,比2019財年(34.27億美元)增長3.77%,比2018財年(30.88億美元)增長15%。而其中基礎研究約4.86億美元,占其總預算的比例從10年前的6.2%增長到14%左右,充分反映了DARPA在研發經費穩步增長的同時,對基礎學科領域投資的高度重視,先期技術開發依然占據預算的大頭。從項目具體預算來看,人工智能、機器學習等仍是DARPA的關注重點,其中人工智能和機器學習項目的投資漲幅最為突出,總額達4.09億美元。成分體現了DARPA對基礎性研究的重視,聚焦核心和關鍵技術的突破,夯實軍事智能化發展的基礎。

對我們而言,必須關注國家和國防發展短板和長遠發展需要的基礎上,無論是人工智能、5G、區塊鏈、量子計算、大數據等新興技術,真正做到前沿與基礎相結合,善于并勇于沉下去,杜絕跟風炒概念,真正在源頭上尋求突破。

(三)允許失敗和強調信任是DARPA堅持的創新態度

“允許失敗”是DARPA 秉持的創新態度和創新文化。認為“必須樂于面對風險,樂于進行試驗,辯證地看待失敗之處。”DARPA強調的是“高風險、前瞻性”研究,因此容忍失敗,實行開放式學習,強調管理風險,但不逃避風險,形成了一種風險承擔文化。同時,DARPA對失敗的寬容是建立在緊隨時代的戰略眼光與超乎尋常的創造能力基礎上的,不過分聚焦成敗,不關注短暫的、平庸的結果,營造良好的創新文化氛圍。但是,“高風險”并不等價于“高代價”,DARPA嚴格的項目評審機制在一定程度上又降低了高昂的代價。

“強調信任”是DARPA 秉持的創新精神,對于團隊創新研究的有序開展起到了至關重要的作用。相較于傳統研究機構,DARPA 授予了項目經理與項目研究人員較大的自主權利。研究人員一旦對某一項目產生一個大膽想法時,可以將自己的想法平等地與項目經理交流;而項目經理也能夠將“大腦風暴階段”所形成的成熟概念有效地傳達給DARPA局長,并爭取支持。在DARPA“強調信任”的創新精神影響下,項目研究人員愿意更自主地成為DARPA這個“利益同盟”的推動者。基于這種技術信仰,大量優秀人才不計薪酬差異或降薪加入DARPA,追求將想法變為實際的顛覆性成功的創新夢想,追求在某種程度上影響歷史的成就感。

(四)分類清晰,處理靈活地啟動創新項目

DARPA的定位非常明確,對其使命及具體實現途徑有章可循,從其分類清晰的項目招標書可見一斑。“單個項目BAA”針對常規項目,“廣泛BAA”面向前沿基礎性研究、“研究通告”聚焦學術和非營利機構、“項目征求”主要指向小型企業或非傳統國防承包商、“商業執行人項目通告”征求軍民兩用項目。如此清晰的招標書分類,使各領域潛在提案人可以非常方便、有針對性地提交研究方案,利于各類項目的順利啟動。雖然DARPA每類項目招標書的范式和隨后的項目立項流程相對固化,但可根據每個項目的具體情況靈活安排立項流程,以盡快向前推進項目,加速技術研發進程。此外,DARPA有多種項目構想來源,但是無論哪種來源,DARPA都秉持自己的獨立思想,從項目名稱、背景需求、初步構想、項目金額、關鍵技術、項目階段等方面進行完整闡述和要求,體現該局對各前沿技術的深刻理解,并由DARPA掌控未來技術的發展方向,確保能一直走在技術發展前沿。這種獨立性使DARPA擺脫了行政指派,可充分發揮其預見性,并激發研究人員的探索精神,促進他們之間的交流和合作,從而在一些重大的、前瞻的科技領域取得突破性進展。

(五)注重與外界建立廣泛的聯系,吸引新思想挖掘新技術

通過與外界的廣泛聯系,可以由小聚大,最終產生突破性的創新。對DARPA而言,非常注重與外界廣泛的聯系性。定期與國防部的文職官員和領導人會面,了解需要研究的問題;定期對軍事基地、司令部、訓練中心和其他軍事機構進行參訪、調研,收集情況;廣泛征求高級軍事領導人的意見,了解他們最關心且難以解決的問題:研究最新的軍事行動戰例,找出限制美軍能力的薄弱環節和問題;與軍內外涉及國家安全的諸多部門共同研討相關專業領域的技術發展問題,探索以創新性方法解決所面臨挑戰的可行性。

此外,近年來,隨著民用和商用技術的飛速發展,以DARPA、美各軍種實驗室等為代表的內部創新模式面臨挑戰,促使其非常關注外部創新成果的挖掘和利用。DARPA“聚網”社交網絡平臺于2019年3月正式公開運行,作為全球性的研發交流平臺,“聚網”將極大促進跨學科交流協作,加速研發進程,同時也將為普通民眾參與DARPA研發創新活動提供新路徑。“聚網”的開放和不斷完善,將吸引越來越多具有廣泛專業背景的研究人員甚至普通用戶積極加入,通過科學領域合作和迸發創意設想,為DARPA的研發創新活動獻策獻力,實現集思廣益和“社會智慧”的充分發揮。

(六)創新作戰概念,牽引技術應用

近幾年,DARPA加大了對智能科技的關注與升級,布局的一系列科研探索項目,將標靶瞄向了未來智能化重構的戰場。“馬賽克戰”作為DARPA近年來提出的創新性作戰概念,以構建快速、可擴展、自適應聯合多域殺傷力的新作戰模式,在傳統作戰單元的基礎上,依托先進網絡能力、人工智能處理、計算和聯網、分布式指揮控制等技術,融合大量低成本、單功能的武器系統和無人系統,形成跨域協同的分布式、開放式、可動態協作和動態重組的作戰體系,實現覆蓋陸海空天網電各作戰域的“殺傷網”。

在人工智能、大數據、云計算等技術的快速發展和支撐下,未來戰場將加速向智能化、無人化戰場過渡,陸、海、空、天、網等跨域協同作戰將成為未來戰爭的主要作戰樣式,牽引裝備技術發展和運用轉化。雖然分布式、分散作戰的理念是順應軍事斗爭發展的時代產物,但模塊化武器平臺在很長一段時間內都難以替代包括艦船、飛機等在內的傳統多用途武器平臺。目前的技術成熟度尚不足以支撐馬賽克戰成為現實,然而,無需質疑的是在可預見的未來,信息和決策將成為軍事競爭中最重要的領域之一。通過實現馬賽克戰,美軍有望形成在戰場認知域的優勢,這是值得我們關注和警惕的

-?The End

版權聲明:歡迎轉發本號原創內容,轉載和摘編需經本號授權并標注原作者和信息來源為云腦智庫。本公眾號目前所載內容為本公眾號原創、網絡轉載或根據非密公開性信息資料編輯整理,相關內容僅供參考及學習交流使用。由于部分文字、圖片等來源于互聯網,無法核實真實出處,如涉及相關爭議,請跟我們聯系刪除。我們致力于保護作者知識產權或作品版權,本公眾號所載內容的知識產權或作品版權歸原作者所有。本公眾號擁有對此聲明的最終解釋權。

投稿/招聘/推廣/合作/入群/贊助?請加微信:15881101905,備注關鍵詞

“閱讀是一種習慣,分享是一種美德,我們是一群專業、有態度的知識傳播者.”

?閱讀原文加入知識星球,發現更多精彩內容.

?分享?? 點贊?? 在看??@以“三連”行動支持優質內容!?

云腦智庫 努力是一種生活態度,與年齡無關!專注搬運、分享、發表雷達、衛通、通信、化合物半導體等技術應用、行業調研、前沿技術探索!專注相控陣、太赫茲、微波光子、光學等前沿技術學習、分享
評論
  •                                                                        
    廣州鐵金剛 2026-08-06 17:44 136888瀏覽
  • 在前六期中,我們已經分別討論了 CRA 的適用范圍、整體影響、漏洞通報義務、風險評估與技術文檔證據鏈、第三方組件與 SBOM 供應鏈治理,以及產品上市后的支持期、安全更新、用戶說明和終止支持管理。到這里,企業已經能夠回答幾個核心問題:產品是否落入 CRA 適用范圍,產品由哪些組件構成,企業如何證明自己在設計、開發和上市前采取了必要的安全措施,以及產品上市后如何持續維護和安全下線。但對于真正準備落地 CRA 合規的企業來說,還有一個更現實的問題:CRA 的法規條文相對原則化,企業應當如何把“網絡安
    虹科云科技 2026-08-03 16:51 185948瀏覽
  •        很多人只見過封裝在SMD外殼里的小尺寸晶振,卻不知道一顆2016、1612甚至1210封裝的微型石英晶振,從一塊巴掌大的石英原礦,到最終能穩定起振的成品,要經過十幾道精密工序。它內部的石英晶片厚度最薄不到20微米,比普通A4紙的1/5還薄,整個生產過程里哪怕0.1微米的誤差,都會直接廢掉整批產品,這也是小尺寸晶振過去長期依賴進口,國內廠商花了十幾年才啃下量產硬骨頭的核心原因。1. 原石定向切割:0.01度的角度誤差都不能有小尺寸晶振的第一步,
    TKD泰晶科技 2026-08-07 08:43 401瀏覽
  •     長期專注WiFi領域,也算是行業老兵了!同行閑聊中,時不時能提起我和我們!從疫情起,國產替代風生水起,起起落落,大浪淘沙,生存下來的都是強者!    WiFi模塊應用廣泛,對于高端市場和特定市場,要求WIFI模塊需要過CE/FCC之類的認證,也就是說沒有認證的模塊,不具備導入產品設計.接下來就和大家聊聊認證模塊選型參考!    WIFi模塊硬件方面主要考慮以下九點特性:    1
    納拓科技 2026-07-31 17:56 277瀏覽
  • 摘要防爆自控系統同時布設本安信號、工業總線、動力供電三類線路,僅依靠標識標牌管控插接極易出現人為錯插問題,高壓動力回路竄入本安弱電回路會突破安全柵限能標準,產生點火風險。依托 A、D、K 標準化機械防呆編碼體系,搭配護套顏色區分管理,適配 3 針 3 孔免焊接冷壓增安型防爆航插、5PIN 總線防爆航空插頭、8 芯焊接防爆法蘭插座的選型使用,從物理結構層面杜絕防爆接近開關連接器、防爆傳感器航插接頭混用插接問題,補齊防爆系統被動安全防護體系。關鍵詞圓形防爆連接器,防呆編碼防爆航插,防爆航空插頭,防爆
    kyfbest科迎法電氣 2026-07-31 18:29 417瀏覽
  • 產品使用18V供電,配套4串鋰離子電池,需要設計一個充電器。因為輸入18V,電池最高 16.8V,壓差僅 1.2V。因為壓差太小。使用開關型的充電控制芯片不穩定。嘗試自行設計一個。整體采用分立三極管 + TL431架構,分4個功能單元:使能控制回路、限流環路、TL431 精密恒壓反饋環路、PNP 功率管主功率輸出回路;實現完整鋰電池充電邏輯。使能控制回路按鍵按下:5V 電壓經 R12 (2kΩ) 送入 NPN 管 Q3 基極,Q3 飽和導通,對地拉低 R1、R2 組成的分壓控制節點電位;該節點直
    southcreek 2026-08-07 13:45 353瀏覽
  • 文:杜杰編輯:侯煜當地時間7月28日,美國特朗普政府落地最新科技封鎖政策,美國聯邦通信委員會(FCC)正式更新《受管制清單》,新增兩大類設備——境外生產的先進機器人設備、境外生產的聯網電力逆變器。FCC在官方情況說明書中明確,該類境外制造產品,“會對美國國家安全或美國民眾的人身安全構成無法承受的風險”。本次新規設置明確豁免機制:經美國國防部(DoW)、電力逆變器品類經美國國土安全部(DHS)審核并授予“有條件批準”,認定對應設備品類不存在重大安全風險,即可獲得準入豁免。同時政策嚴格執行新老劃斷原
    華爾街科技眼 2026-08-03 21:28 341瀏覽
  • 在EMC測試過程中,傳導發射(Conducted Emission,CE)超標是工程師最常遇到的問題之一。更令人頭疼的是,同樣的超標曲線背后,可能對應著完全不同的干擾機理:有的是差模噪聲沿電源回路傳播,有的是共模電流通過寄生路徑耦合,還有些問題甚至并非來自電源本身,而是負載、電纜布局或接地結構引起的連鎖反應。 · 150kHz~1MHz 超標:多為差模噪聲為主,干擾沿火線-零線回路傳輸。 · 1MHz~30MHz 超標:通常共模噪聲占主導,干擾通過火線/零線對地回路傳播。 如果條件允許,用電流探
    譽磁電磁兼容EMC 2026-07-31 18:45 517瀏覽
  • ?摘要:低價大流量卡正全面退市,政策收緊已成定局。面對傳統號卡的不確定性,隨身WiFi憑借穩定連接、多設備共享、獨立設備和靈活套餐等優勢,成為務實可靠的備選方案。1、流量卡黃金時代要結束了通信行業正迎來一場前所未有的“地震式”調整——曾讓無數用戶追捧的低價大流量卡,正在全速退出各大平臺。這早已不是一次普通的競合,而是一場趨勢性的行業洗牌。回望過去,19元200G的神卡,那時真是“睡著都能笑醒”,便宜到不敢相信,爽到忍不住炫耀。那些日子,好像隨便刷、隨便看,流量自由觸手可及。可如今,回頭再看,那種
    愛上電路設計 2026-08-03 10:21 128903瀏覽
  • 導語在現代高速數字電路設計中,信號的完整性已不僅是理想波形推演,而是一場與物理非理想特性正面博弈的工程實踐。濾波器芯片作為凈化傳輸鏈路的關鍵屏障,其核心挑戰在于:能否有效識別并濾除那些隱匿在電平跳變過程中的亞納秒級瞬態脈沖干擾,這類干擾持續極短,卻足以在高速鏈路中引發誤觸發。然而,傳統函數發生器受限于采樣率與邊沿速率,根本無法忠實復現如此狹窄且陡峭的異常波形。針對此困境,德思特TS-AWG7000系列任意波形發生器以17 GS/s采樣率與50 ps原生邊沿速度,為瞬態脈沖提供精細刻畫,配合SPG
    德思特測試測量 2026-08-05 14:06 5瀏覽
  • 在物聯網從“萬物互聯”邁向“萬物智聯”的進程中,LTE Cat.1憑借其在速率、成本與網絡覆蓋之間的完美平衡,正成為中低速物聯網市場的絕對主力。隨著2G/3G網絡的逐步退網以及新國標對終端設備智能化、定位功能的強制要求,Cat.1模組迎來了爆發式的增長窗口。在這一關鍵節點,基于華為海思Hi2131芯片設計的LTE Cat.1模組,憑借其在能效、射頻、架構及物理規格上的底層創新,成功打破了“高性能必高功耗”的傳統魔咒,為行業提供了極具競爭力的連接最優解。核心技術優勢:重塑Cat.1能效與連接標桿海
    用戶1778981989717 2026-08-05 21:04 177瀏覽
  • 做藍牙音箱的工程師大概都碰過這個局面。產品要連手機放歌,要本地播開機提示音和按鍵音,還要接 App 做配網和狀態上報。三件事拆開,早先的常規做法是音頻藍牙一顆料、數傳藍牙一顆料、本地播放再掛一顆小 MCU 加一片 Flash。板子越畫越大,BOM 越算越貴,待機電流和固件工作量也跟著漲。WT2605C 出來以后,這套需求可以集成到一顆芯片,就是 WT2605C-32N,該芯片采用QFN32 封裝,4×4 毫米,把音頻藍牙、BLE 數傳和 MP3 本地播放三樣全包了。對藍牙音箱來說,最實在的好處就
    唯創知音語音芯片 2026-08-06 15:14 298瀏覽
  • 摘要在防爆電氣設計中,只參照芯數選型而忽略額定載流量,長期滿負荷運行會出現插頭發熱、接觸面氧化、IP67 密封受熱老化等問題。結合常用 3 針 3 孔、4 芯、5PIN、8PIN 圓形防爆連接器,制作分級電流參數對照表,區分冷壓免焊接、焊接兩種接線結構的安全載流數值,設置合理電流冗余系數,搭配使用環境修正參數,規范防爆接近開關連接器、防爆法蘭插座的選型計算方式。關鍵詞圓形防爆連接器,載流參數表,防爆法蘭插座,防爆端子接頭,IP67 防爆防水接插件1 產品概述圓形防爆連接器觸點載流能力由插針直徑、
    kyfbest科迎法電氣 2026-08-03 09:18 128659瀏覽
我要評論
0
點擊右上角,分享到朋友圈 我知道啦
請使用瀏覽器分享功能 我知道啦
主站蜘蛛池模板: 猫女的诅咒在线观看免费高清版| 漂亮的丰年继拇| 华丽的诱惑| 金银瓶1-5普通话1-5集| 废渊战鬼| 恶魔少爷别吻我电视剧第二季| 法老荒史在线观看免费版高清| 忽悠女老板| 年轻的母亲4费观版| 晚安为我而我的妹妹| 喜人奇妙夜综艺免费观看| 百万富翁的初恋国语版| 欢乐喜剧人第二季完整版免费| 电视连续剧追| 金牌销售秘密| 春雨全集在线观看免费| 何以为家| 少女3完整版14岁| 龙之家族第二季| 完美音调2在线| 如果历史是一群喵第一季免费观看| 牙医姐妹电影完整版| 东京吸血鬼酒店| 第九章不等式与不等式组| 特殊的酒店客房中字2| 这么多年电影在线观看 | 黑白配1080p高清| 《合租房的激情》在线观看| 好男儿之情感护理| 魔女猎人国语| 大地8中文在线观看免费高清成全| 渔夫荒野史记高清观看| 勇者大冒险第一季| 一站到底檀越是哪一期| 《保险推销员》徐元在线观看| 监视者们2| 2020中国好声音| 坎贝奇《无憾》完整版在线观看 | 男生女生免费完整版在线观看| 女超人麦乐迪在线| 袁咏仪演过的电视剧| 禁忌的边界线| 社长夫人的美貌电影完整版在线观看| 塘鹅暗杀令| 善恶的彼岸| 美版HD古墓丽影| 高清重启未删减| 浪客剑心国语版| 《金银瓶1-5HD》普通话红楼艳谭| 父子神探系列| 斗罗大陆合集| 莫妮卡爱我几何全集免费看| 免费观看西川王电视剧| 《美妙的爱情》| 赌神1国语高清| 电视剧天若有情2| 乡村小老板:致富带全村全集免费 | 甜蜜第2季无马赛免费观| 叶玉卿的电影| 小主别闹| 儿媳妇的味道l| 东城西就2011| 绯闻女孩第一季高清| 《美容窒:特殊服务5》| 逃狱兄弟在线播放完整版| 孤军英雄的电视剧全集| 小蜜蜂姐妹5娃娃脸| 黑暗天使 萧淑慎| 秀秀的男人电视剧| 《法国空乘10| 本能2在线观看| 笨贼妙探国语| 电影军事不当行为高清全集在线观看 | 正在播放:中文本幕-亿万富翁的女儿 Anissa Kate,Sienn... - 17 | 最新泰剧| 电影我要爸爸的种子HD正版| 法国电影《Cleves》| 因为爱情有多美下载| 稷山电视台| 风风风观看未删减版| 天津市| 哥哥去在线| 领家特工| 魁拔3什么时候上映| 情书免费| 爱的罗曼史无删减在线观看| 血战钢锯岭字幕| 陆家嘴不雅照| 《需要爸爸种子电影| 去有风的地方电视剧免费观看 | 《权力王朝:默多克家族》| 法国电影《灭火行动》免费观看| 电视剧养女全集| 电视剧小白菜奇案| 同学的妈妈中字ID英文| 变脸迷情| 电视剧妈妈在等你全集免费播放| 《售楼小姐的秘密》观看| 康熙来了小小彬| 小镇姑娘国语免费观看| 乳房按摩的电影在线观看| 上海滩赌圣国语| 今年夏天| 性的暴行中文完整版| 医院回应女子穿着暴露在院内跳舞| 黑执事第一季| 妻子8免费完整高清中文版电视剧| 神话 成龙| 十二罗汉迅雷下载| melody在线播放高清观看女超人| 农家小福宝:爹娘宠上天全集免费 | 海之声如如免费完整版动漫| 爱上他的漂亮妈妈| 英雄黄海冰| 瓜达卢佩的玫瑰电影在线看免费版| 党同伐异免费| 美国式禁忌矿桥超棒影视| 欧美黑白配视频在线免费观看| q2002午夜我的老师| 布衣神相电视剧| 杰西简壮志凌云| 韩国电影《归来的风》免费播放| 国宝疑云| 一杆枪勇闯无底洞2免费观看2023年上映时间表 | 《性的暴行》越南电影| 时来运转国语高清| 圣特罗佩姑娘们1982满天星 | 八仙全传下载| 超级喜欢你| 百练成仙| 免费观看美国伦理电影私人女性监狱| 凡尘称尊:仙帝弃少全集免费| 《品味人生》全集免费看| 换乐无穷| 《私人航空》在线看中文版| 让我为你唱首歌mv| 肉苁蓉多少钱一斤| 平凡之路电视剧| 食人鱼事件剧情介绍| 嘻哈四重奏 第五季| 缘来一家人第一季| 大牛影库战狼6中文字幕下载| 人体蜈蚣3 电影| 总裁夫人来自农村短剧免费观看 | 韩国恶作剧之吻| 尖峰时刻 3| 黑人大屌在线观看| 神战权力之眼在线高清免费观看| 爷们儿全集免费观看| 法国私人助理1982年| 电影死亡军团在线播放| 卷毛被表白| 肇东市| 电视剧反串| 同志电影在线观看| 灾荒年短剧免费观看全集| 《法国空乘4:满天星》| 《特殊飞行》电影| 我们恋爱吧第6季| 高级教师韩国| 飞虎出征电影完整版高清粤语版| 电影弱点| 蝴蝶飞飞在线观看| 《《和部长一起去出差旅》》| 真咲恵美| 私人航空免费在线播放| 伦敦上空的鹰| 国风按摩1一6| 电影《现在不行》完整观看免费| SSNI-409秘密搜查官の女| 诡丝高清| 黑白配国语高清在线| 妻子5免费完整版韩国| 女忍者忍法帖2| 老色哥| 双生之我妹妹谁敢动短剧免费观看| 艰难爱情全集| 爱了散了电视剧剧情介绍| 国外插曲的痛免费观看完整版| 宝贝我跟你老公比谁的更大| 熊出没电影全集免费观看| 斑马电影院| 爱情不ng高清完整版| 新建文件夹2免费完整版| 水润女人申胜业刘志贤主演角色介绍 | 善良的嫂子手机在线观看| 丈夫的部长在线观看免费版黄色电视剧全| 纯情房东俏房客| 东北风云黑道二十年| 电影种马猎人在线观看完整版| 武动乾坤第4季全集免费观看| 电影韩国姐姐完整版在线观看| 菠萝菠萝蜜在线免费观看| 前有刘畊宏女孩 后有王心凌男孩| 伦敦桥行动| krosskyden壮志凌云| 破地狱粤语版| 朋友的妻子肉H| 甄嬛传48| 高清世外| 《水润人生》刘志贤| 恋之欲室快播| 春情荡漾| 《炸天小姐》在线观看美国| 星际迷航 2009| 大神同学想被吃掉未增删有翻译| 第一套广播体操| 女超人麦乐迪电影免费观看| 沧元图动漫26集免费观看| 妈妈你真棒插曲免费看| 360大佬爱上我第一季完整版 | 回复术士重启在免费观看 | 变身超人 电影| 风流才子唐伯虎| 亲爱的翻译官大结局是什么| 《饥渴的女人和维修工在线电影 | 爸爸需要的种子| 颐和园纪录片| 娱乐圈之姐妹| 《替夫还债妻子| 我的父亲母亲任正非 | 主君的太阳16| 复仇者联盟3神马抢先版| 七哥电影网| 《乡情》星克莱尔| 四人虎免费电影院在线播放| 车手在线观看| 放荡女2| 夏洛特烦恼电影| 电击小子第3部四圣团| 刀郎演唱会| 俩个好儿媳慧珍宝拉| 奥奇传说小梦| 电视剧大明风华62全集免费观看 | 西游记全集1一25| 神功元气袋| 珍娜詹森| 《透视》在线观看| 王力宏什么歌好听| 珠海驾车撞人事件35死43伤| 激情从林电影| 家有一老电视剧全集| 红海行动手机 在线观看| 十二怒汉电影| 木下檀檩子《女婿》在线| 金蝉丝雨电视剧| 拯救地球未删减| 壮志凌云女版啄木鸟满天星法版剧情介绍| 电视剧成长在线观看| 乡下 乱 仑| 凶手还未睡完整版在线播放| 初体验五| 电视剧绝不放过你| 法国空乘2019无删减版百度云| 落魄的贵族琉璃川第一季| 美人天下大结局| 《办公室3》完整版电影| 战狼6免费下载完整版国语高清电影 | 宫村与崛| 女友的妈妈韩字的id是谁| 黑铁的鱼影免费完整版现场版| 城中之城剧情介绍| 隔窗恋爱未剪删超清| 跟部长一起出差电影在线观看| 新来的瑜伽教练在线观看| 终末的女武神在线观看| 美国黑白配播放视频| 我是女王 电影| 第八号当铺电视剧| 非诚勿扰百度影音| 大胸姑妈| 人质免费观看完整版| 箭在铉上| 花与蛇麻醉牙医诊所完整版| 四川在线观看免费版高清西瓜| 最后的深爱韩国电影| 斯大林格勒大血战完整版| 《女超人麦乐迪满天星版》| 欢喜冤家电影| 双雄电影| xl司令第一季全集免费观看| 电影我的兄弟姐妹| 大药坊剧情介绍| 泰森7月20日大战杰克保罗| 三级片善良的同学| 环太平洋百度影音高清| 恋爱暴君1| 《为卿痴狂2》曹查理| 日本电影 和讨厌的部长一起出差| 柱训练篇| 夫妻成长日记二| 性能之巅1-5| 破刃电视剧全集免费观看| 关于我们之间的事| 杀死比尔| 农民伯伯2第二部国语版在线观看| 罗宾汉2010版电影| 世界末日是哪一天| 爸爸种子| 危机公关电视剧| 吞噬星空动漫免费| 巨胸的教师护士在线观看完整版| 电影《牙医姐妹》1986版| 破毒电影完整版在线观看高清 | 《女性瘾者》| 一场美味的飞行欢迎回来观看| 高清《钟表馆事件》电视剧| 《奔跑吧》给艺人P安全带| 中国好声音第四季张磊| 机械师6高清免费观看完整版 | 田蕴章每日一字| 年轻的女邻居8| 德川幕府刑法三部曲| 琼瑶电影燃烧吧火鸟| 陷入热恋的我们在线观看| 《法国空姐8| 朋友的妻子肉H| 正在播放:丈夫不在家的5天之间,被命令禁欲直到初夜为止的我身心都被性豪的公 | 死亡笔记夜神月| 本乡爱演的日本电影| 未来之翼| 菲梦少女第二季全集免费| 爱子情深之忠义乾坤全集| 漂亮妈妈9中字开头歌曲| 爱丫爱丫兄妹电视剧在线播放| 电影《一步之遥》在线播放| 欧美战狼6电影免费完整版下载| 钻石大劫案电影张浩| 中国媳妇主题曲| 中山二院癌症患者家属发声| 木下凛凛子电影免费观看中文版2024| 甄嬛传免费全集观看完整版在线| 箭在弦上大结局| 行尸走肉第三季15集| 村姑2国语免费观看| 喜气洋洋小金莲| 寒山令电视剧全集| 当幸福来敲门电影完整版| 美式的忌讳1~8| 干物妹小埋op| 影子爱人电影| 日本电影《律师坠落》的剧情简介魔| 功夫熊猫1国语| 不扣纽扣的女孩| 超级cosplay大战| 梅花影库在线观看最新一期预告| 防雷接地方案| 龚琳娜《小河淌水》| 《爱人》韩国在线观看| 灭火宝贝2美版免费播放| 切尔诺贝利日记qvod| 中国海峡网| 白夜追凶 下载| 特殊的游泳| 爆笑热带雨林| 卫生队的故事电视剧免费观看| 学生妈妈5字| 需要爸爸播种子bd中字| 世界围绕你电视剧| 阿呆正传| 私人航空| 《朋友的娇妻》HD| 扫黑电视剧在线观看| 最美的时候遇见你在线观看完整版| 熟睡中突然被义子侵犯电影 | 《美国农场1976达达》| 铠甲勇士1部全集| 台剧黛比浪漫女家教1最新集数和剧情 | 小call 宅之小恶魔| 虎骨梅花| 朝国年轻继拇6免费版| 赛车手张岩| 情谜睡美人之欲望的姐妹| 任达华舞男| 牙医郝板栗未删减版多少集| 私人岛屿在线观看| 叶问外传张天志在线观看免费版| 别对我说谎第二季| 《女销售员的销售秘密》| 执法女先锋2| 艰难爱情19| 山岸逢花在线观看| 法国女仆在线播放| 女朋友的妈妈电影完整版| 名侦探柯南:独眼的残像| 德黑兰43年| 牙医诊所电影赤板栗免费完整版 | 按摩院的特色待遇在线观看| 寂寞空庭春欲晚寂寞空庭春| 披荆斩棘2| 馅老满饺子| 私人女性监狱美国版女主是谁扮演的| 农民鲁智深| 触摸未来2| 女儿的朋友2韩国电影| 麦乐迪《女超人》| 双生之我妹妹谁敢动短剧免费观看| 刀客家族的女人 电视剧| 贺军翔电影| 花与蛇5之恶魔之爪 | 夺命小丑2| 家有喜事2009| 插曲的痛60集全免费播放剧情介绍| 角斗士2完整版免费观看| 炽道电视剧免费观看全集在线播放| 喜爱夜蒲 2| 女子私人监狱免费完整版观看| 锦衣之下全集免费高清| 野花影视在线观看免费高清完整版| 《被拒绝的爱》结局| 1—5集国语版普通话| 诈欺游戏3| 蜗牛电影在线观看免费| 人世间电视剧全集免费观看41集| 美国忌保罗讳1-4| 葛优喜剧电影全集| 电视剧与狼共舞2| 有friend无惊| 牙医诊所电影赤板栗免费完整版| 妈妈再我一次| 善良的妻子4| 大足县| 刑警2010国语| 缘来如此| 欢乐颂共多少集| 非洲姑娘高清播放| 摩登家庭 第五季| 四位大学位按摩记的背景和历史背景 | 一人之下第四季在线观看| 养个孩子不容易电视剧| 格力空调制热正确调法| 售楼小姐的秘密艺术片| 国与国的竞争归根到底| 一见你就笑| 老九影院| 《女仆庄园满天星免费版》| 变形金刚2 720| 无极 预言| 全度妍下女| 年轻的瘦了5| 《侏罗纪4:重生》免费观看| 雷军自曝37岁已财务自由| 火烧天堂镇| 《维修工艳遇》完整版| 哈哈哈哈哈 第六季| 我是刑警电视剧免费播放西瓜 | 剑在弦上全集播放| 叶子楣《极乐宝鉴》电影免费观看| 今日的霸道股评| 保险推销员电影| 夫妻这些事| 愉悦与苦痛的电影| 高清《女朋友的味道3》| 小凤新婚短剧免费观看| 白石茉莉奈番号| 时光代理人第11集| 黑暗的欲望在线观看| 男生和女生在一起愁愁愁电视剧在线观30集 | 特殊美容院| 白峰美羽免费观看高清版| 顶楼老公出轨| 家有仙妻电影| 落地镜play| 台湾卖房女销售电影| 女人的战争 卑劣的交易| 女篮大运会决赛| 成全 刘若英| 日本混血女大学生精油按摩三位混血女大学生BDHD | 百年党史| 日本金银梅1-5普通话第二级 | 《漂白》电视剧在线播放| 九九在线观看免费高清电视剧| 义姐是不是良女第二集观看| 花城电影| 明星的恋人电视剧| 食物链韩国电影| 女员工的付出 中文| 无极在线观看| 法国空姐免费观看电视剧高清| 夜上海广场舞| 伊川县| 《粉红小白菜》美国| 鬼夫 电影| 最新韩国电视剧| 先结婚后恋爱 电视剧| 郝板栗《千金》免费看| 碟仙诡谭| 妻子的叛乱国语版| 电影高朋满座| 两公的浮之手2023剧情| 善良丰满的继牳3| 冬日的什么呀,春日的什么呢电视剧| 老电影歌曲| 第二陷阱| 莉娜安德森| 大武生电影| 电锯惊魂全集| 农场主的三个女儿们免费观看全集| 蓝色帽子隐身完整版| 《法国空乘4》在线观看外国色情电影 | 44毛网| 发际红第四部| 锡盟蒙中| 图书馆女朋友在线观看完整免费版电视剧第五集 | 孤注一掷张艺兴在线播放免费| 隐身帽子电影韩国版| 权力的游戏第一季无删减| 超决战!贝利亚银河帝国| 电影《庄园女仆满天星》在线看| 五号特工组2| 高清安身何处| 《力王》电影完整版在线观看| 电影战狼四免费观看| 电影圣山村谜局完整版播放| 我有爱人了韩剧免费观看| xl司令动漫全集| 泰勒花花公子女郎| 高达00第二季高清| 再来一次第20集| 五亿探长雷洛传粤语版| 与君行电视剧免费观看完整版全集| 慈禧秘密生活 快播| 广场舞你是我的小苹果| 《总统夫人》星克莱尔全电影 | 卑劣的街头国语| 天堂之囚电影完整版中文| 李采潭特殊的治疗电影免费观看| 反黑路人甲粤语在线观看| 变形金刚 1080p| 楚留香之采花大盗| 电影叶问4| 泰坦尼克号A版啄木鸟| 哪吒二电影免费观看| 年轻人到底有多爱辣条| 丰满的继牳伦理8伦理| 错点鸳鸯全集| 无法抗拒的他日剧电视剧全集| 圣剑学院的魔剑使动漫免费观看| 《爸爸种子2》| 免费看办公室秘密全集| 冰冷少帅荒唐妻全文免费阅读| 高清《为你遗憾》电影| 从指尖传出的热情三季未增减| 三生有幸遇见你免费观看西瓜网| 枭起青壤免费观看| 商务出差遇到渣男前任| 小姬无人宠| 正在播放: JUL-945 在没有丈夫的平日里,我被打工归来的无与伦比的岳父强奸,直 | 白峰美羽女教师无删减版| おにいちゃんのため在线 | 千山暮雪百度影音| 《扫黑·决战》电影| 吴绮珊新剧《香醇秀感》在线播放| 时尚王国电视剧| 还珠格格1| 半老徐娘爱上小伙电影| 古堡女仆满天星版哪里可以看 | 暴躁老妈46集免费播放高清版电影| 周弘电影免费高清播放| 电视剧婆家娘家| 悬疑剧二十一天免费观看在线| 梁家辉情人完整版| 按摩师被弄到高潮A片| 美味的妻子| 浮生影视在线观看免费高清| 宾利欧陆gtc| 局内人韩国电影| 奇怪的美容院| 人类我们的故事全集| 移动迷宫西瓜影音| 唐人街探案3现在有资源吗| 需要爸爸播种子第一季2集 | 僵尸飞鲨免费播放| 国外插曲的痛免费观看完整版| 向涟苍士献上纯洁未增删樱花| 西游记之女儿国电影| 《品味人生》观看免费| 正在播放:国风按摩院,春宵一刻值千金| 电影 戏梦巴黎| 樱花校园2021最新版下载| 兵变1938| 零点电影完整版| 双人调情按摩术伦理片在线观看 | 女版特种兵满天星美版| 小丹慢慢的张开了双腿| 好男人手机在线视频播放1| 滚石30周年北京演唱会| 男女一起愁愁愁| XL司令第三季真人| 美剧《黑帆》| 马某某事件是谁| 一起来看流星雨电视剧| 农民伯伯2免费完整版电影| 电影美容室的特殊待遇7 | 《神墓》全集免费动漫| 高清《课外辅导》完整版| 《欢乐岁月》| 播放地道战| 女员工的付出中字马少杰| 我漂亮的老师播放在线观看| 花与爱丽丝| 中国教育考试网官网登录入口| 快乐的小鸡| 香蕉TV免费| 周末情人别爱我| 慈溪的秘密生活| 青春猪头少年不会梦到兔女郎| 国风按摩院在线观看| 商务旅行戴帽子电影| 末日残骸| 海豚寄宿学园在线观看完整版| 芭比时尚童话| 《乳房按摩》在线看| 特别酒店3跳舞| 马本斋传奇| 沉香如屑开播| 喋血双雄电影在线观看完整版| 吴健版农民伯伯国语免费看| 《特殊游泳教练》在线观看| 魔法咪路迷路| 职员到老板:打工人全集免费| 难忘的战斗免费| 公之孚之中字50| 杨敏思版1-5集免费播放电视剧| 战神带娃:奶爸人生短剧全集 | 甲铁城的卡巴内瑞第一季在线观看| 爱情睡醒了28| 电视剧千山暮雪| 韩国房产销售的秘密bd| 高清《室友的妻子》在线播放| 凹凸世界动漫| 亲切的金子趴在桌子上的一段粤语| 日剧渣男前任求复合| 97超频在线视频免费观看| 卿本佳人在线观看免费国语电影| 海霞免费| 袁成杰电影| 武邑县| 《总统夫人》星克莱尔全电影| 夫妻那些事免费播放完整版电视剧| 善良的嫂子3在钱电影| 唐人街探案在线观看| 《心火》免费观看| 戴安琳恩满天星无删减版百度云资源| 巡视组回应国企领导疑出差带小三| 禁忌5HD| 最佳爱情电视剧| 我是传奇2郭德纲| 维修师傅的艳遇正在播放| 北上电视剧| 普通的孩子未删减| 夫妻免费看大片真人电视剧| 《闯关东》免费播放| 麦金尼满天星免费观看| 女员工电影完整版高清在线观看| 《瑜伽教练》韩国电影免费观看| 当幸福来敲门美国版| 中国2020年龄划分新标准| 电影私人航空在线观看完整免费高清原声奔跑吧| 女超人麦乐迪完整版观看| 今生有你电视剧在线观看| 十大rko| 让子弹飞未删版| 狼烟遍地| 私人助理2法国版电影免费看 | 大梦聊斋之婴宁| 炼气十万年动漫全集免费观看| 密探未删减| 美容院特殊待遇纹身女电影| 花灯满城在线观看| 解药动画片全集在线观看| 春家小姐是讼师 电视剧免费观看| 古代掌柜:开店赚遍全京城短剧全集| 替夫还债的电影完整版中文字幕 | 丈夫出差的三天,被讨厌的| 天若有情之烽火佳人| 斗破苍穹年番第四集| 靳东甄子丹当选全国政协委员| 海外行动电视剧免费观看| 麦乐迪在线观看完整版| 父亲鼓励满天星国语| 《蜜桃成熟时3》电影| 大秦赋全集| 美国往事| 苍山县| 《女军医》在线观看完整版免费| 蒋丽萍故乡情| 美国摇滚女王蒂娜特纳去世| 隋唐英雄未删减版全集| 老郭讲水浒| 《女警察坠落2》| 美女与野兽暴操老妈46| 《妻子》免费观看完整| 爱人 韩国电影快播| 假爸爸在线观看完整版| 沾化县| 屠宰呕吐娃娃视频完整版免费观看| 泌尿科电影| 一战再战全集观看| 微笑妈妈电视剧免费完整版| 抗联敢死队之红雪| 女超人法国电影完整在线观看| 四少妇的按摩记| 我们结婚了20101016| 侏罗纪公园3 电影| 风情万种野玫瑰电影| 冷暖人生路| 巜生殖按摩》| 爷们儿电视剧大结局| 有秘密的我们| 我的表妹在线观看| 高清21世纪大君夫人未删减| 便利店少女2高清版| 《不良义姐| 《周四推理俱乐部》| 扫黑风暴第19集在线观看| 良辰美景好时光西瓜影视| 鬼父 下卷| 壮志凌云满天星女版在线| 不良义姐在线观看免费| 农人小豆豆| 小妈妈电影| 复仇天使| 龙珠gt| 插曲的痛30全集免费观看高清版在线观看 | 97在线播放免费观看全集电视剧| 坎贝奇的《品味人生》免费完整版 | 家庭教师动漫在线观看全集| 孙红雷打黑风暴在线观看| 中国女警的一级播放| 平利县| 金银瓶1-5国语普通话2| 沧元图第二季免费观看| 山西电视台科教频道| 金城武电影全集| 萝卜丝烧带鱼| 做aj的电视剧大全免费观看中国| 年轻丰满的继牳4伦理| 机械哥斯拉| 电视剧当婆婆遇到妈妈免费观看| 武契奇联大痛斥北约| 傲慢与偏见电影(免费)| 吴健版《农民伯伯2》播放常青| 黑白配HD版大全免费观看| 假面骑士圣刃全集免费观看中文版| 3肉脯团国语完整版| 奔跑吧兄弟2023免费观看| 宝贝计划成龙| 铿铿铿锵锵锵锵免费观看| 吴雪雯《性迷宫》在线| 全职猎人 99| 高清《失控第一季》| 新妹魔王的契约者无修版| 毒液3免费观看完整版高清中文版| 日剧维修工的艳遇| 播九公社在线观看| 天地无情| 《黑寡妇》电影| 甄嬛传电视剧完整版免费观看高清| 海天之恋全集| 美国式的家庭忌讳| 《社长的潜伏测规》| 电视剧锦衣之下全集在线观看免费| 大考电视剧免费观看完整版| 七夕潘甜甜牛郎织女资源| 官人我要电影| 爱我几何免费观看| 罗丽星克莱尔一级片| 我们恋爱吧第二季在线观看 | 飞翔吧 战机少女| 密探未删减| 日本维修工艳遇中字| 100分的吻微电影| 作者的谎言在线观看完整版高清| 黑暗荣耀第二季网盘| 少林搭棚大师| 《悲伤恋歌》电视剧| 《和部长一起去出差旅》韩剧| 《被下药强辱的妻子》免费看 | 勇士vs独行侠 人情世故| 双世宠妃第一季| 盛唐风流电影完整版播放时间| 《美景之屋6》_完整在线观看免费观看| 今天的她们电视剧免费观看| 魔鬼天使电影| 中国菲律宾撤侨| 神兽金刚全集| 我女朋友的新妈妈双字ID免费| 《透视》在线观看| 电影《干柴烈火》| 小美人鱼动画片| 长河落日在线电视剧免费观看| 大明风华电视剧免费观看| 孤注一掷在线观看策驰影院 | 香澄果穗| 野花韩国视频在线观看免费高清| 雾蓝色的雨后晴天| 僵尸飞鲨免费播放| 酒店1-100集全集| 《陆判官换心2》徐锦江在线观看| 法医宋慈 电视剧| 商务旅行的女老板戴的帽子2019年完整版在线观| 韩剧树大根深| 一千滴眼泪 电视剧| 私人航空在线观看| 韩剧《激战三姊妹》在线观看| 周处除三害在线观看| 电影在线观看免费观看高清版| 强者风范| 麻雀电视剧全集| 快乐到死电影在线观看| 做爱aj电视剧视频| 屈辱的婚纱奴隷花嫁1~2集| 高清《在你眉梢种红豆》电视剧| 那年我们一起追过的女孩| 七夜怪谈电影| 韩国电影《美人》| 即时是空1| 妻子替弟还债全集免费观看| 使徒行者3粤语电视剧| 黑太阳南京大屠杀 1995 张良| 天堂的张望 电影| 地缚少年花子君2全集免费观看| 女朋友的妹妹电影| 姐妹牙医在线手机观看电影| 爱我几何完整版在线播放免费| 袖珍妈妈大结局| 名侦探柯南 动漫| 恋恋不忘的我们综艺免费观看| 韩国免费爱情电影大全| 小小影视免费| 人猿泰山理伦完整版| 牝教师~淫辱の教室| 圣诞快乐 电影| 他年她日电影| 儿子媳妇中字头| 我老婆是学生会长第二季| 乐山市| 《部长来我家》日剧中文字幕| 银瓶梅电视剧高清免费观看| 湛江巾帼仓储有限公司| 最后的格格全集| 无心法师第一部全集免费| 回复术士真人版90集剧情介绍| 最美的时光番外二| 大湾区晚会2024节目单| 高清落叶球| 炸天小姐在线观看| 《太太们的假期》意大利| 荒岛生存| 甜心医生泰剧在线观看|