從TI到Mentor,再到最近的Cornami,Wally Rhines博士在其長達50年的半導體職業生涯中,見證了IC的誕生、IDM廠商的生死起伏,以及EDA行業的“三國殺”。現在他又踏上了AI芯片和數據加密計算的創業旅程,希望通過完全同態加密(FHE)計算技術為大數據保護和處理市場帶來一場顛覆。
在今年的全球CEO峰會上,Wally Rhines博士為國內半導體人士帶來了一場耳目一新的視聽盛宴,他分享了AI芯片和數據采集/分析/保護的最新趨勢和技術發展動向,介紹了一種新的加密計算技術及其市場前景,并對全球半導體未來10年的發展趨勢做出了獨到分析和預測。下面是他的主題演講主要內容。
半導體增長的驅動力

從歷史上看,全球半導體行業的發展一直受到大規模新興應用的驅動,這些增長以上圖中黃色“ S曲線”表示。從大型機到小型機,再到個人計算機和筆記本電腦,然后再到移動通信,每個應用都推動著半導體行業進入新一輪增長。 那么,什么應用將推動下一波半導體發展浪潮?“數據”將是主要驅動力。
圍繞數據這一核心,有四個領域的應用值得關注:
人工智能
機器學習
IoT邊緣計算
5G通信
所有這些新興應用可以歸為一種——“大數據管理和分析”。 無論是在AI中構建ML模型,還是在IoT中使數據分析更接近數據收集點,還是工廠自動化中實時通信的處理,這一切都與管理和分析大數據有關。
數據就是信息時代的“石油”

如今,“數據就是新石油”的說法變得越來越明確。從數據中捕獲信息,通過學習、構思和創新就可以創造價值和財富。現今,每隔2-3年,可用于計算分析的數據量都會翻倍,而我們只能分析約2%的可用數據。
以噴氣式發動機為例,Pratt & Whitney、通用電氣和勞斯萊斯等發動機制造商都會持續監控所制造的發動機引擎的性能,每個引擎每小時產生的數據量超過70 TB。只有這些引擎的制造商才能使用這些數據來深入了解引擎的運行狀況和潛在的維護需求。這些信息對于航空公司至關重要,他們愿意付費購買。發動機制造商甚至可以改變一下商業模式,發動機免費送,而只是向航空公司收取維護服務的費用。由此可以看出,擁有高價值的信息可以成為一門大生意。
數據的收集及收益

視頻和圖像會產生大量數據,每天超過1PB(百萬GB)。此外,物聯網設備中的傳感器不斷收集各種類型的數據,包括視覺信息、氣味、聲音和振動等。傳感器正變得越來越復雜,為設計人員集成多種技術(包括模擬、數字、RF、MEMS和其他電子器件)帶來了巨大挑戰。

像智能手環等可穿戴設備,在很小的空間內集成了MCU、MESM傳感器、加速度計、電池充電和管理芯片、ADC轉換器、模擬信號處理,以及藍牙等RF無線通信功能。設計極其復雜,但又要求低功耗和低成本,這給半導體廠商和IC設計工程師提出了極高的要求。

實際上,半導體廠商并不是信息和數據收集熱潮的真正受益者。真正的受益者是那些擁有數據,并對其進行分析然后再出售信息的公司,諸如Google、Facebook、阿里巴巴等互聯網公司,他們正在極力收集數據,通過分析和銷售信息而獲得十億甚至百億美元的收入。

十年前,Fabless公司購買了晶圓制造廠商80%的晶圓,三星、英特爾和德州儀器等IDM購買了剩下的20%。如今,Google、蘋果和華為等系統和信息技術公司購買了接近20%的晶圓,這一細分市場每年都以35%的速度增長。
數據的分析和VC投資

過去20年來,芯片公司獲得的VC投資在2000年達到頂峰,約為25億美元,在隨后的15年里持續下降。然而,在2017年,特定域處理器AI芯片初創公司獲得的VC投資迅速增加,在2018年達到35億美元的峰值,比2000年的最高記錄還增加了10億美元。VC投資的無晶圓廠半導體公司中有一半以上都是專注于AI領域。

如果僅分析2012年至2019年這7年間半導體公司的前三輪風險投資,我們會看到AI和機器學習占據了大部分投資。這些AI和ML芯片的目標應用是什么?

該圖顯示了這一時期內針對每個應用的初創公司數量。其中最大的類別是模式識別。大部分投資去到視覺和面部模式識別領域,但也有大量資金投到其他模式的識別,例如語音識別、氣味識別、疾病診斷和自動駕駛車輛控制等。
風險投資的第二大類別是高性能計算(HPC),特別是數據中心,這由VC支持的初創公司所針對的應用領域。Graphcore、Groq、Habana Labs和Cornami是后馮·諾伊曼(Von Neuman)時代開發新的芯片架構的范例。
第三大類別是通用邊緣計算。許多分析人士認為,物聯網將推動邊緣計算的快速增長,但速度卻慢于預期。不可避免的是,它將是一個巨大的增長領域。為什么? 因為那是計算機行業發展的必然方式,即從集中的高性能計算到普及的邊緣甚至終端計算。
數據保護和FHE
有三種主要方法可以保護敏感數據。 一種是將數據導入算法并在數據中心進行處理。采用這種辦法,你必須信任數據中心及其計算機、操作系統和其他通信設備。但是,數據中心可能遭到黑客攻擊,因此不能完全信任。
第二種方案是在構建機器學習模型時保持數據安全,其中之一稱為“聯合學習”。利用聯合學習,機器學習模型的子集被下載到敏感數據的位置,例如手機、PC或本地數據中心。機器學習模型從數據中學習,然后發送回模型的創建者。這種方法也不是很安全,因為你必須信任模型所有者以及用于從數據中學習的所有算法。

第三種方法是同態加密(Homomorphic encryption),就是讓數據始終處于加密狀態,任何人都不能信任。完全同態加密(FHE)可以保護數據,而不是數據中心。客戶端僅使用FHE加密數據,然后將其發送到云端。無需解密即可對加密數據執行所有形式的算術和邏輯計算。 計算的加密結果被發送回客戶端,客戶端可以解密信息。只有數據的所有者才能看到原始數據文本,所有其他人只能訪問加密的數據。
在不久的將來,可以使用加密數據構建機器學習模型。這對于個人財務和醫療數據尤為重要。 據IDC預測,到2024年軟件和服務的機器學習市場將達到200億美元規模。
一旦FHE被廣泛采用,擁有數據的任何人都可以通過建立專有模型來利用它。無需出售模型中的數據,只出售對模型的訪問權限。數據可以成為所有應用類型的業務,數據中的信息和獨到發現可以一次又一次地轉售給許多客戶。只有數據的所有者才能看到實際的數據。
既然FHE擁有如此不可思議的優勢,為什么還不盡早采用?FHE有其自身的問題,它在計算上非常密集。如果以與未加密數據相同的速度處理FHE加密數據,就要求計算機的運行速度是當今典型的Xeon或nVidia服務器的一百萬倍。

AWS曾經嘗試在傳統的英特爾至強服務器上實施FHE,處理具有1億條數據的典型財務數據庫,需要24,000個內核處理器進行4.4天的計算。 而Cornami正在開發的芯片設計的仿真表明,通過使用特殊的編譯器和處理器的動態可重配置性,可以將4.4天壓縮為10秒。
為了有效地執行FHE計算,我們需要能夠隨處理器內核數量擴展性能的計算機體系結構,這需要特殊的軟件編譯器和特殊的芯片架構。應對FHE處理的挑戰需要多種功能的結合:
●大規模并行計算
●消除大多數內存讀寫
●可以生成集成、獨立的可執行數據流和控制流的軟件
●能夠隨芯片、板卡和服務器上的處理器內核數量線性擴展的芯片硬件
●動態可重配置的硬件以適應不同的算法,從而改變字寬或流水線深度
這些功能已在FPGA仿真器上進行了演示,可用于測量芯片設計的性能。芯片的實際生產將于明年啟動。當第一批芯片于明年某個時候推出時,預計將很快采用實時FHE。美國國防部堅決支持安全的“零信任”方法,已將FHE確定為實施解決方案,并正在倡導FHE軟件在國際上的可用性,以確保全球所有計算機數據的安全。
據Gartner估計,到2025年,全球所有公司中將有25%具有同態加密程序。基于HE和FHE的軟件和服務公司正在增加。所有這一切都“恰逢其時”,因為當今的互聯網安全機制可能會被1000量子位的量子計算機輕易打破。FHE是當今唯一已知的“經得住量子攻擊”的安全方法。

最后,Wally Rhines博士總結到,電子設備和系統的半導體含量將繼續增長。經過20多年的發展,半導體含量相對穩定地保持在電子設備價值的16%,我們最近看到了這一含量比例的加速增長,現在大約占到電子設備價值的20%。
數據將成為新的石油。它承載了我們的專業知識、信息和創新。過去十年中,數據的收集、分析和保護取得了巨大的進步。數據是未來10年半導體行業增長的驅動力。
責編:Amy Guan