Intel正式發布了代號“Hala Point”的新一代大型神經擬態系統,用于類腦AI領域的前沿研究,提升AI的效率和可持續性。
該系統基于Intel Loihi 2神經擬態處理器,在上代大規模神經擬態研究系統“Pohoiki Springs”的基礎上,進一步改進了架構,將神經元容量提高了10倍以上,達到史無前例的11.5億個,大致相當于貓頭鷹或卷尾猴的大腦皮層規模,性能也提高了多達12倍。

2018年1月,Intel發布了第一款能夠進行自主學習的神經擬態芯片Loihi,可以像人類大腦一樣,通過脈沖或尖峰傳遞信息,自動調節突觸強度,通過環境中的各種反饋信息,進行自主學習、下達指令。
Loihi基于Intel 14nm工藝,核心面積60平方毫米,包含128個神經形態的核心(Neuromorphic Core)、三個低功耗x86核心,集成12.8萬個神經元、1.28億個觸突,每個神經元有24個變量狀態。
Loihi 2處理器發布于2021年10月,首發采用Intel 4工藝,集成230億個晶體管、六個低功耗x86核心、128個神經形態核心,單顆就有100萬個神經元、1.2億個突觸,是上代規模的8倍,性能也提升了10倍。
Loihi 2支持新型神經啟發算法和應用,應用了眾多類腦計算原理,如異步、基于事件的脈沖神經網絡(SNN)、存算一體不斷變化的稀疏連接,而且神經元之間能夠直接通信,不需要繞過內存。
它還支持三因素學習規則、出色的突觸(內部互連)壓縮率,內部數據交換更快,并具備支持與內部突觸相同類型壓縮率的片外接口,可用于跨多個物理芯片擴展片上網狀網絡。
尤其是在新興的小規模邊緣工作負載上,它實現了效率、速度和適應性數量級的提升。
比如執行AI推理負載和處理優化問題時,?Loihi 2的速度比常規CPU和GPU架構快多達50倍,能耗則只有百分之一。


Hala Point系統的形態是一個六機架的數據中心機箱,大小相當于一個微波爐,內置1152顆Loihi 2處理器,共有140544個神經形態處理內核、11.5億個神經元、1280億個突觸,最大功耗僅為2600瓦。
系統內還有2300多顆嵌入式x86處理器,用于輔助計算。
內存帶寬達16PB/s(16000TB/s),內核間通信帶寬達3.5PB/s(3500TB/s),芯片間通信帶寬達5TB/s,可以每秒處理超過380萬億次的8位突觸運算、超過240萬億次的神經元運算。

Hala Point在主流AI工作負載上的計算效率非常出色,比如運行傳統深度神經網絡時,每秒可完成多達2萬萬億次運算(20PFlops),8位運算的能效比達到了15TOPS/W(每瓦特15萬億次計算),相當于甚至超過了基于GPU、CPU的架構。
在用于仿生脈沖神經網絡模型時,Hala Point能夠以比人腦快20倍的實時速度,運行其全部11.5億個神經元。
尤其是在運行神經元數量較低的情況下,它的速度甚至可比人腦快200倍!
早期研究結果表明,通過利用稀疏性高達10比1的稀疏連接和事件驅動的活動,Hala Point運行深度神經網絡的能效比可高達15TOPS/W,同時無需對輸入數據進行批處理。
Hala Point系統有望推動多領域AI應用的實時持續學習,比如科學研究、工程、物流、智能城市基礎設施管理、大語言模型、AI助手等等。

另外,Intel已經在用AI輔助設計芯片了,效果還挺好。
Intel內部研發了一種新的AI增強工具,可以讓系統級芯片設計師原本需要耗費6個星期才能完成的熱敏傳感器設計,縮短到區區幾分鐘。
在芯片電路設計中,工程師需要確定熱感應器在CPU處理器中的安放位置,并判斷熱點容易出現的區域。
這是一個復雜的流程,需要進行各種測試,包括模擬工作負載、傳感器位置優化等等,經常需要重新開始整個步驟,而且一次只能研究一兩個工作負載。

Intel客戶端計算事業部高級首席工程師、人工智能解決方案架構師Olena Zhu博士領銜增強智能團隊開發的這款AI工具,可以幫助系統架構師將數千個變量納入未來的芯片設計中,包括精確分析激活CPU核心、I/O和其他系統功能的復雜并發工作負載,從而精準地確定熱點的位置,并放置對應的熱敏傳感器。
這款工具解決了這些需要靠推測進行的工作。工程師只需輸入邊界條件,它就可以處理數千個變量,幾分鐘內就返回理想的設計建議。
酷睿Ultra Meteor Lake處理器的設計工作就使用了該工具,未來的客戶端處理器,比如將在今年晚些時候發布的Lunar Lake,以及后續產品,都會繼續用它。

Intel客戶端計算事業部高級首席工程師、人工智能解決方案架構師Olena Zhu博士
Intel客戶端計算事業部增強智能團隊的在AI方面的其他進展還有:
●?一個能快速識別關鍵熱工作負荷的配套工具,通過大模型訓練,可以預測尚未進行模擬或測量的其他工作負載。
●?對于高速I/O的快速準確信號完整性分析工具,設計時長從幾個月縮短至1個小時。Intel是業界首個采用此技術的公司,已經為多代芯片的設計提供支持。
●?基于AI的自動故障分析工具,用于高速I/O設計,2020年就已部署,設計效率已提升60%。
● 增強型智能工具AI Assist,能夠使用AI模型自動確定不同平臺的定制超頻值,將超頻所需的準備時間從幾天減少到1分鐘。14代酷睿已提供該工具。
● 基于AI的自動化硅片版圖設計優化器,已納入Intel SoC設計流程。
● 一種智能采樣工具,可以幫助動力和性能工程師處理智能設計實驗,測試用例數量減少40%。
● 一種用戶交互工具構建的AI模型,可以預測架構方案的性能,并幫助解決CPU設計的平衡問題。
●?一種自動放置微型電路板組件的新方式,將循環時間從幾天縮短至幾個小時。
Intel工程團隊還利用內部開發的AI算法,成功將單個處理器的測試時間減少了50%。
Intel強調,盡管這些工具都非常有用,不會或者很少出現任何錯誤,但是增強智能在短期內并不會取代真正的工程師。

Intel增強智能團隊成員Mark Gallina、Olena Zhu、Michael Frederick在俄勒岡州希爾斯伯勒的Intel客戶端計算事業部實驗室