AI人工智能正進(jìn)入洶涌浪潮的新時(shí)代。
無論是底層算力芯片硬件，還是中間層開發(fā)框架，又或者頂層應(yīng)用生態(tài)，都呈現(xiàn)出了百花齊放、百舸爭流的無限活力，也常常會(huì)引發(fā)猜想和爭論：
到底誰才是適應(yīng)未來潮流的最佳AI計(jì)算平臺(tái)？GPU是否真的讓其他所有計(jì)算芯片都黯然失色？新勢力如何崛起？傳統(tǒng)勢力如何激發(fā)活力？
近日，一年一度的Arm Tech Symposia年度技術(shù)大會(huì)在亞太五大城市巡回舉辦，尤其是在國內(nèi)的上海、深圳兩站，帶來了4場主題演講、4場深度對(duì)話、13場生態(tài)伙伴技術(shù)演講、33場Arm專題技術(shù)演講、2場開發(fā)者工作坊，共有超過3500位行業(yè)專業(yè)人士、工程師、開發(fā)者參會(huì)探討。
從這次技術(shù)盛宴中，或許我們可以得到一些思考。
【AI的大爆發(fā) Arm的新機(jī)遇】
AI已經(jīng)誕生超過半個(gè)世紀(jì)，不斷演進(jìn)變革，如今更是迎來了全新的AI計(jì)算時(shí)代，極有潛力成為當(dāng)代人類歷史上最重要的技術(shù)。
事實(shí)上，AI一直都在，包括看似普通的手機(jī)解鎖、影視特效、照片修復(fù)等等日常操作，都離不開AI的力量。
當(dāng)然對(duì)許多人而言，ChatGPT的出現(xiàn)才讓AI真正爆發(fā)，真正觸達(dá)普通人的日常生活和工作，甚至是科學(xué)研究。
比如DeepMind最近使用AI預(yù)測蛋白質(zhì)結(jié)構(gòu)而榮獲諾貝爾化學(xué)獎(jiǎng)，比如AI將臨床試驗(yàn)的時(shí)間縮短高達(dá)50％，這些努力都將挽救難以計(jì)數(shù)的生命，提高人類生存質(zhì)量。
在中國，AI更是有著無窮的潛力和廣闊的前景。有機(jī)構(gòu)預(yù)測，到2026年底，中國的道路上將有100多萬輛搭載L3級(jí)別ADAS（高級(jí)駕駛輔助系統(tǒng)）的汽車。
在智能終端領(lǐng)域，預(yù)計(jì)到今年年底，中國將有1.7億臺(tái)以上支持AI的智能手機(jī)，55％的PC都會(huì)支持AI功能。
正是這些AI，在改變著我們與世界交互的方式，讓我們的生活更簡單、更安全，為更美好的未來奠定了基礎(chǔ)。
在技術(shù)上，AI比歷史上任何一項(xiàng)技術(shù)變革都需要更高的算力、更大的內(nèi)存、更好的能效，需要將大量算力部署在極度受限的功耗環(huán)境中，而這正是Arm的強(qiáng)項(xiàng)。
歷史上，每一步計(jì)算技術(shù)的變革與轉(zhuǎn)型，都需要具備卓越性能、能效、擴(kuò)展性的計(jì)算解決方案，能夠加速產(chǎn)品上市與普及，這正是面向未來的Arm計(jì)算平臺(tái)的核心特性。
【AI時(shí)代 CPU仍舊無可替代】
如今說起AI計(jì)算，很多人都會(huì)下意識(shí)地想到GPU，想到NVIDIA，想到黃仁勛。
確實(shí)，老黃打造的一代又一代高性能GPU，算力無可匹敵，生態(tài)更是牢不可破，一直是AI大模型訓(xùn)練、AI計(jì)算加速的首選方案，老黃甚至多次得意地宣稱“GPU將會(huì)徹底取代CPU”。
不過說實(shí)話，老黃自己內(nèi)心肯定也明白，這不過是宣傳話術(shù)，他自己都不信，不然為什么還要費(fèi)心費(fèi)力打造Arm架構(gòu)的Grace CPU來搭配GPU加速器組成完整的服務(wù)器？為什么還一直念念不忘要進(jìn)入AI PC CPU市場？
誠然，GPU算力最強(qiáng)，還不斷涌現(xiàn)各種AI加速芯片方案，NPU、TPU、ASIC、FPGA等都在爭奪一席之地，但是幾十年來，CPU的核心中樞地位從未改變。
在某個(gè)特定方面，CPU肯定不如五花八門的加速芯片，但它強(qiáng)就強(qiáng)在通用性和適應(yīng)性，什么都能做，而且就像個(gè)指揮家，可以調(diào)動(dòng)、聯(lián)合任何其他硬件，滿足各種各樣的AI計(jì)算所需，發(fā)揮最高效率與能效。
更何況，CPU本身也在不斷自我革新進(jìn)化，計(jì)算性能突飛猛進(jìn)，可以靈活地滿足各種計(jì)算與控制需求。
那么，AI計(jì)算時(shí)代，我們需要什么樣的CPU？
Arm 基礎(chǔ)設(shè)施事業(yè)部產(chǎn)品解決方案副總裁Dermot O’ Driscoll指出，AI需求龐大，促使我們重新思考如何打造計(jì)算要素，同時(shí)我們正面臨全新的需求，無是算力、性能、能效，還是上市時(shí)間，需求都在不斷提升，因此我們需要重新思考一切。
構(gòu)建計(jì)算的方式也必須隨之演變。芯片不再是單一的模塊或組件，這樣無法充分釋放性能和能效，需要整體的解決方案，需要深度的集成，需要充分的功能協(xié)作，從而實(shí)現(xiàn)更低的延遲、更高的帶寬、更高的能效。
為了充分滿足未來AI計(jì)算所需，我們需要強(qiáng)大、彈性的計(jì)算平臺(tái)，需要釋放足夠的性能與能效，需要豐富、易用的開發(fā)工具，需要打造廣闊的生態(tài)，需要方案快速上市落地。
基于這樣的思考，Arm正在AI計(jì)算時(shí)代重塑自己，重塑整個(gè)行業(yè)。
【硬件變革：Armv9真正開啟AI時(shí)代】
Arm CPU歷史源遠(yuǎn)流長，憑借其優(yōu)秀強(qiáng)大的架構(gòu)設(shè)計(jì)、豐富靈活的技術(shù)特性、超高的能效，已經(jīng)進(jìn)入我們工作生活的方方面面，幾乎無所不在。
從智能手機(jī)到消費(fèi)電子，從智能家居到智能汽車再到智能物聯(lián)網(wǎng)，乃至從服務(wù)器到PC，到處都可以看到Arm芯片的影子。
迄今為止，合作伙伴基于Arm架構(gòu)的芯片，出貨量已超過3000億顆！
如今，Arm已經(jīng)不再是單一的芯片IP提供商，而是成功轉(zhuǎn)型成為綜合性的計(jì)算平臺(tái)公司，特別是通過架構(gòu)創(chuàng)新、軟硬件深度融合，在這個(gè)AI時(shí)代持續(xù)引領(lǐng)計(jì)算的變革。
可以說，未來十年的Arm計(jì)算平臺(tái)，都將持續(xù)為AI而優(yōu)化，而所有這些功能將通過軟硬件能力的結(jié)合來實(shí)現(xiàn)。
為了適應(yīng)新的計(jì)算發(fā)展需求，Arm傾力打造了Arm計(jì)算子系統(tǒng)(CSS)，采用更全面的系統(tǒng)級(jí)設(shè)計(jì)思維，針對(duì)服務(wù)器、客戶端、汽車等不同應(yīng)用市場都有對(duì)應(yīng)的解決方案，服務(wù)于整個(gè)生態(tài)系統(tǒng)。
CSS特別強(qiáng)調(diào)硬件與軟件的協(xié)同優(yōu)化，尤其是擴(kuò)展了底層技術(shù)，以滿足不斷演化的AI計(jì)算需求。
早在十多年前，Arm就已經(jīng)悄然將AI功能引入Arm架構(gòu)，Armv8架構(gòu)又首次引入了64位技術(shù)，大大強(qiáng)化了計(jì)算能力。
不過，真正開啟AI時(shí)代的，還是新一代的Armv9，經(jīng)過多年連續(xù)投資與演化，又加入大量以AI為核心的功能，使得這一架構(gòu)更加適用于未來發(fā)展，而這一進(jìn)程還在持續(xù)。
Armv9架構(gòu)有兩大關(guān)鍵技術(shù)：
一是可伸縮向量擴(kuò)展(SVE/SVE2)，允許靈活的向量長度實(shí)現(xiàn)，使其能夠在現(xiàn)在或?qū)淼亩鄳?yīng)用場景下實(shí)現(xiàn)伸縮，允許CPU設(shè)計(jì)者自由選擇向量的長度來實(shí)現(xiàn)。
已應(yīng)用于一些領(lǐng)先的計(jì)算產(chǎn)品，
二是可伸縮矩陣擴(kuò)展(SME)，為開發(fā)者提供通用指令集，能夠一次在多個(gè)硬件平臺(tái)上實(shí)現(xiàn)Arm架構(gòu)中的加速效果。
目前，Armv9架構(gòu)和相關(guān)技術(shù)已經(jīng)在大量產(chǎn)品中逐步落地，比如阿里巴巴的倚天710處理器，支撐著阿里倚天ECS的底層架構(gòu)，可提供3.0GHz的高主頻、雙路256核心的高計(jì)算密度、空間節(jié)省50％的1U緊湊設(shè)計(jì)，等等。
再比如聯(lián)發(fā)科的新一代天璣9400處理器，可利用SVE2加速工作負(fù)載，尤其是提升視頻和圖像處理，提供更好的照片質(zhì)量。
Arm終端事業(yè)部產(chǎn)品管理副總裁James McNiven強(qiáng)調(diào)，Armv9作為最新的技術(shù)架構(gòu)，設(shè)計(jì)伊始就是為支撐AI計(jì)算而生的，并且持續(xù)迭代更新，通過SVE、SVE2、SME等關(guān)鍵技術(shù)，不斷優(yōu)化AI計(jì)算體驗(yàn)，實(shí)現(xiàn)卓越的AI性能。
【軟件、生態(tài)永遠(yuǎn)是關(guān)鍵】
有了堅(jiān)實(shí)的硬件，就相當(dāng)于蓋好了房子，而要想得到舒適的居住與生活體驗(yàn)，離不開精致的裝修與布置，只有強(qiáng)大、全面、易用的開發(fā)，以及豐富、好用的軟件體驗(yàn)，才能將硬件實(shí)力全部發(fā)揮出來，才能真正讓人們感受到技術(shù)的進(jìn)步，讓生活和工作都更加美好。
如果沒有良好的軟件支持，再好的硬件也毫無意義，我們也見過一些令人驚艷的硬件，但由于軟件表現(xiàn)不佳，甚至根本沒有軟件支持，結(jié)果沒能發(fā)揮潛力。
業(yè)界趨勢的變化，也充分說明了這一點(diǎn)，比如創(chuàng)業(yè)公司在AI浪潮前后在硬件和軟件工程師的比例呈現(xiàn)了很大的變化。
Arm認(rèn)為，更多的硬件帶來更龐大的軟件需求，而這樣的需求又將進(jìn)一步敦促硬件能力的提升，形成一個(gè)正向循環(huán)。
多年來，Arm平臺(tái)匯聚了超過2000萬的全球優(yōu)秀開發(fā)者，積累了深厚的開發(fā)經(jīng)驗(yàn)，而在AI時(shí)代，Arm更是適時(shí)打造了一整套的統(tǒng)一開發(fā)工具鏈，全面覆蓋云側(cè)、邊緣側(cè)、端側(cè)等各個(gè)領(lǐng)域，為開發(fā)者提供強(qiáng)大支持。
Arm希望開發(fā)者不需要關(guān)心技術(shù)如何實(shí)現(xiàn)，而是專心思考想要開發(fā)什么，為此抽象化了許多硬件相關(guān)的技術(shù)細(xì)節(jié)，真正實(shí)現(xiàn)對(duì)開發(fā)者友好的設(shè)計(jì)，讓他們能專注于打造優(yōu)秀的軟件與簡單的整合。
因此，Arm推出了Arm全面設(shè)計(jì)(ATD)生態(tài)合作平臺(tái)，整合晶圓制造廠商、固件開發(fā)廠商、IP供應(yīng)廠商、EDA設(shè)計(jì)廠商、芯片設(shè)計(jì)廠商等整個(gè)產(chǎn)業(yè)鏈，幫助生態(tài)系統(tǒng)合作伙伴專注于各自擅長的領(lǐng)域，更快、更具成本效益地開發(fā)出更好、更強(qiáng)大的產(chǎn)品。
截至今年10月，剛剛推出一年的ATD，生態(tài)企業(yè)已快速增加到30家，產(chǎn)品設(shè)計(jì)也在加速，尤其是基于Neoverse N系列或V系列計(jì)算子系統(tǒng)(CSS)，以及采用chiplet芯粒設(shè)計(jì)的方案。
值得一提的是，聯(lián)發(fā)科也在今年6月加入了ATD，預(yù)示著聯(lián)發(fā)科也有望提出自己的Arm服務(wù)器芯片產(chǎn)品，還有傳聞稱聯(lián)發(fā)科正在準(zhǔn)備進(jìn)入PC市場，芯片底層架構(gòu)自然還是Arm。
說到PC，基于Arm架構(gòu)的AI PC也正在興起，比如高通的驍龍X Elite/Plus系列就掀起了一股新的浪潮。
對(duì)于大家最關(guān)心的Arm架構(gòu)AI PC軟件生態(tài)問題，進(jìn)展也是相當(dāng)神速，無論是開發(fā)者工具，還是原生應(yīng)用，都在日益豐富，滿足人們的日常生活和工作已經(jīng)問題不大，當(dāng)然空間依然是巨大的。
聯(lián)想全球中小企業(yè)產(chǎn)品和解決方案總經(jīng)理鄭愛國指出，聯(lián)想將Windows on Arm(WoA)視為一項(xiàng)前瞻性的長期戰(zhàn)略布局，一方面不斷投入打造領(lǐng)先的產(chǎn)品，另一方面繼續(xù)與包括Arm、微軟在內(nèi)的眾多合作伙伴攜手，共同推進(jìn)生態(tài)的繁榮發(fā)展，為用戶帶來更多元化、更高質(zhì)量的產(chǎn)品體驗(yàn)。
Arm還與開源社區(qū)有著持續(xù)的良好合作，特別是在中國市場，Arm與龍蜥社區(qū)、歐拉社區(qū)、OpenCloud OS等都有合作。
Arm 中國區(qū)業(yè)務(wù)全球副總裁鄒挺表示，“支持全球開源社區(qū)是確保軟件在基于 Arm 技術(shù)硬件上“開機(jī)即用”的重要一環(huán)。Arm 投入了大量的工程資源與時(shí)間用以支持開源項(xiàng)目，并通過持續(xù)擴(kuò)大開源合作伙伴關(guān)系，為全球軟件開發(fā)者提供更多訪問資源，以助力其實(shí)現(xiàn)更高性能。”
本次大會(huì)上，阿里云智能集團(tuán)研發(fā)副總裁、龍蜥社區(qū)理事長馬濤就分享了阿里云專為云原生時(shí)代設(shè)計(jì)的處理器Anolis 23，并闡述了阿里云的AI思考、異構(gòu)計(jì)算概念，以及如何結(jié)合軟硬件協(xié)同優(yōu)化的方式、開源社區(qū)的眾測共創(chuàng)，有效應(yīng)對(duì)AI時(shí)代的復(fù)雜挑戰(zhàn)。
此外，Arm還在構(gòu)建AI框架、AI軟件庫、AI技術(shù)——KleidiAI。
它能確保全球領(lǐng)先的AI框架，可以快速運(yùn)行在Arm平臺(tái)上，釋放最佳性能，而且當(dāng)新的AI模型發(fā)布時(shí)，需要額外的工作，就可以第一時(shí)間運(yùn)行并展現(xiàn)良好性能。
比如，在基于Arm架構(gòu)的AWS Graviton處理器上運(yùn)行Llama 3大模型時(shí)，詞元(token)首次響應(yīng)時(shí)間可提高2.5倍。
可說，無論現(xiàn)在還是未來，Arm CPU都將是AI運(yùn)行的基石，同時(shí)結(jié)合Arm面向基礎(chǔ)設(shè)施、汽車、終端等多個(gè)市場推出的Arm計(jì)算子系統(tǒng)、Arm全面設(shè)計(jì)，以及強(qiáng)大的Arm生態(tài)優(yōu)勢，Arm已成功轉(zhuǎn)型為面向未來的應(yīng)用廣泛且至關(guān)重要的計(jì)算平臺(tái)技術(shù)提供商。
預(yù)計(jì)到2025年底，全球?qū)⒂谐^1000億臺(tái)具備AI能力的Arm設(shè)備，為AI的深入普及提供堅(jiān)實(shí)支持。
