在以ChatGPT為代表的AI技術(shù)爆發(fā)之前,就已經(jīng)有不少聲音提出,通用處理器的發(fā)展接近停滯,未來(lái)屬于加速器。然而,在智能體AI全速發(fā)展的當(dāng)下,CPU在AI基礎(chǔ)設(shè)施領(lǐng)域卻又突然變得緊俏了。

2020年,方舟投資(ARK Invest)曾發(fā)布一份名為“Big Ideas 2021”的白皮書(shū)。該白皮書(shū)展望了2030年前AI可能帶來(lái)的市場(chǎng)機(jī)遇,內(nèi)容涵蓋從深度學(xué)習(xí)的經(jīng)濟(jì)價(jià)值到半導(dǎo)體市場(chǎng)的變化。

當(dāng)時(shí),這份白皮書(shū)做出了一項(xiàng)預(yù)測(cè):在2020至2030年間,服務(wù)器“計(jì)算引擎”的諸多組件中,加速器的市場(chǎng)價(jià)值將從60億美元提升至410億美元,年復(fù)合增長(zhǎng)率(CAGR)為21%,如圖1所示。而原本占據(jù)市場(chǎng)大頭的通用處理器,其市場(chǎng)價(jià)值將從300億美元縮減至270億美元。

圖1:2020年ARK Invest預(yù)測(cè)到2030年加速器會(huì)成為最主要的服務(wù)器計(jì)算引擎。(來(lái)源:ARK Invest)

如今看來(lái),這一預(yù)測(cè)的錯(cuò)誤不止一處:首先是低估了包括AI加速器、內(nèi)存在內(nèi)的所有組件的市場(chǎng)價(jià)值。在今年3月份的NVIDIA GTC開(kāi)發(fā)者大會(huì)上,NVIDIA CEO黃仁勛給出一組行業(yè)規(guī)模數(shù)據(jù):“去年我曾提出,2026年全行業(yè)訂單與市場(chǎng)需求規(guī)??蛇_(dá)5000億美元;時(shí)隔一年,我再次做出預(yù)判,2027年該市場(chǎng)規(guī)模至少將突破一萬(wàn)億美元。”

當(dāng)然,萬(wàn)億美元的市場(chǎng)規(guī)模必然不僅來(lái)自顯卡或加速器,畢竟NVIDIA如今不僅制造芯片,還出售整機(jī)和系統(tǒng);其中也可能包含黃仁勛的夸張成分。但就數(shù)字量級(jí)來(lái)看,單NVIDIA這一家公司在芯片業(yè)務(wù)上的營(yíng)收,可能就已超過(guò)了ARK此前對(duì)整個(gè)市場(chǎng)的預(yù)期。

其次是ARK的這份白皮書(shū)還預(yù)測(cè)了服務(wù)器領(lǐng)域CPU的市場(chǎng)價(jià)值將走低??赡茉趦赡昵?,除了通用處理器制造商之外的其他市場(chǎng)參與者和分析師,很可能會(huì)贊同這一預(yù)測(cè)。實(shí)際上,在以ChatGPT為代表的這波AI技術(shù)爆發(fā)之前,就已經(jīng)有不少聲音提出,通用處理器的發(fā)展接近停滯,未來(lái)屬于加速器——其基本邏輯是,摩爾定律的放緩令CPU的性能和效率提升無(wú)法滿(mǎn)足市場(chǎng)需求。

加上黃仁勛在歷次主題演講中反復(fù)強(qiáng)調(diào),相較于傳統(tǒng)CPU計(jì)算集群,GPU計(jì)算集群在性能上可實(shí)現(xiàn)十余倍的躍升,同時(shí)能耗亦大幅降低。這一論斷進(jìn)一步加深了市場(chǎng)的普遍認(rèn)知,即CPU作為一種處理器架構(gòu)已趨于過(guò)時(shí)。

但在智能體AI(Agentic AI,或稱(chēng)代理式AI)全速發(fā)展的當(dāng)下,似乎已經(jīng)沒(méi)人敢質(zhì)疑CPU的市場(chǎng)潛力。在3月份的Arm Everywhere活動(dòng)上,Arm CEO Rene Haas給出的數(shù)據(jù)是,“對(duì)我們來(lái)說(shuō),到2030年(CPU)的TAM市場(chǎng)規(guī)模超過(guò)1000億美元”,并預(yù)測(cè)“2030年Arm從芯片業(yè)務(wù)中獲得的年度營(yíng)收目標(biāo)大約為150億美元”,即未來(lái)5年內(nèi),Arm計(jì)劃實(shí)現(xiàn)營(yíng)收的5倍增長(zhǎng)。

如果你認(rèn)為Arm在夸大其詞,那么不妨看看目前至少在數(shù)據(jù)中心CPU市場(chǎng)仍保持最大份額的Intel。Intel今年第一季度營(yíng)收136億美元,同比增幅7.2%;運(yùn)營(yíng)利潤(rùn)17億美元,毛利率還上升了1.8個(gè)百分點(diǎn)。Intel在財(cái)報(bào)中表示,其AI業(yè)務(wù)有著兩位數(shù)的增長(zhǎng)——其數(shù)據(jù)中心與AI(DCAI)業(yè)務(wù)營(yíng)收50.52億美元,同比增幅超過(guò)22%——而且Intel預(yù)期兩位數(shù)的增速還將持續(xù),甚至還與部分重要客戶(hù)簽署了長(zhǎng)期供貨協(xié)議。

當(dāng)然,Intel的DCAI業(yè)務(wù)也并不僅有CPU處理器芯片,但CPU毫無(wú)疑問(wèn)是其中的大頭;另一方面,這可能也是近些年Intel在財(cái)報(bào)層面交出最令人滿(mǎn)意的成績(jī)單了。那么,CPU在AI基礎(chǔ)設(shè)施領(lǐng)域?yàn)楹瓮蝗蛔兊萌绱司o俏了?

CPU市場(chǎng)從未如此活躍

高性能CPU(包括面向手機(jī)、PC、服務(wù)器的CPU)曾被認(rèn)為是半導(dǎo)體行業(yè)最難做的芯片類(lèi)型,不僅因?yàn)樵O(shè)計(jì)難度高,通常還要搭配先進(jìn)制造工藝,而且主流應(yīng)用市場(chǎng)的生態(tài)鴻溝對(duì)后來(lái)者而言更是競(jìng)爭(zhēng)的噩夢(mèng)。

不談到現(xiàn)在為止非x86生態(tài)進(jìn)展依舊緩慢的PC市場(chǎng),只看生態(tài)構(gòu)建難度相對(duì)沒(méi)那么高的數(shù)據(jù)中心領(lǐng)域:即便RISC-V發(fā)展多年,還時(shí)有RISC-V進(jìn)軍HPC領(lǐng)域的呼聲涌現(xiàn),但至少到目前為止,RISC-V的主戰(zhàn)場(chǎng)也還在嵌入式領(lǐng)域。馳騁“沙場(chǎng)”多年的Arm CPU,在服務(wù)器領(lǐng)域也難以說(shuō)已實(shí)現(xiàn)對(duì)x86 CPU的替代——10多年前折戟這一市場(chǎng)的幾家Arm CPU制造商可以說(shuō)是“前車(chē)之鑒”……

但眼下的時(shí)局又大不相同。有關(guān)服務(wù)器CPU市場(chǎng)的“新氣象”,此處不引用數(shù)據(jù),而僅列舉3個(gè)現(xiàn)象。

首先是黃仁勛難得地在6月份的Computex主題演講中,花了數(shù)十分鐘時(shí)間談?wù)撟约业腣era CPU。關(guān)注NVIDIA的讀者應(yīng)該知道,2021年NVIDIA就宣布推出自家的Grace CPU;后續(xù)又更新了Vera CPU。最初NVIDIA曾提過(guò),Grace是針對(duì)AI HPC應(yīng)用的,不是要取代誰(shuí),也“不會(huì)在多大程度影響現(xiàn)有客戶(hù)”。

不管是Grace,還是Vera,在以往的主題演講上,黃仁勛通常都是一筆帶過(guò)。但只有在今年年中的活動(dòng)上,他開(kāi)始大談CPU的重要性,并將Vera稱(chēng)作為智能體AI而造的CPU。

實(shí)際上,在整個(gè)Vera Rubin系統(tǒng)中,NVIDIA的Vera CPU出現(xiàn)在了3個(gè)場(chǎng)景中:(1)Vera Rubin服務(wù)器——Vera CPU負(fù)責(zé)管理GPU、KV緩存,以及處理軟件負(fù)載等工作——這臺(tái)服務(wù)器中實(shí)際上還有一顆Grace CPU作為DPU用于安全和隔離;(2)Vera Compute計(jì)算服務(wù)器之中的Vera CPU用于運(yùn)行智能體AI的執(zhí)行框架(Harness),負(fù)責(zé)AI模型編排、工具使用、數(shù)據(jù)庫(kù)訪(fǎng)問(wèn);(3)還有用于上下文記憶的Vera BlueField存儲(chǔ)服務(wù)器中,自然也需要Vera CPU,如圖2所示。

圖2:Vera Rubin系統(tǒng)中CPU的存在感遠(yuǎn)高于以往。(來(lái)源:NVIDIA)

Vera的重要性從其在整個(gè)計(jì)算集群中出現(xiàn)的頻率不難看到,不過(guò)黃仁勛在會(huì)上大談Vera CPU的原因,恐怕還在于NVIDIA準(zhǔn)備單獨(dú)出售Vera機(jī)柜服務(wù)器。有關(guān)這顆“為智能AI而造的CPU”的詳情,將放到本文的后續(xù)章節(jié)詳述。

其次,3月份Arm正式發(fā)布了Arm AGI CPU芯片——注意是芯片,而不是IP。沒(méi)錯(cuò),傳統(tǒng)意義上的IP供應(yīng)商Arm親自涉足芯片制造了。可能在很多人看來(lái),Arm造CPU更像是在為其計(jì)算子系統(tǒng)(CSS,是Arm近兩年在力推的、包含了物理實(shí)現(xiàn)方案參考的IP組合子系統(tǒng)設(shè)計(jì)解決方案)業(yè)務(wù)樹(shù)立樣板,但實(shí)際上如前文所述,Haas明確談到Arm預(yù)計(jì)2030年芯片業(yè)務(wù)的目標(biāo)營(yíng)收會(huì)達(dá)到150億美元,屆時(shí)Arm會(huì)成為一家年度營(yíng)收250億美元的企業(yè),可見(jiàn)Arm是準(zhǔn)備認(rèn)真賣(mài)芯片的。

Arm也表示,這顆AGI CPU是專(zhuān)為智能體AI負(fù)載和未來(lái)的通用人工智能(AGI)打造的。Haas的說(shuō)法是:“智能體AI成為主流,驅(qū)動(dòng)智能體AI的工作需要CPU。而你所需的CPU應(yīng)該具備天生就運(yùn)行于電池上的DNA。”

Arm的公開(kāi)信息提到,AGI CPU已經(jīng)送達(dá)部分客戶(hù)之手,客戶(hù)正在進(jìn)行評(píng)估;預(yù)計(jì)芯片正式量產(chǎn)是在今年年底前。據(jù)說(shuō)客戶(hù)對(duì)于Arm AGI CPU的應(yīng)用預(yù)期包括了頭節(jié)點(diǎn),也包括了數(shù)據(jù)中心AI服務(wù)器的智能體編排;諸如移動(dòng)基站、網(wǎng)絡(luò)設(shè)備等也會(huì)是這顆芯片的備選應(yīng)用。

另外,為了表現(xiàn)Arm長(zhǎng)期做CPU芯片的決心,Haas也稍稍談到了未來(lái)計(jì)劃:2027年預(yù)計(jì)推出基于CSS V4的Arm AGI CPU 2。這應(yīng)該也是Haas預(yù)期未來(lái)數(shù)年內(nèi)云AI業(yè)務(wù)會(huì)成為Arm最大規(guī)模的業(yè)務(wù)之一的基礎(chǔ)——這對(duì)Arm乃至整個(gè)行業(yè)而言,都稱(chēng)得上是一次轉(zhuǎn)向。

第三,當(dāng)前數(shù)據(jù)中心CPU(尤其作為AI智算集群的CPU)已有的芯片,除了Intel、AMD這類(lèi)傳統(tǒng)CPU供應(yīng)商的產(chǎn)品,及上述NVIDIA與Arm的CPU,線(xiàn)上服役或準(zhǔn)備要服役的CPU至少還包括了AWS Graviton5、微軟Cobalt 200、谷歌C3A/N4A、Ampere的AmpereOne等。

值得一提的是,近期還有一則關(guān)于數(shù)據(jù)中心CPU市場(chǎng)走向擁擠的消息:高通預(yù)計(jì)2027年重返數(shù)據(jù)中心CPU市場(chǎng)。高通早在2017年曾以Centriq 2400 CPU試水?dāng)?shù)據(jù)中心市場(chǎng),但當(dāng)時(shí)的Arm生態(tài)尚不如今天這般完善,限制了芯片的市場(chǎng)應(yīng)用;高通的數(shù)據(jù)中心CPU業(yè)務(wù)也未能持續(xù)開(kāi)展。但就在去年,高通又宣布要重返數(shù)據(jù)中心領(lǐng)域。

高通此前收購(gòu)Nuvia,去年收購(gòu)Alphawave Semi,以及近期有傳言稱(chēng)高通可能有意收購(gòu)Tenstorrent,很可能都是在為數(shù)據(jù)中心CPU做準(zhǔn)備。在2025年第四季度的電話(huà)會(huì)議上,高通確認(rèn)了這顆數(shù)據(jù)中心CPU預(yù)計(jì)將于2027年發(fā)貨,并體現(xiàn)在營(yíng)收成績(jī)中;還說(shuō)數(shù)據(jù)中心CPU市場(chǎng)存在數(shù)十億美元的市場(chǎng)機(jī)會(huì)。

CPU為何備受青睞?

在上述幾則信息的基礎(chǔ)上,ARK在2020年做出的那番有關(guān)服務(wù)器CPU的預(yù)測(cè)無(wú)疑可被拋到九霄云外。但問(wèn)題在于,CPU為什么變得如此受歡迎了?拋開(kāi)的確有使用場(chǎng)景可能借助CPU的擴(kuò)展指令集加速來(lái)進(jìn)行AI推理不談(即便這一點(diǎn)對(duì)部分應(yīng)用場(chǎng)景而言也非常重要),CPU在AI負(fù)載中的本職工作也在發(fā)生變化。這就要談到多家廠(chǎng)商宣稱(chēng)的“為智能體AI而造”這一表述,以及作為通用處理器的CPU,為什么要專(zhuān)為智能體AI而造。

從應(yīng)用的角度來(lái)看“數(shù)據(jù)中心”,不同的“數(shù)據(jù)中心”可能有著相當(dāng)大的差別。Intel此前給數(shù)據(jù)中心應(yīng)用需求分類(lèi),涵蓋數(shù)據(jù)庫(kù)、存儲(chǔ)、云、電信基礎(chǔ)設(shè)施、媒體、HPC、網(wǎng)聯(lián)、AI等。這些應(yīng)用對(duì)算力、存儲(chǔ)、連接的需求都有不同的偏向性。

Intel、AMD的傳統(tǒng)x86 CPU之所以不受部分應(yīng)用場(chǎng)景青睞,基礎(chǔ)邏輯在于它們要以同架構(gòu)覆蓋不同應(yīng)用場(chǎng)景,尤其要考慮大量非大規(guī)模AI推理的通用型負(fù)載——這個(gè)類(lèi)型的應(yīng)用要求相對(duì)平衡的性能可靠性、廣泛的生態(tài)系統(tǒng)支持。這就要求核心架構(gòu)設(shè)計(jì)的多方權(quán)衡,而不能僅偏向某一類(lèi)應(yīng)用。這在我們看來(lái),也可能是Intel自至強(qiáng)6這代CPU開(kāi)始推出兩種不同架構(gòu)(Clearwater Forest與Granite Rapids)芯片的原因。

而本文討論的CPU顯然就不是面向通用型負(fù)載的CPU,而是著眼于計(jì)算密集型與AI負(fù)載的CPU。從芯片設(shè)計(jì)大方向來(lái)看,它注重每核性能、大內(nèi)存帶寬、加速器耦合能力。JLL針對(duì)數(shù)據(jù)中心的展望提到,2025年AI負(fù)載在全球數(shù)據(jù)中心負(fù)載(基于功耗)所占比重約為23%;到了2030年,這個(gè)值會(huì)上升到50%左右(其中推理負(fù)載占比37%,訓(xùn)練負(fù)載占比13%)。

而即便都叫“AI負(fù)載”,負(fù)載與負(fù)載之間也有不同的特點(diǎn),比如訓(xùn)練和推理負(fù)載就有差別;智能體AI相比更早的感知式和生成式AI,單從推理角度看也有著較大的不同——從不同階段所需使用處理器的角度來(lái)看,CPU的確比以前的AI更重要了。CPU需要更多地參與逐個(gè)詞元(token)的編排、內(nèi)存管理、KV緩存控制、工具調(diào)用和執(zhí)行等工作;涉及直接與用戶(hù)交互的云CPU時(shí),還有其他面向用戶(hù)的邏輯要處理……

“因?yàn)樵诖藞?chǎng)景中,單次任務(wù)演化成多個(gè)步驟,從接收信息到規(guī)劃、制定方案,再到推理和執(zhí)行,最后返回;并且可能一個(gè)輪次還不夠,需要多次迭代才能完成任務(wù);在此過(guò)程中,除了編排、管理,還涉及對(duì)于長(zhǎng)上下文的存儲(chǔ)和使用,以及對(duì)工具鏈的調(diào)用等。”Intel在Computex期間的媒體會(huì)上說(shuō)。簡(jiǎn)單來(lái)說(shuō),智能體AI負(fù)載令推理AI數(shù)據(jù)中心需要更多的CPU來(lái)處理和管理由GPU生成的數(shù)據(jù)或動(dòng)作。

Arm也從AI云的角度印證了CPU的價(jià)值。Haas說(shuō),雖然詞元由GPU或其他加速器生成;但人類(lèi)對(duì)云上AI發(fā)出提示詞、提出請(qǐng)求時(shí),“當(dāng)然首先還是要CPU參與的。云(CPU)會(huì)去服務(wù)對(duì)應(yīng)的請(qǐng)求,獲取數(shù)據(jù)中心加速器(如GPU)生成的詞元。”“而數(shù)據(jù)中心CPU需要進(jìn)行編排工作,再返回詞元。”

隨著這些請(qǐng)求進(jìn)入云端與數(shù)據(jù)中心,系統(tǒng)將面臨阻塞的風(fēng)險(xiǎn),而瓶頸可能正出在CPU上。Haas指出:“智能體是一種工作流,它按計(jì)劃異步執(zhí)行任務(wù),其中許多工作需要調(diào)度——這正是CPU所承擔(dān)的工作,加速器無(wú)法完成。智能體AI加劇了這一問(wèn)題,我們需要更多的CPU,無(wú)論是頭節(jié)點(diǎn)還是加速器機(jī)柜。”

另外值得一提的是,智能體AI的訓(xùn)練和驗(yàn)證往往依賴(lài)強(qiáng)化學(xué)習(xí)(RL)環(huán)境(如代碼執(zhí)行、工具調(diào)用反饋),因此強(qiáng)化學(xué)習(xí)階段的CPU需求也是智能體AI崛起帶來(lái)的衍生需求。所以也不單是推理,強(qiáng)化學(xué)習(xí)環(huán)境需要執(zhí)行由模型生成的動(dòng)作,并且計(jì)算對(duì)應(yīng)的獎(jiǎng)勵(lì)——例如在編程、數(shù)學(xué)之類(lèi)的方向上,需要大量CPU并行執(zhí)行代碼編譯、驗(yàn)證、轉(zhuǎn)譯、工具使用;CPU還需要參與復(fù)雜的物理仿真、驗(yàn)證高精度的合成數(shù)據(jù)等。

而在諸多針對(duì)“CPU于智能體為什么重要”這一問(wèn)題的解釋中,我們認(rèn)為最具營(yíng)銷(xiāo)鬼才式的說(shuō)法還是來(lái)自黃仁勛:“傳統(tǒng)CPU都是為人設(shè)計(jì)的”,而人“住在一個(gè)以秒為單位計(jì)量時(shí)間的世界”。“智能體則沒(méi)什么耐心,它們住在以納秒計(jì)的世界里——它們調(diào)用工具、訪(fǎng)問(wèn)數(shù)據(jù)的時(shí)候,需要盡可能快的響應(yīng)時(shí)間”,這些都需要CPU參與。所以“這個(gè)新興市場(chǎng)會(huì)比以前更大。因?yàn)橹悄荏w的數(shù)量會(huì)遠(yuǎn)超人類(lèi),而且這些智能體是沒(méi)有耐心的。”

這番說(shuō)法可能還解釋了另一個(gè)基本問(wèn)題:為什么會(huì)有更多企業(yè)進(jìn)入特別面向智能體AI的CPU制造領(lǐng)域。在市場(chǎng)存在“智能體AI CPU”這一產(chǎn)品空缺、市場(chǎng)需求(雖然Intel、AMD很可能不會(huì)這么想),而智能體AI又發(fā)展如此迅猛的當(dāng)下,這自然是個(gè)上佳的市場(chǎng)機(jī)會(huì),所以NVIDIA、Arm、高通等廠(chǎng)商也相繼進(jìn)入這一領(lǐng)域。黃仁勛甚至干脆宣稱(chēng),因?yàn)镚race和Vera的銷(xiāo)售成績(jī),NVIDIA已經(jīng)是“全球最大的CPU制造商之一”。

圖3:智能體AI在任務(wù)執(zhí)行流程中參與的部分工作。(來(lái)源:Intel)

圖3是Intel給出的至強(qiáng)CPU在智能體AI的任務(wù)執(zhí)行流程中參與的部分工作(其中也包括了本文未探討的SLM模型推理),從上下文到安全管理。這些都導(dǎo)致了CPU與GPU在整個(gè)節(jié)點(diǎn)或集群中的比例相比過(guò)去幾年有顯著變化(從1:8轉(zhuǎn)向1:4、1:2甚至1:1),工作負(fù)載的算力需求提升,“對(duì)CPU、GPU、網(wǎng)絡(luò)產(chǎn)品需求同步膨脹”,表明了智能體AI時(shí)代的CPU需求量在增大。Intel的DCAI業(yè)務(wù)兩位數(shù)增長(zhǎng)也就不足為奇了。

有關(guān)CPU市場(chǎng)容量,雖然我們還沒(méi)有確切數(shù)字,但Arm認(rèn)為在智能體AI時(shí)代到來(lái)之際,人類(lèi)與AI的交互(即針對(duì)AI服務(wù)的請(qǐng)求)會(huì)令詞元激增超過(guò)15倍。從功耗密度角度來(lái)看,“我們估計(jì)現(xiàn)在的數(shù)據(jù)中心(不單是指AI計(jì)算集群)之中,平均每吉瓦(GW)功耗可能包含3000萬(wàn)個(gè)CPU核心。”

但在能源日趨緊俏的現(xiàn)在,Arm提出在相同的功耗限制之下,CPU的核心數(shù)還需要擴(kuò)充4倍——也就是原本每GW容納約3000萬(wàn)個(gè)CPU核心,即應(yīng)達(dá)到每GW功耗驅(qū)動(dòng)1.2億個(gè)CPU核心。加上前文提到了Arm預(yù)測(cè)TAM市場(chǎng)超過(guò)1000億美元,市場(chǎng)研究機(jī)構(gòu)恐怕都要對(duì)現(xiàn)如今的AI半導(dǎo)體市場(chǎng)預(yù)期做調(diào)整了,尤其是對(duì)CPU的價(jià)值預(yù)期。

競(jìng)爭(zhēng)持續(xù)加劇的CPU市場(chǎng)

電子產(chǎn)業(yè)發(fā)展的這些年對(duì)Intel這位傳統(tǒng)CPU巨擘而言相當(dāng)不友好:不僅在PC CPU市場(chǎng),蘋(píng)果選擇了自己造芯片,AMD還連續(xù)獲勝,半導(dǎo)體先進(jìn)制造工藝被臺(tái)積電趕超;其數(shù)據(jù)中心CPU市場(chǎng)即便目前依舊具有優(yōu)勢(shì),未來(lái)卻也因?yàn)槭袌?chǎng)競(jìng)爭(zhēng)的加劇,而顯得十分難測(cè)。

為了把AI數(shù)據(jù)中心CPU發(fā)展方向闡述清楚,最后以Vera CPU為例從技術(shù)層面探討現(xiàn)如今的AI智算市場(chǎng)對(duì)CPU究竟有著怎樣的要求,以及為什么更多企業(yè)都更傾向于針對(duì)自家業(yè)務(wù)特點(diǎn)來(lái)自己造CPU——這里我們不討論成本控制等市場(chǎng)邏輯。

NVIDIA在Vera這一代CPU上并未選擇Neoverse IP,而改用自研方案。這是一顆采用88個(gè)Olympus核心、176線(xiàn)程(空間多線(xiàn)程)的CPU;支持LPDDR5X內(nèi)存帶寬1.2TB/s——比x86平臺(tái)低40%的峰值內(nèi)存延遲;NVLink C2C通信帶寬1.8TB/s;1.4TB/s PCIe Gen 6支持;每核2MB L2緩存,164MB L3緩存;核間通信帶寬3.4TB/s——“第二代可擴(kuò)展一致性互聯(lián)架構(gòu)(fabric)將88個(gè)Olympus核心統(tǒng)一放在了單片網(wǎng)格(mesh)之上”。

Olympus核心微觀層面,“針對(duì)分支密集型的Python運(yùn)行時(shí)、工具調(diào)用、沙盒代碼執(zhí)行做了設(shè)計(jì)”,“每個(gè)核心都針對(duì)吞吐進(jìn)行了精細(xì)調(diào)整”:包括前端的10路(10-wide)取指與解碼寬度;“神經(jīng)分支預(yù)測(cè)器會(huì)在每個(gè)周期評(píng)估2條分支”;“較大規(guī)模的亂序執(zhí)行引擎保證了指令的流動(dòng);先進(jìn)的預(yù)取器采用新型圖引擎,可提前預(yù)測(cè)后續(xù)數(shù)據(jù)訪(fǎng)問(wèn)路徑”(圖4)……

圖4:NVIDIA的Vera CPU。(來(lái)源:NVIDIA)

還包括內(nèi)存一致性NVLink C2C直接將GPU連接到互聯(lián)架構(gòu);且支持?jǐn)U展多插槽,實(shí)現(xiàn)CPU之間的高帶寬……雖然這兩段話(huà)的信息量也不算多高,但絕對(duì)是近些年NVIDIA主題演講涉及芯片設(shè)計(jì)時(shí)信息密度最高的部分了。

NVIDIA從4個(gè)角度談到了Vera對(duì)于運(yùn)行智能體的價(jià)值:(1)出色的IPC和單線(xiàn)程性能;(2)超高的每核帶寬——主要是指緩存性能與核間互連;(3)帶寬——從黃仁勛在主題演講中的描述來(lái)看,主要是指CPU與外部通信的帶寬,(4)出色的能效表現(xiàn)。

IPC、單線(xiàn)程性能、能效表現(xiàn)無(wú)需贅言,他在這4項(xiàng)指標(biāo)中尤其強(qiáng)調(diào)了帶寬的重要性(應(yīng)當(dāng)也是Vera相較Grace的最重要改進(jìn)之一),“因?yàn)橹悄荏w計(jì)算具備分離與分布式的特性,網(wǎng)聯(lián)成為關(guān)鍵。數(shù)據(jù)會(huì)在CPU核心之間、CPU與存儲(chǔ)之間、CPU和GPU之間來(lái)回傳輸,速度必須盡可能快”;故而此處特別強(qiáng)調(diào)2倍于x86 CPU+DDR5的帶寬,以及3倍于x86 CPU的每核帶寬。

NVIDIA指出,在智能體沙盒性能(在本地沙盒環(huán)境執(zhí)行測(cè)試)方面,Vera相較x86 CPU競(jìng)品的領(lǐng)先優(yōu)勢(shì)在1.8倍左右——這里的編譯和Python子項(xiàng)應(yīng)該是NVIDIA自己的測(cè)試流程,針對(duì)CPU及存儲(chǔ)子系統(tǒng)的性能測(cè)試。這兩個(gè)項(xiàng)目理論上考察的是CPU吞吐+內(nèi)存,延遲+分支控制流的表現(xiàn)。

在實(shí)際負(fù)載測(cè)試?yán)?,NVIDIA公布的性能數(shù)據(jù)還包括SQL數(shù)據(jù)處理速度快3倍、實(shí)時(shí)流數(shù)據(jù)處理快6倍——后者甚至是紐約證券交易所的實(shí)測(cè)數(shù)據(jù)(在實(shí)時(shí)流數(shù)據(jù)處理中——如NYSE行情/訂單事件流,系統(tǒng)處理一條事件所需的端到端P99延遲)。

前不久外媒Phoronix也將Vera CPU與x86 CPU做了性能對(duì)比,基本能夠印證NVIDIA的說(shuō)法。不管NVIDIA的對(duì)比是否有刻意挑選對(duì)比項(xiàng)目的嫌疑,這都的確符合當(dāng)代以應(yīng)用為導(dǎo)向的芯片設(shè)計(jì)趨勢(shì),包括CPU這類(lèi)常規(guī)意義上的“通用處理器”。

能夠印證智能體AI應(yīng)用的CPU需要更加“專(zhuān)用”這一點(diǎn)的還有Arm。Arm云AI事業(yè)部執(zhí)行副總裁Mohamed Awad此前在媒體會(huì)上也說(shuō)過(guò),Arm的“架構(gòu)哲學(xué)(architectural philosophy)”在于“我們不會(huì)受制于過(guò)去,不會(huì)選擇支持Lotus Notes(一款上世紀(jì)的企業(yè)軟件)”。

在擺脫歷史包袱、強(qiáng)調(diào)IPC、性能擴(kuò)展能力(尤其還提到SMT同時(shí)多線(xiàn)程的缺陷)等方面的支撐下,Arm宣稱(chēng)其AGI CPU實(shí)現(xiàn)了相比x86 CPU單個(gè)機(jī)柜性能的2倍領(lǐng)先(36kW功耗機(jī)柜),以及在1GW功耗規(guī)模下大約100億美元CapEx成本支出的節(jié)約。

不管這個(gè)數(shù)字有沒(méi)有對(duì)比對(duì)象的偏向性選擇或夸大的成分,Arm要強(qiáng)調(diào)的主要就是CPU的能效和功耗密度(面積效益)問(wèn)題。這或許與這個(gè)時(shí)代下,即便作為“通用處理器”的CPU,也有面向不同場(chǎng)景的“專(zhuān)用化”走向有關(guān)。

而Intel的“通用”歷史包袱的確是限制條件之一——當(dāng)然以Intel的數(shù)據(jù)中心CPU路線(xiàn)圖來(lái)看,求變和自救的Intel已不同于前幾年的Intel了,Clearwater Forest的誕生就是最佳例證。Intel此前曾援引IDC的預(yù)測(cè)數(shù)據(jù):基于x86處理器在數(shù)據(jù)中心領(lǐng)域的存量數(shù)據(jù)(包括基礎(chǔ)工作負(fù)載類(lèi)型的數(shù)據(jù)中心和當(dāng)代AI數(shù)據(jù)中心)與AI時(shí)代的處理器發(fā)展趨勢(shì),2030年全球服務(wù)器的80%依然會(huì)屬于x86架構(gòu)(來(lái)源:IDC“Quarterly Enterprise Infrastructure Tracker”),如圖5所示。

圖5:智能體AI時(shí)代的CPU市場(chǎng)競(jìng)爭(zhēng)將趨于激烈。(來(lái)源:Copilot Pro生成)

在智能體AI的浪潮下,CPU的角色已經(jīng)從“配角”重新站回了舞臺(tái)中央。無(wú)論是NVIDIA以系統(tǒng)為中心的Vera CPU,還是Arm直接推出AGI CPU,抑或是Intel、AMD、AWS、Google、Microsoft、Ampere等廠(chǎng)商的持續(xù)投入,都說(shuō)明了一件事:AI時(shí)代的計(jì)算基礎(chǔ)設(shè)施正在經(jīng)歷一次結(jié)構(gòu)性重構(gòu)。CPU不再只是“為GPU供給數(shù)據(jù)”的輔助角色,而是智能體工作流的調(diào)度者、上下文的管理者、工具鏈的執(zhí)行者,是整個(gè)系統(tǒng)能否穩(wěn)定運(yùn)行的關(guān)鍵樞紐。

也正因?yàn)槿绱耍?026和2027年將成為CPU行業(yè)最關(guān)鍵的兩年。傳統(tǒng)巨頭要在架構(gòu)包袱與市場(chǎng)轉(zhuǎn)型之間找到新的平衡;新晉玩家要證明自己能在真實(shí)規(guī)模的AI數(shù)據(jù)中心中站穩(wěn)腳跟;生態(tài)、軟件棧、能效、成本、系統(tǒng)耦合能力都將成為決定勝負(fù)的變量。智能體AI的發(fā)展速度遠(yuǎn)超過(guò)去任何一次計(jì)算范式遷移,而CPU的競(jìng)爭(zhēng)也將因此變得前所未有地激烈。鹿死誰(shuí)手,猶未可知,但可以確定的是:這兩年將決定未來(lái)十年的算力格局。

本文為《電子工程專(zhuān)輯》2026年8月刊雜志文章,版權(quán)所有,禁止轉(zhuǎn)載。免費(fèi)雜志訂閱申請(qǐng)點(diǎn)擊這里。

責(zé)編:Franklin
本文為EET電子工程專(zhuān)輯原創(chuàng)文章,禁止轉(zhuǎn)載。請(qǐng)尊重知識(shí)產(chǎn)權(quán),違者本司保留追究責(zé)任的權(quán)利。
閱讀全文,請(qǐng)先
您可能感興趣
DRAM與SoC(系統(tǒng)級(jí)芯片)必須完成堆疊封裝,才能形成最終可用的移動(dòng)處理器模組。沒(méi)有DRAM到貨,即便邏輯芯片本身完美無(wú)瑕,也無(wú)法完成最終的堆疊封裝工序。
該公司并非依賴(lài)傳統(tǒng)的高帶寬內(nèi)存(HBM)存儲(chǔ)模型權(quán)重,而是將權(quán)重直接蝕刻進(jìn)硅片之中,形成模型專(zhuān)用集成電路。
該芯片為多個(gè)前沿領(lǐng)域提供了實(shí)時(shí)硬件底座,有望廣泛應(yīng)用于腦機(jī)接口、腦數(shù)字孿生、實(shí)時(shí)手術(shù)導(dǎo)航及阿爾茨海默癥等神經(jīng)退行性疾病研究。
TinyGPU v2.0屬于Tiny Tapeout SKY 25b流片項(xiàng)目,內(nèi)部集成約24萬(wàn)個(gè)晶體管,采用了4位雙緩沖以及存儲(chǔ)在QSPI RAM(四線(xiàn)串行外設(shè)接口隨機(jī)存取存儲(chǔ)器)中的8位深度緩沖。
華為舉辦鴻蒙電腦新品技術(shù)溝通會(huì),正式公布兩款全新自研PC處理器——麒麟X90 Plus和麒麟XE90……
即便是在ChinaJoy這樣的游戲展上,也能看出對(duì)芯片廠(chǎng)商而言,后摩爾時(shí)代“系統(tǒng)級(jí)”玩法變得越來(lái)越重要...
在全球300多家合作伙伴的支持下,Vera Rubin正加速在全球范圍內(nèi)擴(kuò)大部署。CoreWeave、Google Cloud、Microsoft Azure和Mistral等NVIDIA合作伙伴正紛紛部署Vera Rubin,該平臺(tái)在每瓦性能和最低Token成本方面樹(shù)立了基準(zhǔn)測(cè)試的新標(biāo)桿。
隨著AI從響應(yīng)提示詞邁向完成任務(wù),基礎(chǔ)設(shè)施的優(yōu)化重點(diǎn)也從模型本身擴(kuò)展到整個(gè)工作流,涵蓋規(guī)劃、工具調(diào)用、結(jié)果驗(yàn)證與任務(wù)執(zhí)行。
2026全國(guó)液冷技術(shù)與熱管理創(chuàng)新論壇將于2026年12月16-17日在蘇州舉辦,將匯聚行業(yè)精英、龍頭企業(yè)、科研機(jī)構(gòu)與終端用戶(hù),共探技術(shù)前沿、共商產(chǎn)業(yè)趨勢(shì)、共拓市場(chǎng)機(jī)遇,特舉辦本次液冷產(chǎn)業(yè)峰會(huì)論壇,助力中國(guó)液冷產(chǎn)業(yè)高質(zhì)量發(fā)展,賦能數(shù)字經(jīng)濟(jì)綠色未來(lái)。
近日,尊界V800正式發(fā)布,車(chē)型搭載的全主動(dòng)自適應(yīng)智能座椅,憑借精準(zhǔn)的人體姿態(tài)識(shí)別與動(dòng)態(tài)適配能力,帶來(lái)舒適化駕乘體驗(yàn)。該智能座椅核心算力與AI算法方案采用奕斯偉計(jì)算RISC-V車(chē)規(guī)級(jí)AI?MCU?EAM2011及全套端側(cè)AI工具鏈,通過(guò)輕量化、高可靠的本地化AI算力部署,實(shí)現(xiàn)車(chē)載座椅坐姿自適應(yīng)功能的規(guī)?;涞?。
截至目前,GS1參數(shù)規(guī)模和具體架構(gòu)等信息尚未公布,但已經(jīng)開(kāi)放貢獻(xiàn)者入口。作者 | 張真近日,美國(guó)能源部聯(lián)合企業(yè)、國(guó)家實(shí)驗(yàn)室和學(xué)術(shù)機(jī)構(gòu)共同推進(jìn)的“創(chuàng)世紀(jì)計(jì)劃(Genesis Mission)”
第18屆中國(guó)金剛石相關(guān)材料及應(yīng)用學(xué)術(shù)研討會(huì)暨2026國(guó)際金剛石創(chuàng)新應(yīng)用大會(huì)定于10月14日至16日,在廣西·桂林舉辦本次會(huì)議旨在為金剛石及相關(guān)領(lǐng)域的專(zhuān)家、學(xué)者、技術(shù)人員及企業(yè)家搭建高水平學(xué)術(shù)交流平臺(tái)。
金剛石散熱的邏輯已經(jīng)不需要再論證了——AI芯片功耗突破千瓦級(jí),銅和鋁已觸及物理極限,英偉達(dá)在推、華為在測(cè)、臺(tái)積電在跟?!霸撚媒饎偸边@件事,產(chǎn)業(yè)里已經(jīng)沒(méi)什么爭(zhēng)議了。爭(zhēng)議的是另一件事:“怎么才能用好。”
今日光電  有人說(shuō),20世紀(jì)是電的世紀(jì),21世紀(jì)是光的世紀(jì);知光解電,再小的個(gè)體都可以被賦能。追光逐電,光引未來(lái)...歡迎來(lái)到今日光電!----追光逐電 光引未來(lái)----來(lái)源:尋因
今日光電  有人說(shuō),20世紀(jì)是電的世紀(jì),21世紀(jì)是光的世紀(jì);知光解電,再小的個(gè)體都可以被賦能。追光逐電,光引未來(lái)...歡迎來(lái)到今日光電!----追光逐電 光引未來(lái)----來(lái)源:好用
2026年8月10日,宇樹(shù)科技正式開(kāi)啟網(wǎng)上網(wǎng)下申購(gòu),A股“人形機(jī)器人第一股”終于來(lái)了。發(fā)行價(jià)150.80元/股,對(duì)應(yīng)估值約610億元——十年前這家公司種子輪融資后估值僅1333萬(wàn)元。十年4574倍的財(cái)
今日光電  有人說(shuō),20世紀(jì)是電的世紀(jì),21世紀(jì)是光的世紀(jì);知光解電,再小的個(gè)體都可以被賦能。追光逐電,光引未來(lái)...歡迎來(lái)到今日光電!----追光逐電 光引未來(lái)----來(lái)源:尋因
近日,據(jù)《華爾街日?qǐng)?bào)》報(bào)道,蘋(píng)果公司近期開(kāi)始在其iPhone和MacBook等產(chǎn)品線(xiàn)中,測(cè)試使用長(zhǎng)鑫存儲(chǔ)(CXMT)的存儲(chǔ)芯片,以緩解因人工智能熱潮引發(fā)的內(nèi)存短缺問(wèn)題。報(bào)道援引知情人士稱(chēng),蘋(píng)果已與長(zhǎng)鑫
“安得廣廈千萬(wàn)間,大庇天下寒士俱歡顏”,杜甫的千古名句,承載的是讓更多人共享發(fā)展成果的社會(huì)理想。今天,Agentic AI技術(shù)正當(dāng)時(shí),成為產(chǎn)業(yè)升級(jí)的核心引擎,幾乎每一個(gè)城市都面臨新的命題:如何變出一座
分析稱(chēng),蘋(píng)果或通過(guò)犧牲部分毛利控制漲價(jià)幅度,同時(shí)提高舊款機(jī)型價(jià)格緩解成本壓力。作者 | 史正丞隨著蘋(píng)果秋季發(fā)布會(huì)進(jìn)入最后一個(gè)月倒計(jì)時(shí),圍繞著“iPhone漲多少”的猜測(cè)正在持續(xù)升溫。行業(yè)研究