這幾年的AI浪潮中,受益最大的當屬NVIDIA,各大公司的訓練、推理都少不了購買后者的GPU顯卡,不過兩年后GPU恐怕就不是主宰了,谷歌的TPU會后來居上。
在AI芯片技術路線上,可以簡單分為NVIDIA為主的GPU通用計算及谷歌為主的ASIC專用計算,谷歌自研的張量處理器TPU也有10年歷史了,只不過部署的數量是比不過NVIDIA的GPU的。
但是這兩年來,各家都不希望算力芯片完全捆綁到NVIDIA的顯卡上,自研AI芯片開始爆發,谷歌的TPU部署量也迅速提升,第七代TPUv7已經部署,4月份發布了第八代TPUv8,首次針對訓練及推理做了區分。
其中V8T偏重AI訓練,雖然谷歌說也可以做推理,但主要還是訓練用的,每個Pod節點堆了9600個V8T芯片,FP4性能達到了121EFlops,配備了2PB HBM內存,內存帶寬19.2TB/s,芯片內部帶寬400GB/s,幾乎都是2-4倍的變化。
V8i主要面向AI推理負載,規格上要降不少,每個節點只有1152個V8i芯片,算力降低到了11.6EFlops,內存帶寬19.2TB/s沒變。

再下一代的第九代TPUv9會更猛,會上4芯封裝,封裝要求更高,因此除了此前合作的臺積電之外,還會用上Intel的EMIB封裝,分給Intel大約300萬顆TPU芯片的訂單。
這也意味著TPUv9這一代的總數量驚人,日前供應鏈消息稱谷歌28年部署的TPUv9數量將達到1200萬到1500萬顆。
這是什么概念呢?NVIDIA的AI GPU顯卡芯片供應市面上大多數算力廠商,今年的銷量預計是820萬顆,2028年也就提升到1240萬顆,谷歌的TPU將首次在數量上領先NVIDIA的顯卡。
ASIC路線的AI芯片數量超過NVIDIA的GPU,這事本身并不稀奇,因為谷歌、微軟、亞馬遜等大廠肯定是不希望AI芯片完全依賴NVIDIA或者AMD的,用自己研發的芯片不僅可以降低成本,還可以減少對NVIDIA的技術依賴性。


