7月底AMD正式推出了Zen6架構(gòu)的EPYC產(chǎn)品線，這一代架構(gòu)及工藝升級很大，直接上了臺積電2nm工藝。
發(fā)布之后，很多媒體及網(wǎng)友也將Zen6架構(gòu)EPYC與Intel未來的Diamond Rapids處理器做了對比，后者是下一代至強(qiáng)處理器，雖然沒有SMT多線程，但高性能P核多達(dá)192個，而Zen6的高性能核只有96個，而且256個核心的Zen6同樣比Intel的E核至強(qiáng)288個核心要少。
這樣一對比顯得AMD在CPU核心上吃虧了，但AMD計(jì)算暨企業(yè)AI產(chǎn)品線高級副總裁Madhu Rangarajan站出來澄清事實(shí)，強(qiáng)調(diào)Zen6架構(gòu)的EPYC沒有所謂的P核、E核之分，只有高頻率核心與正常頻率核心，這些核心之前唯一有意義的區(qū)別就是Fmax或者最大渦輪加速頻率，但對于高吞吐量負(fù)載，F(xiàn)max頻率實(shí)際上也不起作用。
AMD的這個澄清內(nèi)容其實(shí)不新鮮了，大家現(xiàn)在說的P核、E核其實(shí)是Intel之前在12代酷睿上推出的兩種x86核心，AMD官方一直沒用這個稱呼，所以說Zen6上也沒有什么P核、E核。
有趣的是，兩家公司更不喜歡也不接受大小核的說法，畢竟小核的說法在營銷上更沒好處，只不過很多人習(xí)慣了這個說法，或者也用P、E核來稱呼AMD的兩種內(nèi)核。
在AMD的官方說法中，兩種CPU核心只有標(biāo)準(zhǔn)版及后綴c的區(qū)別，現(xiàn)在就是Zen6、Zen6c之分，二者的核心架構(gòu)是一樣的，而P、E核是不同的架構(gòu)，c代表的不是核心大小區(qū)別，是AMD針對不同服務(wù)器負(fù)載推出的，c架構(gòu)的主打高密度核心，之前做到了128核256線程，Zen6c可以做到256核512線程。
前兩天AMD還正式宣布收購AI芯片初創(chuàng)公司Taalas，進(jìn)一步強(qiáng)化其在AI推理領(lǐng)域的戰(zhàn)略布局。
Taalas成立于2023年，總部位于加拿大多倫多，其核心技術(shù)路線與主流GPU、Groq LPU及Cerebras晶圓級加速器等數(shù)據(jù)流架構(gòu)存在本質(zhì)區(qū)別。
該公司并非依賴傳統(tǒng)的高帶寬內(nèi)存（HBM）存儲模型權(quán)重，而是將權(quán)重直接蝕刻進(jìn)硅片之中，形成模型專用集成電路。
芯片主要由兩個功能區(qū)域構(gòu)成：用于存儲模型權(quán)重的掩膜ROM召回結(jié)構(gòu)，以及用于存放KV緩存和微調(diào)適配器的SRAM召回結(jié)構(gòu)。這一方案有望將推理性能提升一個數(shù)量級甚至更多。
今年2月，Taalas發(fā)布了首款測試芯片HC1，采用臺積電6納米工藝制造。初步基準(zhǔn)測試顯示，該芯片運(yùn)行Meta Llama 3.1 8B模型時，速度達(dá)每秒16,960個token——這一成績在當(dāng)時約為英偉達(dá)GPU的48倍、Cerebras加速器的8.5倍。
盡管Llama 3.1以當(dāng)前標(biāo)準(zhǔn)已非最新模型，但該光罩尺寸芯片的主要目的在于驗(yàn)證技術(shù)概念的可性行。
Taalas計(jì)劃于今年夏季推出第二代HC2芯片，目標(biāo)將單芯片支持的參數(shù)量提升至200億。雖然這一數(shù)值本身并不算龐大，但通過類似GPU的流水線并行方式，權(quán)重可分布在多顆加速器上協(xié)同運(yùn)行。
以單芯片200億參數(shù)計(jì)算，僅需50顆加速器即可支撐萬億參數(shù)級別的大模型，而AMD擁有機(jī)架級計(jì)算平臺與內(nèi)部系統(tǒng)設(shè)計(jì)團(tuán)隊(duì)，足以承接這一需求。
作為對比，英偉達(dá)近期發(fā)布的LPX系統(tǒng)在運(yùn)行同等規(guī)模模型時，需數(shù)十顆GPU與至少2000顆Groq LPU配合，Taalas方案在空間占用與功耗效率方面具備顯著優(yōu)勢。
據(jù)知情人士透露，AMD計(jì)劃將Taalas技術(shù)芯片與Instinct系列的Helios機(jī)架配對使用，構(gòu)建分離式架構(gòu)：計(jì)算密集型的提示詞處理由GPU負(fù)責(zé)，token生成任務(wù)則卸載至Taalas加速器。
另一種部署模式為，客戶先在Instinct加速器上部署和驗(yàn)證模型，待效果確認(rèn)后再遷移至Taalas加速器，形成類似“tick-tock”的迭代節(jié)奏。
此前，AMD在AI領(lǐng)域持續(xù)加碼并購：2024年以6.65億美元收購AI模型開發(fā)商Silo AI，隨后以49億美元收購服務(wù)器廠商ZT Systems，為Helios機(jī)柜產(chǎn)品線奠定基礎(chǔ)；此外，公司還收購了包括推理軟件開發(fā)商MK1在內(nèi)的多家AI初創(chuàng)企業(yè)，加速完善其AI全棧生態(tài)。
