
作者 | 張真
近日,AMD宣布已達成最終協議,收購人工智能推理芯片領域的先驅Taalas。截至目前,交易價格、支付方式和預計交割時間均未披露。
AMD表示,隨著人工智能推理成為人工智能市場增長最快的領域之一,且工作負載日益專業化,此次收購將憑借差異化的推理技術和世界一流的工程技術專長,進一步強化AMD的長期人工智能發展路線圖。
資料顯示,Taalas是一家生產推理芯片的公司,其成立于2023年,總部位于加拿大多倫多。公司首席執行官Ljubisa Bajic在公司網站上寫道:“Taalas正在打造一個平臺,可以將任何AI模型快速轉化為定制芯片。”其聲稱,將從未見過的模型以硬件實現,僅需兩個月的時間。
Taalas的技術手段,來源于其“模型即計算機(The Model is The Computer)”的構想。
今年2月,Taalas發布了采用臺積電6nm工藝制造的測試芯片HC1。測試結果顯示,該芯片能夠以每秒16960個token的速度處理Meta的Llama 3.1 8B模型——比英偉達通用GPU快48倍,比Cerebras的WSE快8倍。
超常的性能源于其獨特的工作原理:一般情況下,AI模型以軟件形式存放在外部高帶寬內存(HBM)中,芯片運行時不斷讀取參數并執行計算。而Taalas直接把模型結構和大部分權重寫入芯片的掩模ROM調用結構,以及KV cache和微調適配器存儲所在的SRAM調用結構,相當于將模型參數以硅片的物理結構固定下來。
Ljubisa Bajic曾在一篇文章中如此闡述其理念:通用推理硬件往往被割裂為存儲和計算兩個部分,這種割裂迫使現代人工智能系統采用先進的封裝技術、高帶寬內存堆棧、海量 I/O 帶寬和液冷技術。而Taalas所追求的最終成果是一個無需 HBM、無需先進封裝、無需 3D 堆疊、也無需液冷的系統。
這種設計并非沒有缺陷,其定制屬性意味著如同所有的ASIC芯片一樣放棄通用性。此外,盡管該芯片推理速度幾塊,但由于移除了可編程性,若模型結構或權重發生較大變化,客戶無法通過軟件升級完成切換,需要等待新版本芯片。
▌巨頭集體押注ASIC
在AMD的設想中,Taalas的技術將與AMD的全棧式AI平臺形成互補。
該平臺包括AMD Helios機架式解決方案、AMD Instinct GPU、AMD EPYC CPU、AMD ROCm軟件以及AMD不斷擴展的AI生態系統。AMD計劃將這項技術整合到其加速器路線圖中,并利用AMD Instinct GPU開發系統級解決方案。
這并非AMD首次押注ASIC。就在近期,蘇姿豐在AMD Advancing AI大會上表示,公司正在與芯片設計公司Cerebras合作,通過Cerebras的云服務提供高速推理能力;與Cerebras系統將推出結合AMD Helios GPU服務器機架與Cerebras晶圓級芯片的AI推理方案,產品將于今年晚些時候推向市場。
其他巨頭也已有類似動作:去年底,英偉達確認與初創公司Groq達成技術授權協議,并從后者招攬了工程人才。黃仁勛表示,Groq可能會為數據中心市場帶來25%的增長空間。云廠商方面,谷歌TPU、微軟Maia、亞馬遜Trainium等項目均反映頭部科技企業正在通過自研芯片優化特定模型場景下的性能和成本。
究其原因,隨著人工智能向推理時代邁進,巨頭們不再比拼持有GPU的多寡。正如招商證券在研報中所說,AI芯片自研潮興起,意味著AI基礎設施行業正從“單一GPU供給約束”向“多元化定制芯片方案”切換,投資邏輯邊際上從硬件壟斷走向生態博弈。
金元證券表示,AI芯片產業正在呈現“通用GPU+自研ASIC”并行發展的趨勢。隨著大模型推理需求快速增長,針對固定工作負載優化的ASIC芯片具備更高能效比,有望成為未來AI基礎設施的重要組成部分。

