該公司并非依賴傳統的高帶寬內存（HBM）存儲模型權重，而是將權重直接蝕刻進硅片之中，形成模型專用集成電路。
當地時間8月6日，AMD宣布已達成最終協議，收購總部位于加拿大多倫多的AI推理芯片初創公司Taalas。這是繼今年初英偉達斥資200億美元收購Groq資產后，AI推理芯片領域的又一筆重磅交易，標志著行業競爭焦點正從訓練芯片加速轉向推理芯片。
今年2月，Taalas為開發針對人工智能模型優化的芯片籌集了1.69億美元，使其累計融資額達到約2.19億美元。AMD未披露此次交易的具體金額。此次收購尚需滿足慣例成交條件并獲得監管部門批準。
Taalas絕技：把模型權重"刻"進硅片
Taalas成立于2023年，其核心技術路線與主流GPU、Groq LPU及Cerebras晶圓級加速器等數據流架構存在本質區別。該公司并非依賴傳統的高帶寬內存（HBM）存儲模型權重，而是將權重直接蝕刻進硅片之中，形成模型專用集成電路。
芯片主要由兩個功能區域構成：用于存儲模型權重的掩膜ROM召回結構，以及用于存放KV緩存和微調適配器的SRAM召回結構。這一方案有望將推理性能提升一個數量級甚至更多，同時擺脫了對昂貴且稀缺的HBM的依賴。
Taalas聯合創始人兼CEO Ljubisa Bajic表示："我們創立Taalas的初衷是圍繞模型構建硬件，從根本上重新思考人工智能推理。"
運行Llama 3.1速度超英偉達GPU 48倍
今年2月，Taalas發布了首款測試芯片HC1，采用臺積電6納米工藝制造。初步基準測試顯示，該芯片運行Meta Llama 3.1 8B模型時，速度達每秒16,960個token——這一成績在當時約為英偉達GPU的48倍、Cerebras加速器的8.5倍。
Taalas HC1 AI 推理卡
盡管Llama 3.1以當前標準已非最新模型，但該光罩尺寸芯片的主要目的在于驗證技術概念的可行性。Taalas計劃于今年夏季推出第二代HC2芯片，目標將單芯片支持的參數量提升至200億。雖然這一數值本身并不算龐大，但通過類似GPU的流水線并行方式，權重可分布在多顆加速器上協同運行。以單芯片200億參數計算，僅需50顆加速器即可支撐萬億參數級別的大模型。
Taalas 性能對比（AMD 收購前 Taalas 在 Llama 3.1 8b Large 平臺上的表現）
AMD計劃與Helios機架配對，構建分離式架構
據知情人士透露，AMD計劃將Taalas技術芯片與Instinct系列的Helios機架配對使用，構建分離式架構：計算密集型的提示詞處理由GPU負責，token生成任務則卸載至Taalas加速器。
另一種部署模式為，客戶先在Instinct加速器上部署和驗證模型，待效果確認后再遷移至Taalas加速器，形成類似"tick-tock"的迭代節奏。AMD人工智能事業部高級副總裁Vamsi Boppana表示："AMD正在構建一個全棧式AI平臺，讓客戶能夠靈活地為每項AI工作負載部署合適的計算解決方案。Taalas的技術和世界一流的工程團隊通過提供差異化的推理性能和效率，增強了我們的AI產品組合。"
從訓練到推理，專用芯片成新戰場
此次收購是AMD近年來密集布局AI生態的延續。2024年，AMD以6.65億美元收購AI模型開發商Silo AI，隨后以49億美元收購服務器廠商ZT Systems，為Helios機柜產品線奠定基礎。此外，公司還收購了推理軟件開發商MK1、MEXT和FastFlowLM等多家AI初創企業。今年7月，AMD還與AI芯片企業Cerebras建立合作，將其AI加速器整合至AMD系統中。
隨著生成式AI應用快速普及，行業重心正逐漸由模型訓練轉向模型推理，即AI模型在實際業務中響應用戶請求的計算過程。不同于GPU等通用計算芯片，Taalas開發的是針對單一AI模型進行硬件定制的專用推理加速器（ASIC），芯片在設計時便針對特定模型進行"硬連線"優化，因此雖然靈活性較低，但可顯著提升推理效率并降低成本。
AMD首席執行官蘇姿豐此前表示，她始終認為AI芯片市場不存在"一種芯片適用于所有應用"的情況。GPU憑借高度通用性，仍將占據AI芯片市場的大部分份額，但不同應用場景也需要更加專業化的加速器共同構建完整的AI計算生態。
您可能感興趣
