金正浩預(yù)測，10年后，HBF的市場需求將超過HBM。
在人工智能的狂飆突進(jìn)中，業(yè)界曾長期將GPU視為算力的絕對核心。然而，隨著AI技術(shù)從訓(xùn)練階段邁向推理與智能體（Agentic AI）時代，一場關(guān)于計算架構(gòu)的深刻變革正在發(fā)生。
7月6日消息，被譽為“HBM之父”的韓國科學(xué)技術(shù)院（KAIST）電氣系教授金正浩近日接受采訪時指出，AI的核心競爭力正從GPU轉(zhuǎn)向內(nèi)存。他斷言，AI的本質(zhì)是內(nèi)存，在當(dāng)前的AI推理過程中，GPU真正用于計算的時間僅有10%至30%。這一論斷不僅揭示了當(dāng)前AI硬件的底層瓶頸，更預(yù)示了未來存儲芯片在AI應(yīng)用中的顛覆性發(fā)展趨勢。
算力重心的轉(zhuǎn)移：從“計算主導(dǎo)”到“內(nèi)存中心”
過去，AI的發(fā)展高度依賴大模型訓(xùn)練，GPU憑借其強(qiáng)大的并行計算能力成為性能的決定性因素。然而，著眼現(xiàn)在與未來，AI正全面進(jìn)入推理時代。在這一階段，AI系統(tǒng)需要處理海量多模態(tài)數(shù)據(jù)，執(zhí)行復(fù)雜的多步驟任務(wù)。
金正浩指出，AI每次輸出結(jié)果，都必須先從HBM（高帶寬內(nèi)存）讀取數(shù)據(jù)、傳到GPU進(jìn)行計算，再將結(jié)果寫回內(nèi)存。這種傳統(tǒng)的馮·諾依曼架構(gòu)導(dǎo)致了嚴(yán)重的數(shù)據(jù)搬運瓶頸。即便部署百萬塊GPU，其大部分時間仍在等待數(shù)據(jù)。
因此，決定AI性能上限的不再僅僅是計算速度，而是“一次能處理多少數(shù)據(jù)、能以多快速度處理數(shù)據(jù)”，內(nèi)存能力已直接決定了AI的性能天花板。
HBF的崛起：突破容量天花板的“數(shù)字圖書館”
為了解決內(nèi)存容量與帶寬的瓶頸，HBM（高帶寬內(nèi)存）應(yīng)運而生，它通過垂直堆疊DRAM芯片，將傳統(tǒng)內(nèi)存的“8車道高速公路”拓寬至1024甚至2048車道。
然而，隨著多模態(tài)AI和Agentic AI的出現(xiàn)，AI需要24小時不間斷工作，保存視頻、文檔、長期記憶等海量冷數(shù)據(jù)，內(nèi)存需求將比現(xiàn)在暴增1000倍。僅靠HBM已無法滿足這一需求。
在此背景下，HBF（High Bandwidth Flash，高帶寬閃存）成為下一代技術(shù)路線的必然選擇。HBF將NAND閃存像HBM一樣進(jìn)行垂直堆疊。如果說HBM是擺在桌旁用于快速查閱的“參考書”，那么HBF就是容量巨大的“圖書館書架”。NAND閃存雖然速度不及DRAM，但容量大、可長期保存數(shù)據(jù)，在推理場景中足以滿足“冷數(shù)據(jù)”的存儲需求。
金正浩預(yù)測，10年后，HBF的市場需求將超過HBM。目前，SK海力士、三星、閃迪等企業(yè)正加速布局，HBF工程樣片預(yù)計于2027年面世，并有望在2028年被英偉達(dá)、谷歌等巨頭采用。
終極形態(tài)：HBS與百層3D復(fù)合架構(gòu)
在HBM與HBF之后，存儲技術(shù)的演進(jìn)并未停止。金正浩提出了更為超前的HBS（High Bandwidth SRAM）概念。SRAM的讀寫速度比DRAM快約1000倍，但傳統(tǒng)上因密度低、成本高，僅作為芯片內(nèi)的小容量緩存。HBS的構(gòu)想是將整張12英寸晶圓全部做成SRAM，并垂直堆疊12至16層，從而將容量擴(kuò)展至1600GB，實現(xiàn)極致的高速數(shù)據(jù)處理。
基于這些技術(shù)，金正浩描繪了未來AI計算機(jī)的終極形態(tài)——一棟“100層3D大樓”。
在這個龐大的三維建筑中，GPU被置于頂層負(fù)責(zé)散熱與計算；HBM充當(dāng)“商場”，提供高速數(shù)據(jù)吞吐；HBF作為“住宅區(qū)”，提供海量長期存儲；HBS則承擔(dān)極速緩存功能。
各種形態(tài)的存儲芯片組合在一起，形成復(fù)合體，源源不斷地向GPU供給數(shù)據(jù)。這種內(nèi)存中心化（Memory-Centric）的架構(gòu)，將徹底顛覆傳統(tǒng)以CPU/GPU為核心的計算范式，GPU最終可能淪為嵌入內(nèi)存系統(tǒng)中的普通零部件。
不過，百層“3D大樓”結(jié)構(gòu)存儲芯片的產(chǎn)業(yè)化之路并非坦途。這條技術(shù)路線最大的工程挑戰(zhàn)不在于計算，而在于供電與散熱。要給GPU和堆疊內(nèi)存供應(yīng)數(shù)千安培的電流，電力供應(yīng)網(wǎng)絡(luò)的設(shè)計將成為最難的技術(shù)壁壘，也將成為企業(yè)間真正的核心競爭力。
您可能感興趣
