6月26日消息，現(xiàn)在AI算力越做越強(qiáng)，但一直有個(gè)繞不開的瓶頸就是“內(nèi)存墻”。簡單來說，內(nèi)存帶寬提升速度跟不上算力消耗速度，就算是HBM高帶寬內(nèi)存，很多時(shí)候也頂不住壓力，而且HBM發(fā)熱問題越來越棘手。
高通在投資者交流會上亮出了一套全新架構(gòu)HBC，也就是高帶寬近內(nèi)存計(jì)算架構(gòu)，打算用這套方案破解內(nèi)存墻，針對部分AI任務(wù)實(shí)現(xiàn)性能近乎同步上漲。
HBC的設(shè)計(jì)思路并不難懂：把原本集成在SoC芯片里的AI加速器單獨(dú)拆分出來，疊在LPDDR內(nèi)存堆棧下方，依靠TSV硅通孔技術(shù)直接連通。這么設(shè)計(jì)之后，數(shù)據(jù)延遲能壓到和SRAM差不多的水平，同時(shí)保留堆疊內(nèi)存容量大、集成度高的優(yōu)勢。對比HBM方案，它不用硅中介層，省去復(fù)雜封裝工序，成本更低，功耗和發(fā)熱也能得到明顯控制。
當(dāng)然論極限帶寬、最大存儲容量，HBC還是比不上HBM，高通也沒有放出具體實(shí)測數(shù)據(jù)。不過能效優(yōu)勢很突出，單位功耗下的帶寬能達(dá)到HBM的5到7倍，存儲容量更是芯片內(nèi)置SRAM的200倍以上。
這種近內(nèi)存計(jì)算的思路并不是高通第一個(gè)想到的，不少存儲廠商都做過相關(guān)研發(fā)，只是一直沒能大批量商用落地。比如ASIC設(shè)計(jì)企業(yè)智邦集成電路（GUC）前段時(shí)間推出DoL技術(shù)，可以在邏輯芯片上堆疊1至4層DRAM，帶寬最高接近5TB/s，性能甚至比一部分HBM3E產(chǎn)品更好。
按照高通的產(chǎn)品規(guī)劃，旗下Dragonfly飛龍系列AI加速器，今年會推出AI200型號，搭配常規(guī)LPDDR5X內(nèi)存，最大容量43TB，風(fēng)冷、液冷兩種散熱方式都能用。第一款搭載HBC架構(gòu)的AI250要等到明年推出，最大容量依舊是43TB，有效帶寬相比AI200最多提升18倍。第二代HBC產(chǎn)品AI300則安排在后年發(fā)布，官方暫時(shí)沒有公布具體容量，主要優(yōu)化拓展能力，帶寬相比AI200最高能提升54倍。
