《內(nèi)存的故事》主要是三年前寫的。趁這個假期寫一個短續(xù),枯燥地鳥瞰一下這幾年內(nèi)存行業(yè)的一些近況。
一、內(nèi)存領(lǐng)域的現(xiàn)階段問題是什么
內(nèi)存是個不太好的俗稱,其主要用途是兩個:作為程序運行的空間(DRAM等)和存儲數(shù)據(jù)的空間(NAND等)。
NAND進入3D時代以后,基本上容量就沒有天花板了,所以這個我們放到最后再說。
現(xiàn)階段的主要問題是DRAM:單位價格的容量增長緩慢和速度跟不上CPU。這個問題在商用領(lǐng)域特別明顯,比如數(shù)據(jù)中心、高性能計算和運營商網(wǎng)絡(luò)等。
此外DRAM能耗過高,因為它要在每個時鐘周期給小電容們重新充電。
電費是商業(yè)用戶的成本大頭。在移動設(shè)備上,DRAM也是電池的死敵。
歷史上DRAM為了增加帶寬只能不斷增加延時,那么把緩存加大如何呢?問題是,SRAM和CPU你中有我一樣貴,而且六個晶體管才能存一個比特。Intel至強處理器的Cache,也只有DRAM的千分之一。
宇宙無敵的IBM Power 9 CPU配24個核也就120MB L3,代價是它的die size近700mm2,是蘋果A13處理器的七倍!

(Power9中L2/L3占這么大面積才100多M)
內(nèi)存行業(yè)的主要核心問題是日益增長的容量速度功耗需求和DRAM的技術(shù)瓶頸無法匹配。
二、DDR5
由于DRAM本身的局限性,它的技術(shù)進步一直很痛苦。DDR3到DDR4的小進步花了五年;DDR4從2012年發(fā)布第一版到今天DDR5還沒有發(fā)布(注:顯存GDDR5只是DDR3的變種)。
DRAM標準由JEDEC JC-42工作組制訂。雖然有投票機制,但DRAM的節(jié)奏其實一直由英特爾主導。
原因很簡單,英特爾確定PC路線圖:CPU或北橋芯片決定什么時間支持新標準內(nèi)存。
得益于半導體工藝的進步,DDR5的核心電壓從DDR4的1.2V下降到1.1V,這有望節(jié)省20%的功耗。

(DDR5可以使系統(tǒng)通道數(shù)再翻倍。圖:Mircon)
DDR5的Burst Length和Prefetch (預讀取)從DDR4的8n增加到16n,這樣在時鐘頻率不變的情況下帶寬翻倍。為了控制高速帶來的各種信號干擾和抖動問題,DDR5還引入了核心時鐘的各種優(yōu)化調(diào)整。新的On-die ECC功能也是對服務(wù)器的大利好。
但這些這也將帶來更多的設(shè)計、測試和兼容挑戰(zhàn),需要CPU(含內(nèi)存控制器)的很大改動,從目前看大概要等到2022年。
三、LPDDR5
低功耗LPDDR5單獨拿出來因為從LPDDR4開始已經(jīng)和標準DDR分道揚鑣了。
雖然LPDDR5和DDR5使用的新技術(shù)很多是共通的,但著眼點有很大不同。LPDDR5是功耗第一速度第二,而DDR5追求速度第一功耗第二。
因為LPDDR4已經(jīng)是16n預讀取,LPDDR5主要靠Bank group訪問實現(xiàn)速度提升。它追求的是超低功耗,所以供電電壓和核心電壓比DDR5都更低。
x86領(lǐng)域的技術(shù)進步被英特爾帶慢了節(jié)奏,但在手機領(lǐng)域則不同。
激烈的競爭和每年一次的旗艦產(chǎn)品發(fā)布使得各家不斷比拼最新的技術(shù)。
LPDDR5就是個例子。
小米10率先使用LPDDR5確實是個big thing,這顯示了高通激進的產(chǎn)品策略。一加8和三星S20的跟進基本上定了今年高端的調(diào)子。
華為則面臨比較尷尬的處境,因為美商Micron是目前LPDDR5的主要供應(yīng)商。三星估計優(yōu)先供應(yīng)自己,而Hynix似乎在標準DDR5更用心。在LPDDR5供應(yīng)困難的情況下,華為要不要在下一代麒麟提供支持,從產(chǎn)品規(guī)劃上是個兩難。
三、HBM
對于迫切需要高帶寬的應(yīng)用,比如游戲和高性能計算,高帶寬內(nèi)存(HBM)則是繞過DRAM傳統(tǒng)IO增強模式演進的優(yōu)秀方案。
(圖:AMD)
HBM直接和處理器封裝的方式不再受限于芯片引腳,突破了IO帶寬的瓶頸。另外DRAM和CPU/GPU物理位置的接近使得速度進一步提升。
在尺寸上,HBM也使整個系統(tǒng)的設(shè)計大大縮小成為可能。
在目前,HBM2在很大程度上是GDDR6的競爭對手。不過根據(jù)最新消息,Xbox Series X和索尼PS5仍舊選擇了GDDR6,也許因為HBM2高昂的成本吧。
不過從長遠看,DRAM仍有很強的3D化需求。因為2D在制造上(昂貴的10nm瓶頸)接近天花板。
四、NVDIMM
現(xiàn)在云計算虛擬機和各種內(nèi)存數(shù)據(jù)庫大行其道,服務(wù)器對大容量內(nèi)存非常饑渴。但是由于DRAM成本很難進一步降低,如何低成本配置高容量內(nèi)存變成一個難題。
混搭的NVDIMM被提了出來。
NVDIMM-F是直接用NAND顆粒替代DRAM做成內(nèi)存條,好處是極其便宜,但它速度太慢而且并不能突破系統(tǒng)對DRAM總?cè)萘康脑L問限制。
NVDIMM-N是在內(nèi)存條上加上NAND做DRAM的鏡像存儲,防止服務(wù)器意外斷電丟失內(nèi)存數(shù)據(jù)。但NAND并不能擴容內(nèi)存而且占了一些通道帶寬。

JEDEC NVDIMM-N示意圖
最終的方案是NVDIMM-P,它允許巨大的容量比如1T內(nèi)存,并允許用各種新式芯片比如NAND、RRAM、MRAM等替代DRAM。
目前還沒有看到JEDEC NVDIMM-P的標準出來。但英特爾已經(jīng)發(fā)布了3D-Xpoint為基礎(chǔ)的Optane DIMM,自己平臺支持自己是個巨大的優(yōu)勢,也是給競爭對手的一個大門檻。
五、3D-Xpoint和其它NV內(nèi)存
3D-Xpoint是很有意思一個話題,號稱速度比NAND快1000倍。
英特爾和Micron對3D-Xpoint的技術(shù)原理一直諱莫如深,甚至一丁點都不透露。開始有人猜它是3D NOR,后來大家認為它是相變內(nèi)存(PCM)或RRAM。
市面上也沒有看到有人剝開這顆芯片分析內(nèi)部。
直到一個案卷中,讓我們看到當代愛迪生Stanford Ovshinsky是其發(fā)明人。清算公司認為英特爾和Micron在Ovshinsky去世后公司破產(chǎn)處理中隱瞞了關(guān)鍵信息。
和Micron分家后,英特爾的3D-Xpoint將轉(zhuǎn)到大連廠獨家生產(chǎn),不知道未來是否能有更多的小道消息。
3D-Xpoint技術(shù)在服務(wù)器領(lǐng)域增長潛力很大,但如何降低制造成本是關(guān)鍵。
MRAM、FRAM等其它NV類內(nèi)存則在物聯(lián)網(wǎng)、汽車和工業(yè)等領(lǐng)域?qū)ふ覚C會。
MRAM的工藝和傳統(tǒng)MOS半導體工藝類似,這有助于其擴大生產(chǎn)而降低成本,最終有機會在一些嵌入式應(yīng)用取代部分NOR、SRAM或DRAM。
那么速度更快的PCM和RRAM是否能取代NAND呢?似乎短期不會實現(xiàn),因為存儲數(shù)據(jù)的速度要求一般沒那么高,而3D NAND的低成本容量暴增實在是太成功了。

(舊圖:對比不同內(nèi)存的成本和速度)
五、3D NAND
對于3D NAND來講,單個cell縮小變得沒有意義,因此不再需要最尖端的半導體制程技術(shù)。Hynix最近說,3D NAND未來可以疊800層。
蓋樓過程光刻環(huán)節(jié)減少了,而沉積和蝕刻等工序大大增加,蝕刻之王泛林成為最大贏家。
這導致的另一個影響是DRAM和NAND的產(chǎn)線和產(chǎn)能不再能靈活互補。
蝕刻下圖這種樓梯達百層和以及蝕刻長孔是有挑戰(zhàn)性的。樓梯是連接位線的,長孔則是著名的充電陷阱(Charge Trap)。

記得英飛凌/奇夢達是最早用以色列Saifun公司技術(shù)量產(chǎn)Charge Trap閃存的。但當時技術(shù)不成熟,擦寫壽命只有Floating Gate的1/10。Jim Handy說Charge Trap蝕刻孔的工藝來源自Trench技術(shù)。
在《內(nèi)存的故事》里提到過當初IBM、英飛凌、東芝和AMD是早期半導體技術(shù)結(jié)盟的,后來奇夢達用Trench獨戰(zhàn)群雄最后敗北。但Charge Trap蝕刻技術(shù)倒是延續(xù)了下來:AMD的后代Spansion把它用在了NOR Flash上,而東芝則做出領(lǐng)先的BiCS 3D NAND。
現(xiàn)在堅守Floating Gate的只剩英特爾一家了。我的理解是FG每層都需要光刻,這樣的工藝復雜度會導致其失去競爭力,退出市場可能是難以避免的。
前些天看長江存儲發(fā)布的128層Xtacking技術(shù)很有意思,它把存儲陣列和控制電路分開。這樣可以大大降低開發(fā)和革新周期,但對量產(chǎn)挑戰(zhàn)不小。看到的具體技術(shù)細節(jié)不多,如果是wafer-to-wafer bonding,即使不考慮bonding良率,成品良率是兩片晶圓良率相乘的關(guān)系。
3D NAND的延續(xù)和DDR5標準的難產(chǎn)則對于目前正在起步的中國內(nèi)存業(yè)則是個非常好的追趕良機。
很高興看到長鑫存儲已經(jīng)開始量產(chǎn)主流的DDR4,而其在知識產(chǎn)權(quán)和專利上的遠見布局也令人贊嘆。
腳踏實地和志存高遠大概是內(nèi)存行業(yè)的不二法門吧。
參考閱讀:
《內(nèi)存的故事》
《內(nèi)存的故事》-Rambus
《內(nèi)存的故事》-金士頓