人工智能(AI)正在徹底改變數據中心內部連接的角色,以至于數據中心內部網絡的重要性堪比計算本身。數據中心內部后端網絡(連接AI加速器彼此以及與內存連接以進行工作負載分配)實際上正在成為計算系統的延伸。
那么,我們面臨的是數據中心內部網絡的革命還是演進?或許兩者兼而有之。
AI工作負載的革命性激增推動了新技術的發展,但這些技術利用了現有方法,并建立在多年來持續不斷的創新之上。
幾十年來,銅纜一直是數據中心內部連接的默認選擇。銅纜價格低廉、易于施工,并且在短距離傳輸中效果顯著。然而,隨著數據速率的提高和傳輸距離的增加,銅纜的性能會因衰減和電磁干擾而下降,信號完整性也會隨之降低。
另一方面,光纖可以在更長的距離上傳輸更高的數據速率,同時最大限度地減少信號損耗,并且不受電磁干擾的影響。目前,幾乎所有超過約5m的400Gbps數據中心連接(即任何超出單個機架的高性能連接)都已過渡到光纖連接。更快的AI加速器正在推動機架內部連接也轉向光纖連接。最終,AI工廠數據中心內的所有連接都將采用光纖實現。
過去幾年,光鏈路速度取得了令人矚目的進步,從100Gbps迅速提升至400Gbps、800Gbps,并逐漸發展到1.6Tbps。然而,要滿足AI訓練和推理的需求,僅僅提高端口速度是不夠的。
AI正在重塑數據中心網絡
過去,數據中心采用縱向擴展策略來實現增長,即在機架中添加更大的服務器或更多處理器。現代AI挑戰了這種模式。大型AI模型和分布式訓練必須協調數千個處理器/加速器協同工作。這意味著數據中心建設需要橫向擴展,將機架、行和相鄰建筑物中的無數節點連接起來,形成一個單一的計算架構,共同處理共享任務。
分布式計算并非新生事物,但這些AI架構的規模和性能卻是前所未有的。目前正在構建的龐大AI訓練集群,其橫向擴展網絡能夠以個位數微秒的延遲處理每秒太比特的流量,連接數千個機架,每個機架都配備數十個GPU。公開的估算表明,大型AI集群(攤算整個架構的光模塊數量)每個GPU可能需要三到六個光收發器。這意味著在一個擁有數十萬個GPU的數據中心內,需要超過一百萬個短距離光收發器來連接服務器和機架頂部葉交換機,以及機架頂部葉交換機和脊交換機。
事實上,LightCounting等行業分析機構預測,未來五年以太網光收發器和共封裝光模塊的銷量將翻一番,其中數據中心內部應用將占據大部分增長。預計未來幾年全球需求將達到每年數億個,以支持大規模部署AI集群。
當今的可插拔光模塊:FRO、LRO、LPO
為了支持AI光模塊的爆炸式增長,創新不僅集中在更快的鏈路上,還集中在光模塊本身的設計和部署方式。在數據中心內部,能效和密度至關重要。這催生了新的光架構,這些架構在降低功耗和占用空間的同時,增強了部署的靈活性。
傳統的可插拔光模塊使用全重定時光模塊(FRO),它將信號處理集成在發送和接收路徑上。這種方法以功耗和延遲為代價,實現了強大的性能和遠距離傳輸。而更新的方法則更加輕量級。線性接收光模塊(LRO)通過依賴交換機ASIC中的信號處理來簡化接收路徑,從而顯著降低模塊功耗和延遲。更進一步,線性可插拔光模塊(LPO或線性驅動)完全移除了可插拔模塊中的主動信號處理,在主機支持該模型的前提下,為短距離鏈路提供極低的功耗和最小的延遲。
重要的是,這三種方法在現代數據中心網絡中并存。FRO繼續服務于對傳輸距離和魯棒性要求較高的應用,而LRO和LPO則在高容量、短距離的數據中心內部鏈路中迅速發展,這些鏈路對效率和密度要求極高。這些方法共同展現了光技術的演進路徑,在AI引領的數據中心網絡革命性升級中,實現了性能與功耗的平衡。
明日光技術演進:NPO、CPO、XPO
可插拔光模塊技術不斷革新。2026年初,一個行業聯盟推出了一種名為超高密度可插拔光模塊(XPO)的全新概念,旨在顯著提升光模塊前面板的密度,而這正是數據中心內部連接的關鍵限制因素。XPO模塊可提供前所未有的12.8Tbps帶寬,雖然其尺寸大于八通道小型可插拔光模塊(OSFP),但與現有可插拔解決方案相比,前面板密度仍可提升約四倍。由于XPO集成了液冷技術,這些模塊還能支持功耗更高的相干光模塊。
與此同時,業界也在探索更具創新性的光集成模式。
這一轉變的核心理念很簡單:將光模塊靠近計算或交換單元,可以減少信號損耗及其補償所需的功耗,同時克服前面板的空間限制。
近封裝光模塊(NPO,也稱為板載光模塊)將光引擎從前面板移至更靠近交換芯片的位置,從而縮短電氣距離并提高效率。這種方法顯著降低了功耗并提高了信號質量,但由于光模塊不再易于更換,因此犧牲了靈活性。
共封裝光模塊(CPO)將這一概念進一步發展,直接將光模塊集成到交換芯片封裝中。通過大幅減少電氣互連,CPO有望實現超低延遲和卓越的能效。同時,它也挑戰了人們對可維護性、制造和互操作性的長期認知。
XPO、NPO和CPO共同表明,數據中心內部光模塊的演進不再僅僅關乎更快的鏈路,而是從根本上重新設計AI時代光模塊、電子模塊和計算模塊的集成方式。
AI時代的數據中心連接正在經歷一場革命,其需求和規模都發生了翻天覆地的變化,同時也在數十年的光學技術進步的基礎上不斷發展演進。
(原文刊登于EE Times美國版,參考鏈接:Connectivity Revolution or Evolution Inside Data Centers?,由Franklin Zhao編譯。)
本文為《電子工程專輯》2026年8月刊雜志文章,版權所有,禁止轉載。免費雜志訂閱申請點擊這里。