芝能智芯出品今年的Hot Chips 2025 上，Celestial AI 的 Photonic Fabric Module 很有特點，并非簡單地將光互連集成到芯片封裝，嘗試從架構層面解決 AI 和 HPC 系統中日益嚴重的帶寬和能效瓶頸。
備注：Hot Chips 大會一直是高性能計算（HPC）和 AI 芯片領域的風向標，基本上今年的內容都快梳理完了。
創新的設計：
中心光 I/O 與差異化技術
當前的主流光互連方案，如博通的共封裝光學（CPO），將光引擎放置在芯片封裝的邊緣，實現相對簡單，但受限于封裝邊緣的有限空間。
隨著高帶寬存儲（HBM）和計算核心的擴展，邊緣 I/O 的帶寬增長難以跟上需求，導致性能瓶頸和能耗上升。
Celestial AI 的 Photonic Fabric Module 采取了截然不同的策略：將光 I/O 置于芯片的中心區域，稱為“中心光 I/O”，有幾個顯著優勢：
◎ 優化空間利用：將光模塊移至中心，釋放了封裝邊緣的空間，允許更大規模的 HBM 集成，提升內存帶寬。
◎ 縮短傳輸路徑：光 I/O 靠近計算核心，減少了數據傳輸的物理距離，從而降低延遲和功耗。
◎ 匹配算力擴展：隨著多芯片封裝的尺寸增大，計算核心的擴展呈平方級增長，而邊緣 I/O 僅能線性增加。中心光 I/O 能更好適應這種不對稱增長。
Celestial AI 開發了 PFLink（Photonic Fabric Link）技術，基于硅光子平臺，整合無源和有源器件，構建高效的光學傳輸通道，自研了光學 MAC（OMAC），負責數據傳輸，還提供可靠性、可用性和維護性（RAS）功能，光互連具備了系統級的管理能力，例如鏈路監控和故障恢復，為大規模部署提供了保障。
在調制方式上，Celestial AI 選擇了電吸收調制器（EAM）（不是常見的環形調制器），環形調制器對溫度變化敏感，在高密度集成環境中難以維持穩定性能，而 EAM 的熱穩定性更強，適合大規模封裝的熱管理需求，這個考慮比務實。
Photonic Fabric Module 通過中心光 I/O、PFLink 和 EAM 調制器，突破了傳統 CPO 的布局限制，目標是提升帶寬并優化能效。
應用前景與工程挑戰
Photonic Fabric Module 主要面向下一代 AI 和 HPC 集群，在大模型訓練等高通信需求的場景中，GPU 或加速器之間的數據交換（如 All-reduce 操作）往往占據性能和能耗的瓶頸。
傳統方案依賴 SerDes 和交換機芯片，效率較低且功耗高。
Celestial AI 的光互連通過直接連接芯片封裝，減少中間環節，提升傳輸效率并降低能耗。第一代產品（Gen1）已應用于一個 16 端口交換機，集成了附加內存，驗證了其在通信和緩存管理上的潛力。
在工程實現上，Celestial AI 采用臺積電的 CoWoS-L 封裝技術，將電芯片、光模塊和光學橋整合到一個封裝中。據悉，他們已完成四次流片，表明技術已從實驗室走向工程驗證階段。
工程化之路并非坦途，幾個關鍵挑戰需要解決：
◎ 良率與成本：光電混合封裝的工藝復雜，對精度要求極高。光學器件的任何微小缺陷都可能導致信號衰減或失效，如何提升良率并控制成本是量產的關鍵。
◎ 行業標準：當前的光互連方案缺乏統一標準，Celestial AI 的專有設計可能限制與其他廠商的互操作性。推動標準化將是普及的關鍵。
◎ 長期可靠性：雖然 EAM 的熱穩定性優于環形調制器，但在數據中心長時間高強度運行下的性能衰減和功耗表現，仍需更多驗證。
Photonic Fabric Module 的成功可能改變系統架構設計。
例如，高帶寬光互連可能推動分布式緩存池的設計，使芯片間的緩存更像一個統一的資源，驅動軟件棧和編程模型的變革。
Photonic Fabric Module 在 AI 和 HPC 場景中展現了解決通信瓶頸的潛力，但良率、標準化和可靠性仍是工程化的重點挑戰。
小結
Celestial AI 在 Hot Chips 2025 上展示的 Photonic Fabric Module 代表了光互連技術從概念到工程化的重要進展，通過中心光 I/O 和自研 OMAC，出了一種區別于傳統 CPO 的光電整合方案，針對帶寬和能效的痛點提供了新的思路。
