2022年11月底，ChatGPT的橫空出世，讓生成式人工智能技術迅速席卷全球。目前，ChatGPT已經更新迭代至第四代，最新一代的ChatGPT在規模、知識廣度、交互能力和自我修正能力等方面較之其發布之初有了很大提升。此外，由于ChatGPT的風靡，也讓許多科技公司競相推出相關競品。
這些大語言模型都有一個共同點，那就是都需要龐大的數據進行訓練和推理。據公開資料顯示，2022年11月發布的ChatGPT是基于GPT 3.5架構進行訓練的，而ChatGPT 3包含的參數就已經達1750億個，最新一代的ChatGPT 4的參數更是已經增加至1.6萬億個，呈指數級增長趨勢。
據相關數據顯示，過去四年，大模型參數量以年均400%的復合增長率增長，AI算力需求的增長也超過15倍。如此龐大的數據量，以CPU為中心的傳統計算基礎設施已經無法滿足需求，需要有新一代的人工智能基礎設施來支撐這些大模型的訓練和推理，以及生成式AI應用的規模化落地。
IDC研究副總裁Peter Rutten表示：“IDC的研究表明，專用基礎設施的構建不足或缺乏，往往是AI項目失敗的主要原因。”
人工智能支柱——數據中心需求激增
隨著人工智能，尤其是生成式人工智能熱潮的持續升溫，帶來了巨大的算力需求，而數據中心作為人工智能技術發展的主要基礎設施之一，它可以為人工智能提供硬件基礎和海量的數據資源，同時也為人工智能提供強大的計算能力。但以往的數據中心主要是為社會提供數字化轉型所需的通用算力，這樣的數據中心顯然不能滿足人工智能等技術帶來的算力激增的需求，它們需要具有更高帶寬、更低延時的數據中心，顯然，我們需要建設更多、更先進的數據中心。
我國的新型數據中心發展三年行動計劃（2021-2023年）明確到2023年底，全國數據中心機架規模年均增速保持在20%左右，平均利用率力爭提升到60%以上，總算力超過200EFLOPS，高性能算力占比達到10%。
2023年1月，麥肯錫公司預測，到2030年，數據中心行業每年將增長10%，超大規模數據中心市場預計每年增長20%，全球新設施建設支出將達到490億美元。
而另一分析機構Gartner則預測，2025年服務器、數據中心和存儲的市場規模將達到1,120億美元，2020至2025年期間的CAGR為8.0%。
目前全球領先科技巨頭，包括谷歌、亞馬遜、Meta以及微軟等公司都紛紛投入數據中心的建設與升級競賽中。據富國銀行投資研究所數據顯示，上述這些科技巨頭在2023年用于數據中心新建和升級的總資本支出高達約1400億美元。未來，數據中心的需求還將持續增長，它將不僅僅是存儲和處理數據的場所，更將成為支撐人工智能創新的重要基石。
可靠連接是構建數據中心關鍵
數據中心的重要性已經不言而喻。如果將數據中心比喻為人的‘大腦’，而大腦的很多指令則需要通過大量的神經元之間的連接下達，而快速的‘連接’才能實現這些指令的快速甚至實時實施。因此，如果說數據中心是人工智能的發展基石，那連接則是數據中心的骨干。
五十多年來，以太網協議一直是互聯網數據連接的骨干網絡。目前，數據中心的網絡連接多采用以太網連接，據IDC報告顯示，當前主流數據中心網絡連接采用以太網的占比超過95%。
AI場景下，海量的參數分布于各個服務器之間，尤其是那些大模型，如上所述，它們有數萬億個參數，它們的參數數量每隔幾個月就會翻一番，大多數數據都保存在內存中，需要同時進行處理，因此系統需要通過低延遲網絡連接許多處理器。為了處理這樣的工作負載，整個集群將充當單個計算設備，多個集群一起處理數TB的數據。
這樣的場景需要大量的算力和快速的連接來支撐，算力和網絡連接能力之間是協同互動的，它們需要同步提升效率才能更好滿足這些場景的需求。毫無疑問，以太網為這些大型系統提供了理想的連接協議，同時，這些大型系統的發展也催生了以太網傳輸速率的快速提升。
目前的以太網協議速度多為400G和800G為主。從下圖中可以看出，2019年，400G以太網的部署剛剛起步，但普及率不是很快，后在2023年，由于ChatGPT等技術的涌現，立刻推動了400G甚至800G以太網的快速迭代和部署。據Dell’Oro的數據預測，2024年，400G和800G以太網的部署將提速，未來2-3年，800G以太網的占比將超一半。
而即使是將現有的數據中心連接迅速迭代至400G和800G，隨著未來如生成式人工智能等數據密集型應用場景的不斷增加，它們也將無法滿足不斷增長的帶寬需求，需要迭代至具有更高速率的網絡技術，1.6T以太網被認為將很快成為行業標準。
未來的連接標準——1.6T以太網
作為下一代以太網技術，1.6T以太網能夠提供比當前以太網協議更高的數據傳輸速度。相較于800G以太網，1.6T以太網通過采用更高效的傳輸技術和更先進的數據處理算法，實現了2倍的太比特的傳輸速度。
在傳輸方面，1.6T以太網可能采用更高速的物理層傳輸技術，如PAM4（四相振幅調制），以提高每個時間周期內可傳輸的數據量。同時，它還可能采用更為先進的編碼和解碼算法，以確保數據在傳輸過程中的準確性和可靠性。
在數據處理方面，1.6T以太網可能采用高度并行化的處理架構，以處理大規模數據流，可以很好滿足人工智能時代數據量暴增的需求。
雖然，負責以太網標準制定的IEEE預計將于2026年才完成1.6TbE標準的最新版本，但2024年，他們將通過802.3dj工作組完成一組基線功能。如上圖Dell’Oro的預測，1.6T以太網的部署也將始于2024年。
業界首款完整1.6T以太網IP解決方案滿足高帶寬需求
近日，新思科技推出了業界首款完整1.6T以太網解決方案，它大幅提升了數據密集型AI工作負載的帶寬和吞吐量。
新思科技的綜合IP解決方案，包括新型1.6T MAC和PCS以太網控制器、224G以太網PHY IP和驗證IP，可加快AI和HPC網絡芯片的上市時間。與現有SoC方案相比，該款完整的1.6T以太網IP解決方案可將互連功耗降低多達50%，從而優化超大規模數據中心的能效。新的多通道、多速率新思科技1.6T以太網MAC和PCS控制器通過實施獲得專利的Reed-Solomon前向糾錯架構，將面積減少了50%，延遲減少了40%，同時有助于確高達至1.6T以太網速率的可靠數據。經過硅驗證的224G以太網PHY IP還可以提供強大的鏈路性能、出色的信號完整性和跨通道長度的無縫生態系統互操作性。
該款1.6T以太網驗證IP，還采用了原生SystemVerilog和通用驗證方法實施，可縮短首次測試時間。它還提供業界首款1.6T驗證IP（VIP），支持早期RTL驗證、SoC啟動和系統級驗證，為設計人員提供快速實現設計驗證收斂的途徑。
新思科技完整1.6T以太網解決方案特點總結如下：
與現有已實施方案相比，1.6T以太網IP解決方案可將互連損耗最多可降低50%；
與現有多速率800G IP解決方案相比，新型多通道/多速率以太網控制器可支持1.6T，延遲最多減少40%，面積最多減少50%；
可定制的、經過硅驗證的224G以太網PHY IP，可支持芯片到芯片、芯片到模塊和銅纜連接，從而對功耗和性能進行了權衡優化；
新思科技面向1.6T以太網的驗證IP，通過一整套協議、方法和生產力提升等優勢加速了驗證收斂速度。
正因為新思科技款1.6T以太網解決方案具有的上述諸多優勢，目前它也已經被多家客戶采用，助力他們快速、便捷地開發面向人工智能和高性能計算等應用的產品。
結語
邁入人工智能時代，數據和連接將是最為關鍵的兩個因素，它們之間相輔相承，不斷增長的數據量需要更寬的帶寬和更快的傳輸速率進行傳輸，為此也推動著網絡技術的快速迭代。雖然，目前1.6T以太網的標準還沒有最終出爐，但不可否認的是，它將是未來的主流連接技術。而新思科技推出的完整1.6T以太網IP解決方案，可以提供高速數據連接，未雨綢繆，為未來做好準備，讓人工智能時代連接無憂。
END
