全球首款 HBM3e 處理器提供突破性的內存和帶寬；能夠連接多個 GPU 以實現卓越的性能；采用易于擴展的服務器設計。
洛杉磯 — SIGGRAPH — 太平洋時間 2023 年 8 月 8 日 — NVIDIA 發布新一代 NVIDIA GH200 Grace Hopper? 平臺，該平臺基于全球首款搭載 HBM3e 處理器的 Grace Hopper 超級芯片，專為加速計算和生成式 AI 時代而構建。
新平臺專為處理大語言模型、推薦系統、矢量數據庫等全球最復雜的生成式 AI 工作負載而構建，將提供多種配置選擇。
該平臺采用雙配置——提供的內存容量和帶寬比當前產品分別增加了 3.5 倍和 3 倍——包括一個擁有 144 個 Arm Neoverse 內核、8 petaflops 的 AI 性能和 282GB 最新 HBM3e 內存技術的單個服務器。
NVIDIA 創始人兼首席執行官黃仁勛表示：“為了滿足對生成式 AI 不斷激增的需求，數據中心需要能夠滿足特定需求的加速計算平臺。全新 GH200 Grace Hopper 超級芯片平臺以出色的內存技術和帶寬，提高了吞吐量，在不影響性能的情況下可連接多 GPU 以整合性能，并且具有可以輕松部署到整個數據中心的服務器設計。”
新平臺采用了 Grace Hopper 超級芯片，可以通過 NVIDIA NVLink? 與其他超級芯片連接，使它們能夠協同工作，從而部署當下大型生成式 AI 模型。這種高速、一致性技術使 GPU 可以完全訪問 CPU 內存，在雙配置中可提供總計 1.2TB 的快速內存。
HBM3e 內存比當前 HBM3 快 50%，可提供總計 10TB/s 的帶寬。這使得新平臺能夠運行比上一版本大 3.5 倍的模型，同時憑借快 3 倍的內存帶寬提升性能。
對 Grace Hopper 的需求不斷增長
業界領先的制造商已在提供基于先前發布的 Grace Hopper 超級芯片所打造的系統。為了推動該技術的廣泛應用，采用 HBM3e 的新一代 Grace Hopper 超級芯片平臺與今年早些時候在 COMPUTEX 上發布的 NVIDIA MGX? 服務器規格完全兼容。借助 MGX，任何系統制造商都可以快速、經濟地將 Grace Hopper 添加到 100 多款服務器機型中。
供應情況
預計業界領先的系統制造商將于 2024 年第二季度開始交付搭載該平臺的系統。
請觀看黃仁勛的 SIGGRAPH 主題演講（https://www.nvidia.cn/events/siggraph/），了解有關 Grace Hopper 的更多信息。
