Q：可以講解一下 NVIDIA Blackwell 架構嗎？
A：
Q：可以介紹一下 NVIDIA Blackwell 架構的特性嗎？
A：
憑借六項變革性的技術，Blackwell 能夠在擁有高達 10 萬億參數的模型上實現 AI 訓練和實時 LLM 推理，這些技術包括：
全球最強大的芯片：Blackwell 架構 GPU 具有 2080 億個晶體管，采用專門定制的雙倍光刻極限尺寸 4NP TSMC 工藝制造，通過 10TB/s 的片間互聯，將 GPU 裸片連接成一塊統一的 GPU。
第二代 Transformer 引擎：得益于全新微張量縮放支持，以及集成于 NVIDIA TensorRT?-LLM 和 NeMo Megatron 框架中的 NVIDIA 先進動態范圍管理算法，Blackwell 將在新型 4 位浮點 AI 推理能力下實現算力和模型大小翻倍。
第五代 NVLink：為了提升萬億級參數模型和混合專家 AI 模型的性能，最新一代 NVIDIA NVLink? 為每塊 GPU 提供突破性的 1.8TB/s 雙向吞吐量，確保多達 576 塊 GPU 之間的無縫高速通信，滿足了當今最復雜 LLM 的需求。
RAS 引擎：采用 Blackwell 架構的 GPU 包含一個用于保障可靠性、可用性和可維護性的專用引擎。此外，Blackwell 架構還增加了多項芯片級功能，能夠利用 AI 預防性維護來運行診斷并預測可靠性相關的問題。這將最大程度地延長系統正常運行時間，提高大規模 AI 部署的彈性，使其能夠連續不間斷運行數周乃至數月，同時降低運營成本。
安全 AI：先進的機密計算功能可以在不影響性能的情況下保護 AI 模型和客戶數據，并且支持全新本地接口加密協議，這對于醫療、金融服務等高度重視隱私問題的行業至關重要。
解壓縮引擎：專用的解壓縮引擎支持 LZ4、Snappy 和 Deflate 等最新壓縮格式，通過加速數據庫查詢提供極其強大的數據分析和數據科學性能。過去，數據分析和數據庫工作流依賴 CPU 進行計算。未來幾年，每年需要企業花費數百億美元的數據處理將越來越多地由 GPU 加速。
Q：NVIDIA Blackwell 可以在什么領域運用？
A：
NVIDIA Blackwell GPU 架構憑借其所搭載的六項變革性加速計算技術，將助推數據處理、工程模擬、電子設計自動化、計算機輔助藥物設計、量子計算和生成式 AI 等領域實現突破。NVIDIA 知乎精彩問答甄選往期精彩內容
更多精彩仍在繼續...?
敬請關注
即刻點擊“閱讀原文”或掃描下方海報二維碼，點播觀看您可能錯過的 GTC 2024 精選演講。緊跟最新的 AI 突破，了解如何利用高性能計算等技術加速您的業務。
