借助NVIDIADPU和NVIDIADOCA為人工智能時代的數據中心帶來變革

從數據中心到人工智能工廠

NVIDIA DOCA 引領加速云服務的發展

NVIDIA DOCA 2.0

支持全新的 BlueField-3 用例

NVIDIA DOCA 2.0 添加了增強功能，以利用 BlueField-3 DPA 編程子系統。DPA 是一種高度可編程的嵌入式處理器，存在于 BlueField-3 DPU 中。它專為網絡密集型、低計算量任務而構建，如設備仿真、擁塞控制、自定義協議等。

NVIDIA DOCA DPA 庫是 NVIDIA DOCA 軟件開發套件的一部分，它提供了一種編程模型，用于卸載以網絡為中心的代碼，并在 DPA 處理器上運行。DPA 有助于從 CPU 卸載更多類型的流量，并通過 DPU 加速來提高性能。

在使用 VirtIO-net 進行設備仿真時，NVIDIA DOCA 和帶有 DPA 的 BlueField-3 DPU 比以前的選項有了顯著的改進。在虛擬化環境中，虛擬機（VM）需要像物理機一樣訪問網絡。

在此示例中，虛擬機通常調用 CPU 來處理特定任務，例如訪問網卡。將此任務從 CPU 卸載到 BlueField-3 DPU 上專門構建的 DPA 引擎，可實現比 BlueField-2 DPU 高 2 倍的性能，以更高的效率來助力降低數據中心功耗。這有效地消除了數據中心網絡稅，否則就會占用本該用于應用程序的 CPU 核心資源。

IPsec 是一種安全協議，提供加密、身份驗證和完整性服務，以保護 IP 數據包免受未經授權的訪問、篡改或竊聽。對安全和高速通信的需求日益增長，這給傳統基于 CPU 的 IPsec 處理帶來了壓力，使卸載成為一種有吸引力的解決方案。

在加速防火墻解決方案中，將 IPsec 卸載到 BlueField-3 DPU 可以優化安全性并加速性能。穿過防火墻的流量可以卸載到 DPU，并通過 IPsec 隧道發送到接收主機，例如，提供具有 200 Gbps 雙向流量的 32K 并發 IPsec 隧道。這降低了 CPU 的利用率，并通過快速、高效的方法管理可信流量。需要進行威脅檢查的剩余流量通過主機和 CPU 進行路由。此過程現已得到優化，由于 CPU 不再管理 IPsec 流量，因此防火墻應用程序可提供更好的性能。

DOCA IPsec 庫的添加為下一代防火墻（NGFW）應用程序帶來了顯著的優勢。庫中包含的資源池，包括消息模板、預寫代碼和子例程，有助于簡化整個開發流程并減少上市時間。DOCA IPsec 庫與 DOCA Flow 庫相互操作，使開發者能夠將多個 DOCA Flow 管道鏈接在一起，用于各種網絡管線設計（例如，DOCA Flow NAT 管道）。

最后，NVIDIA DOCA 現在能夠以更高的速率對新路由和 NAT 表進行編程，使以接近線速速率進行 IPsec 加密和解密既可行又實用，同時減輕了 CPU 的負擔。

NVIDIA Aerial 是一個用于構建高性能、軟件定義 5G L1 堆棧的軟件開發套件，并通過 GPU 的并行處理進行了優化。具體而言，NVIDIA Aerial 軟件開發套件可用于構建基帶單元（BBU）軟件，該軟件負責發送（下行鏈路）或接收（上行鏈路）的無線客戶端數據幀，這些數據幀通過無線電單元（RU）分拆為多個以太網數據包。

在上行鏈路中，BBU 接收分組，驗證它們，并在觸發信號處理之前重建每個 RU 的原始數據幀。使用 NVIDIA Aerial 軟件開發套件，這將發生在 GPU 中，每個時隙的 RU 都有一個專用的 CUDA 內核。然而，隨著基站數量的增加，在網卡和 GPU 之間運行的 CPU 成為了瓶頸。

NVIDIA DOCA 軟件框架提供了一種將 CPU 從關鍵路徑中移除并實現網卡和 CUDA 內核之間的直接通信的方法（GPUDirect 異步內核啟動技術）。新的 DOCA GPUNetIO 庫提供了 CUDA 設備功能，應用程序可以在 CUDA 內核中調用這些功能，以便直接向 GPU 發送或從 GPU 接收數據包，而無需使用 CPU 核心或內存。

通過這種方式，NVIDIA Aerial BBU 軟件可以提供一種高度并行化和可擴展的方法，每個基站都有一個專用的 CUDA 內核來接收數據包。這使系統容量提高了 4 倍（從采用以 CPU 為中心的 4 個基站到通過 DOCA GPUNetIO 的以 GPU 為中心的 16 個基站）。

CPU 不再需要與 GPU 通信來提供數據包信息，使 CPU 能夠專注于應用程序處理，而不是管理網絡開銷。

掃描下方二維碼，立即注冊 NVIDIA DOCA GPUNetIO 搶先體驗計劃。

加速人工智能服務