亞馬遜云科技(AWS)將 NVIDIA NVLink Fusion 集成到其定制芯片中,包括新一代 Tranium4 芯片、Graviton 和 AWS Nitro System。

在 AWS re:Invent 上,NVIDIA 和 AWS 擴(kuò)展了戰(zhàn)略合作,在互連技術(shù)、云基礎(chǔ)設(shè)施、開(kāi)放模型和物理 AI 方面實(shí)現(xiàn)了新的技術(shù)集成。
“GPU 計(jì)算需求飛速增長(zhǎng)——更多的計(jì)算使 AI 變得更智能,更智能的 AI 推動(dòng)了更廣泛的應(yīng)用,而更廣泛的應(yīng)用創(chuàng)造了對(duì)更多計(jì)算的需求。AI 的良性循環(huán)已經(jīng)到來(lái),”NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示?!半S著 NVIDIA NVLink Fusion 應(yīng)用于 AWS Trainium4,我們正在將縱向擴(kuò)展架構(gòu)與 AWS 的定制芯片相結(jié)合,以打造新一代加速平臺(tái)。NVIDIA 和 AWS 正攜手為 AI 工業(yè)革命構(gòu)建計(jì)算網(wǎng)絡(luò)架構(gòu),為每個(gè)國(guó)家地區(qū)的每家企業(yè)帶來(lái)先進(jìn)的 AI 技術(shù),并加速全球智能化進(jìn)程?!?/span>
規(guī)模與主權(quán)的融合:AWS 已通過(guò) NVIDIA Blackwell 架構(gòu)擴(kuò)展其加速計(jì)算產(chǎn)品組合,使客戶能夠立即使用業(yè)界領(lǐng)先的 GPU 進(jìn)行訓(xùn)練和推理。
NVIDIA Nemotron 與 Amazon Bedrock 的集成擴(kuò)展了軟件優(yōu)化:除了硬件之外,此次合作還擴(kuò)展了 NVIDIA 軟件堆棧與 AWS AI 生態(tài)系統(tǒng)的集成。NVIDIA Nemotron 開(kāi)放模型現(xiàn)已集成至 Amazon Bedrock,使客戶能夠以生產(chǎn)規(guī)模構(gòu)建生成式 AI 應(yīng)用和智能體。開(kāi)發(fā)者可以使用 Nemotron Nano 2 和 Nemotron Nano 2 VL 構(gòu)建專用的代理式 AI 應(yīng)用,高效、準(zhǔn)確地處理文本、代碼、圖像和視頻。
AWS 上的 NVIDIA 軟件可簡(jiǎn)化開(kāi)發(fā)者體驗(yàn):NVIDIA 和 AWS 還在軟件層進(jìn)行協(xié)同開(kāi)發(fā),以加速每個(gè)企業(yè)的數(shù)據(jù)主干。Amazon OpenSearch Service 現(xiàn)在為向量索引構(gòu)建提供無(wú)服務(wù)器 GPU 加速 NVIDIA cuVS,一個(gè)用于 GPU 加速向量搜索和數(shù)據(jù)聚類的開(kāi)源庫(kù)。這一里程碑標(biāo)志著使用 GPU 進(jìn)行非結(jié)構(gòu)化數(shù)據(jù)處理的根本性轉(zhuǎn)變,早期采用者僅以四分之一的成本就將向量索引速度提升至原來(lái)的 10 倍。
借助 AWS 加速物理 AI:NVIDIA Cosmos 世界基礎(chǔ)模型(WFM)現(xiàn)已推出 Amazon EKS 上的 NVIDIA NIM 微服務(wù),從而實(shí)現(xiàn)實(shí)時(shí)機(jī)器人控制和仿真工作負(fù)載具有無(wú)縫可靠性和云原生效率。適用于基于批處理的任務(wù)和離線工作負(fù)載,例如大規(guī)模合成數(shù)據(jù)生成 Cosmos WFM 也可作為容器在 AWS Batch 上使用。
持續(xù)協(xié)作:憑借多年的持續(xù)合作,NVIDIA 贏得了 AWS 全球生成式 AI 基礎(chǔ)設(shè)施和數(shù)據(jù)合作伙伴年度大獎(jiǎng),該獎(jiǎng)項(xiàng)旨在表彰具備生成式 AI 能力的優(yōu)秀技術(shù)合作伙伴,這些能力支持向量嵌入、數(shù)據(jù)存儲(chǔ)和管理,或生成多種類型和格式的合成數(shù)據(jù)。
以上為摘要內(nèi)容,點(diǎn)擊“閱讀原文”或掃描下方二維碼閱讀完整內(nèi)容:
