要點(diǎn)
—
? 推出全新數(shù)據(jù)中心解決方案,涵蓋高通飛龍C1000 CPU、高通高帶寬計(jì)算(HBC)技術(shù)、高通飛龍AI300推理加速器、領(lǐng)先的連接產(chǎn)品以及定制化芯片解決方案。
? 高通飛龍AI300與AI200、AI250共同組成高通逐年迭代的多代AI加速器技術(shù)路線圖。
? 全新高通高帶寬計(jì)算(HBC)技術(shù)突破內(nèi)存帶寬瓶頸,顯著降低單位Token能耗。
? 與多家領(lǐng)先AI及數(shù)據(jù)中心企業(yè)達(dá)成多年、多代數(shù)據(jù)中心產(chǎn)品合作協(xié)議。
? 獲得科技生態(tài)內(nèi)超35家行業(yè)領(lǐng)軍企業(yè)的廣泛支持。
高通技術(shù)公司(NASDAQ:QCOM)今日在投資者日活動(dòng)上宣布發(fā)布全新數(shù)據(jù)中心解決方案,涵蓋高通飛龍? C1000 CPU、高通? 高帶寬計(jì)算(HBC)技術(shù)、高通飛龍? AI300推理加速器、連接產(chǎn)品及定制芯片解決方案。所有產(chǎn)品均旨在實(shí)現(xiàn)最大化每瓦特性能與Token吞吐能力,同時(shí)降低客戶總體擁有成本。全新平臺(tái)進(jìn)一步強(qiáng)化了高通技術(shù)公司在構(gòu)建面向AI優(yōu)化的全棧數(shù)據(jù)中心基礎(chǔ)設(shè)施領(lǐng)域的布局,覆蓋面向智能體與數(shù)據(jù)中心級(jí)別的CPU、AI推理加速器、高帶寬光電互聯(lián)及規(guī)模化高性能定制芯片解決方案。此前高通已推出高通飛龍AI200與AI250,高通飛龍AI300將正式納入這一數(shù)據(jù)中心解決方案產(chǎn)品組合,AI加速器技術(shù)路線圖以年度為迭代周期。

高通公司總裁兼CEO安蒙表示:
智能體AI正在推動(dòng)數(shù)據(jù)中心AI推理需求的大幅增長(zhǎng)。隨著智能體AI成為主流工作負(fù)載,基礎(chǔ)設(shè)施必須在更低功耗、更低成本的前提下實(shí)現(xiàn)更高性能。這正契合高通的技術(shù)優(yōu)勢(shì),我們已為這一轉(zhuǎn)變做好充分準(zhǔn)備。依托高通飛龍,我們將高性能低功耗計(jì)算能力引入數(shù)據(jù)中心市場(chǎng),并與多家領(lǐng)先客戶簽訂多年、多代合作協(xié)議。
面向超大規(guī)模云服務(wù)商打造的推理優(yōu)先平臺(tái)
高通技術(shù)公司依托數(shù)十年在系統(tǒng)級(jí)芯片、低功耗設(shè)計(jì)、高性能處理和領(lǐng)先IP方面的深厚技術(shù)積累,以及超過400億組件的工程經(jīng)驗(yàn),構(gòu)建分布式機(jī)架級(jí)AI基礎(chǔ)設(shè)施,專為超大規(guī)模場(chǎng)景下的智能體密集型數(shù)據(jù)中心級(jí)AI推理負(fù)載而設(shè)計(jì)。這些創(chuàng)新將顯著優(yōu)化詞元(Token)經(jīng)濟(jì)性、同時(shí)降低時(shí)延、簡(jiǎn)化集成,并支持規(guī)模化部署,從而進(jìn)一步降低總體擁有成本。面對(duì)智能體AI帶來的Token需求的大幅增長(zhǎng),高通技術(shù)公司的解決方案將持續(xù)優(yōu)化每瓦特下Token吞吐量?jī)?yōu)化,成為降低總體擁有成本(TCO)的關(guān)鍵驅(qū)動(dòng)因素。
高通技術(shù)公司執(zhí)行副總裁兼數(shù)據(jù)中心業(yè)務(wù)總經(jīng)理Tony Pialis表示:
企業(yè)的當(dāng)前需求早已超越單一硬件組件,如何在分布式、始終在線的基礎(chǔ)設(shè)施上,實(shí)現(xiàn)多類型算力的規(guī)劃,正變得至關(guān)重要。借助高通飛龍,我們將計(jì)算、AI、內(nèi)存與連接整合到一個(gè)統(tǒng)一的機(jī)架級(jí)平臺(tái)中,專為日益復(fù)雜的智能體驅(qū)動(dòng)工作負(fù)載設(shè)計(jì),并解決了內(nèi)存帶寬和功耗的關(guān)鍵瓶頸。得益于高通技術(shù)公司在高性能、低功耗規(guī)模化計(jì)算方面的數(shù)十年技術(shù)積累,我們能夠?yàn)閿?shù)據(jù)中心領(lǐng)域帶來行業(yè)內(nèi)少有企業(yè)能夠比肩的能力。
高通飛龍C1000 CPU

高通高帶寬計(jì)算(HBC)技術(shù)
? 采用創(chuàng)新的專用近存計(jì)算架構(gòu),通過3D堆疊硅基解決方案將計(jì)算與超高速帶寬內(nèi)存相融合,解決AI計(jì)算中的數(shù)據(jù)搬運(yùn)瓶頸。
? 高通HBC技術(shù)具備多代際演進(jìn)的技術(shù)路線圖,相較高帶寬內(nèi)存(HBM),可實(shí)現(xiàn)更快速、更高效、擴(kuò)展性更強(qiáng)的處理能力,在降低總體擁有成本的同時(shí)實(shí)現(xiàn)更高能效。
? 搭載第一代HBC技術(shù)的AI250,單卡可實(shí)現(xiàn)業(yè)界領(lǐng)先的133TB/s帶寬速率,與采用LPDDR5X的AI200相比,有效內(nèi)存帶寬提升18倍;搭載第二代HBC技術(shù)的AI300進(jìn)一步實(shí)現(xiàn)階梯式性能躍升,有效內(nèi)存帶寬較AI200提升54倍。
? 與競(jìng)品已公布的板卡級(jí)標(biāo)準(zhǔn)化產(chǎn)品參數(shù)相比,HBC技術(shù)支持的每瓦特帶寬相比HBM技術(shù)提升6倍。
? 與競(jìng)品已公布的機(jī)架級(jí)標(biāo)準(zhǔn)化產(chǎn)品參數(shù)相比,HBC技術(shù)支持的每瓦特存儲(chǔ)容量為靜態(tài)隨機(jī)存取存儲(chǔ)器(SRAM)技術(shù)的200倍。
? HBC技術(shù)旨在支持AI智能體實(shí)現(xiàn)高效規(guī)模化擴(kuò)展,滿足對(duì)持續(xù)推理、內(nèi)存帶寬和實(shí)時(shí)響應(yīng)的需求。
? 我們與供應(yīng)鏈的戰(zhàn)略合作關(guān)系以及獨(dú)特的實(shí)現(xiàn)路徑,解決了近存計(jì)算帶來的復(fù)雜性問題,這得益于高通領(lǐng)先的3D堆疊、系統(tǒng)級(jí)設(shè)計(jì)、LPDDR控制器以及能效設(shè)計(jì)技術(shù)專長(zhǎng)。
? 搭載第一代HBC技術(shù)的AI250預(yù)計(jì)將于2027年年中實(shí)現(xiàn)商用出樣。
高通飛龍AI300(加速卡/機(jī)架級(jí)產(chǎn)品)

? 高通飛龍AI300支持風(fēng)冷與直液冷散熱,是繼AI200、AI250之后推出的第三代機(jī)架級(jí)AI推理平臺(tái)。
? AI300集成突破性的第二代高通HBC技術(shù)以實(shí)現(xiàn)計(jì)算加速,支持集成內(nèi)存和更高的有效內(nèi)存帶寬,面向分布式推理部署設(shè)計(jì)(AI250搭載第一代HBC技術(shù))。
? AI300支持行業(yè)領(lǐng)先的內(nèi)存容量與有效帶寬,為大語言模型和多模態(tài)大模型(LLM、LMM)推理及智能體AI工作負(fù)載提供高吞吐量、低時(shí)延性能。
? 與現(xiàn)有的基于GPU的架構(gòu)相比,在單卡每瓦特內(nèi)存帶寬方面,AI300的每瓦特性能預(yù)計(jì)可實(shí)現(xiàn)4至8倍的提升。
? 可支持通過UALink(超加速器鏈路)與ESUN(以太網(wǎng)縱向擴(kuò)展網(wǎng)絡(luò))進(jìn)行縱向擴(kuò)展;支持基于銅纜與光纜的橫向擴(kuò)展。
? 預(yù)計(jì)將于2028年商用出樣。
? 面向下一代AI與云數(shù)據(jù)中心基礎(chǔ)設(shè)施,規(guī)模化提供客戶定制芯片。
? 面向智能體AI及其他專用工作負(fù)載,提供定制化專屬芯片。
? 具備跨芯片、系統(tǒng)和軟件的端到端協(xié)同設(shè)計(jì)能力,滿足客戶差異化的性能、功耗與集成需求。
? 先進(jìn)封裝與模塊化架構(gòu)設(shè)計(jì),旨在提升性能、能效與可擴(kuò)展性。
? 業(yè)經(jīng)驗(yàn)證的IP和高效設(shè)計(jì)流程,可助力加速產(chǎn)品上市周期,降低執(zhí)行風(fēng)險(xiǎn)。
? 基于生態(tài)系統(tǒng)與供應(yīng)鏈合作伙伴關(guān)系,支持從設(shè)計(jì)到大規(guī)模量產(chǎn)的全流程交付。
? 面向下一代AI數(shù)據(jù)中心的廣泛連接技術(shù)組合,涵蓋Die-to-Die芯片互聯(lián)、銅纜連接、光互聯(lián)及園區(qū)級(jí)長(zhǎng)距互聯(lián)。
? 支持800G和1.6T高帶寬連接、可適配光模塊、有源光纜(AOC)、有源電纜(AEC)應(yīng)用場(chǎng)景,覆蓋數(shù)據(jù)中心內(nèi)部鏈路至最遠(yuǎn)20公里的園區(qū)級(jí)部署。
? 集成高通技術(shù)公司的串行解串器(SerDes)、四電平脈沖幅度調(diào)制(PAM4)、輕量化相干數(shù)字信號(hào)處理器(DSP)、信號(hào)完整性與遙測(cè)技術(shù),支撐可擴(kuò)展、高性能AI基礎(chǔ)設(shè)施。
? 解決數(shù)據(jù)傳輸瓶頸。隨著分布式、解耦式、帶寬密集型基礎(chǔ)設(shè)施的發(fā)展,這一瓶頸是制約AI數(shù)據(jù)中心性能的核心痛點(diǎn)。
*驍龍、高通以及其他Snapdragon與Qualcomm旗下的產(chǎn)品系高通技術(shù)公司和/或其子公司的產(chǎn)品。
*高通、高通躍龍和驍龍是高通公司的商標(biāo)或注冊(cè)商標(biāo)。

