


“智能體人工智能正在顯著提升數據中心對人工智能推理的需求。隨著這類工作負載逐漸成為主流,基礎設施必須以更低的功耗和成本提供更高的性能,”高通公司總裁兼首席執行官克里斯蒂亞諾·阿蒙表示。“這正契合了高通的優勢,我們已做好充分準備迎接這一轉變。通過高通 Dragonfly,我們將高性能、低功耗的計算能力引入數據中心,并與領先客戶簽署了多年、多代合作協議。”
高通技術公司憑借數十年來在片上系統 (SoC)、低功耗設計、高性能處理和領先 IP 領域的專業知識,以及超過 400 億個組件的工程經驗,打造出專為超大規模數據中心級、代理密集型 AI 推理工作負載而設計的解耦式機架級 AI 基礎設施。這些創新實現了更優的代幣經濟性、更低的延遲、更簡化的集成、可擴展的部署以及更低的總體擁有成本。隨著代理型 AI 大幅提升代幣需求,高通技術公司的解決方案以每瓦代幣數為關鍵杠桿,旨在降低總體擁有成本 (TCO)。
“企業現在需要的遠不止是單個組件。在分布式、始終在線的基礎設施上協調多種類型的計算至關重要,”高通技術公司執行副總裁兼數據中心總經理Tony Pialis表示。“借助高通Dragonfly,我們將計算、人工智能、內存和連接整合到一個統一的機架級平臺中,該平臺專為日益復雜、代理驅動的工作負載而設計,同時解決了內存帶寬和功耗方面的關鍵瓶頸。這建立在高通技術公司數十年來一直致力于提供的高性能、低功耗大規模計算之上,如今,我們將其應用于數據中心,其方式鮮有其他公司能夠匹敵。”
2029財年數據中心收入將超150億美元
隨著高通全套數據中心解決方案的推出,也標志著其在計算連續體的各個層面進入下一個增長階段。
“我們正在開啟高通的下一個篇章,加速邊緣計算多元化戰略的實施,推出面向下一代人工智能數據中心的全面路線圖,并轉型為一家平臺公司,”阿蒙表示。“我們在整個計算領域擁有廣泛的布局,并在低功耗計算、人工智能和連接領域擁有無與倫比的技術能力,這使我們能夠更好地把握這些機遇。”
高通預計,還給出了其QCT業務2029財年最新目標:手機業務營收將占 QCT 收入的三分之一左右;非手機業務收入達到400億美元。
而在非手機業務當中,數據中心收入將超過150億美元;汽車行業收入將達到100億美元;物聯網收入將超過140億美元;工業、網絡和機器人收入達到80億美元;個人人工智能和計算收入達到60億美元。
高通認為,未來3-5年,隨著人工智能計算日益分散到各種設備、邊緣和云端,多個大型市場正迎來轉折點,其中包括支持代理的邊緣設備、數據中心基礎設施、汽車、工業系統、網絡和機器人等。到2030年,這些領域合計的潛在市場規模將達到約1.7萬億美元。
展望2029財年之后,高通預計數據中心、機器人、ADAS和自動駕駛、工業人工智能、個人人工智能以及6G等領域將持續保持長期增長,其中智能體人工智能有望推動智能互聯設備的新一輪升級。下一階段將以加速多元化和成熟的運營杠桿為基礎,同時為新的增長機遇提供資金。
面向數據中心的Dragonfly C1000 CPU:250核心,能效提升2倍
高通推出了專為數據中心打造的Dragonfly C1000 CPU,旨在為代理(Agentic)、通用計算和 AI 主節點工作負載提供最佳吞吐量、響應速度和基礎設施利用率,同時降低資本支出和運營支出,從而在規模化應用中實現一流的總體擁有成本 (TCO) 和性能。

具體來說,Dragonfly C1000基于高通自研Oryon CPU內核打造,采用多芯片架構設計,核心數超過250個,頻率可超過5GHz,在提供卓越單核性能的同時,實現了出色的吞吐量和擴展性。可為大規模部署的代理工作負載提供卓越的性能。
在能效方面,高通給出了極具競爭力的數據:與現有服務器CPU競品相比,Dragonfly C1000基于規格參數的每瓦性能預估提升了2倍以上。這一優勢在AI數據中心面臨電力供給剛性約束的當下尤為關鍵。
高通CEO克里斯蒂亞諾·阿蒙在投資者日上指出,當前云廠商擴建算力集群的核心瓶頸已從芯片成本轉向能耗與供電能力,而高通在智能手機領域深耕二十年的低功耗設計經驗,恰好可以轉化為數據中心市場的差異化競爭力。
在I/O與內存子系統等方面,Dragonfly C1000同樣瞄準了下一代數據中心需求:
連接與擴展:支持超過2 TB/s的PCIe Gen 7連接速度,兼容CXL規范,可支持下一代加速器、高速網絡、存儲及內存解耦。
內存子系統:采用領先的低功耗內存技術(LP DRAM),旨在提供卓越帶寬、容量、低延遲和高能效。
散熱與部署:同時支持風冷和液冷,兼容OCP ORv3標準的機架和服務器,可靈活部署于各類數據中心環境。
RAS特性:內置先進的可靠性、可用性和可維護性(RAS) 功能,包括ECC、故障隔離和錯誤恢復,保障大規模彈性運行。

此外,Dragonfly C1000可選配高帶寬計算(HBC)連接,支持基于CPU的推理場景。
預計Dragonfly C1000將于2028年上市。
高通高帶寬計算(HBC):每瓦帶寬提升6倍
高通還發布了一種創新的專用近內存計算架構——HBC(高帶寬計算),它將計算能力與高速內存結合在 3D 堆疊硅解決方案中,以解決AI計算所面臨的數據傳輸瓶頸,實現AI代理的高效擴展,滿足持續推理、內存帶寬和實時響應的需求。
雖然,目前 HBM 是 AI 計算加速器的首選內存解決方案,但隨著算力不斷攀升,對于HBM容量和帶寬需求持續提升,Token成本也在不斷上漲,導致其效率降低,進而造成總擁有成本 (TCO) 上升。
高通聲稱,其憑借3D集成、系統級設計、LPDDR領先技術和能效方面的專業知識,有效應對了HBC的復雜性,提高了內存帶寬,并降低總體擁有成本 (TCO)。

具體來說,高通HBC方案是將AI加速器從系統芯片(SoC)中分離出來,并將其置于LPDDR DRAM堆棧下方。HBC加速器通過硅通孔(TSV)與LPDDR堆棧連接,從而在不使用昂貴的HBM內存和先進封裝的情況下,提供最大的帶寬和容量。


雖然高通并未公開HBC提供的實際帶寬,但該公司聲稱,與HBM相比,HBC旨在實現每瓦帶寬提升6倍(基于卡級標準化后的競品規格);與SRAM相比,HBC旨在實現每瓦容量提升200倍(基于機架級標準化后的競品產品規格)。

高通HBC還擁有多代發展路線圖,旨在以更低的總體擁有成本和更高的能源效率,提供更快、更高效、更具可擴展性的處理能力。其中,采用 HBC Gen 1 技術的 AI250 旨在實現業界領先的單卡 133 TB/s 讀寫速度,相比采用 LPDDR5X 的 AI200,有效內存帶寬提升 18 倍;采用 HBC Gen 2 技術的 AI300 則旨在實現更進一步的性能提升,相比 AI200,性能提升高達 54 倍。
預計搭載 AI250 的 HBC Gen 1 將于 2027 年年中開始商業化樣品測試。
全新AI加速器:高通Dragonfly AI300
繼去年十月推出 AI200 和 AI250 加速器解決方案之后,高通此次還正式發布了第三代風冷和液冷機架式 AI 推理平臺AI 3000。
據介紹,AI300 集成了突破性的高通 HBC Gen 2 技術,可加速計算,并集成內存和提高有效內存帶寬,專為分散式推理部署而設計(AI250 使用 HBC Gen 1)。

AI300 具備業界領先的內存容量和有效帶寬,可為大型語言和多模態模型(LLM、LMM)推理和智能體人工智能工作負載提供高吞吐量、低延遲的性能。
高通預計,AI300 每卡每瓦特內存帶寬性能將比現有基于GPU的架構提升4-8倍。
AI300 還利用 UALink(Ultra Accelerator Link,超高速加速鏈路)和 ESUN(Ethernet for Scale-Up Networking,以太網擴展網絡)實現向上擴展;利用銅纜和光纖實現向外擴展。
預計AI300 將于2028年開始商業送樣。
開展定制芯片業務
高通還推出了面向下一代人工智能和云數據中心基礎設施的大規模性能優化的定制芯片業務,專為智能體人工智能和其他特定工作負載定制的芯片。

高通表示,其具備涵蓋芯片、系統和軟件協同設計能力,從設計到量產的端到端定制芯片解決方案,可以滿足客戶特定的性能、功耗和集成要求。同時,其先進的封裝和模塊化架構,可以為定制芯片提高性能、能效和可擴展性。此外,高通成熟的知識產權和精簡、設計執行流程、強大的供應鏈體系,有助于加快產品上市速度并降低執行風險。

高通稱,其定制芯片業務有能力為這個2029財年總規模達1150億美元的市場提供價值。而高通對于定制芯片客戶可以提供多種合作模式。

提供數據中心連接產品
對于超大規模數據中心來說,連接已經成為了其性能提升的新瓶頸。芯片大廠Marvell CEO此前就曾指出,現代AI需要數萬乃至數百萬個處理器協同工作,構成一臺超大規模計算引擎。“當計算問題被拆解成無數子任務、分散到整個數據中心執行時,連接就是一切。”
黃仁勛也曾表示:“當你面對一個計算問題,把任務拆成許多部分,并分布到整個數據中心時,真正不可或缺的正是連接能力。”
高通此次也宣布推出了數據中心連接解決方案,與博通、Marvell等廠商進行競爭。這也是高通去年24億美元收購SerDes巨頭Alphawave的關鍵原因。高通認為,到2029財年,這一可用市場規模將達到650億美元。

目前,高通所提的連接解決方案涵蓋了芯片間、銅纜、光纖和園區級互連的廣泛連接產品組合,適用于下一代人工智能數據中心。

●支持光纖、AOC 和 AEC 應用中的高帶寬800G 和 1.6T 連接,從數據中心內部鏈路到最遠 20 公里的園區部署。
●結合高通技術公司的SerDes、PAM4、輕量級相干 DSP、信號完整性和遙測功能,以支持可擴展的高性能 AI 基礎設施。

這些解決方案可以解決日益分布式、分散化和帶寬密集型基礎設施中,對人工智能數據中心性能至關重要的數據傳輸瓶頸問題。
與Meta就數據中心CPU達成戰略性多代合作協議
高通技術公司和Meta公司于6月25日宣布達成一項戰略性的多代合作,高通技術公司將成為Meta公司數據中心CPU的供應商。高通技術公司的數據中心CPU——高通Dragonfly C1000——計劃用于Meta公司的下一代服務器,這凸顯了高性能、高能效計算在大規模橫向擴展環境中日益增長的重要性。
高通技術公司的解決方案將于2028年下半年開始投入生產,并適用于未來的數據中心容量擴展。高通技術公司的平臺方案涵蓋先進計算、高性能連接和系統級優化,旨在提供卓越的每瓦性能,并幫助大規模降低總體擁有成本。
高通公司總裁兼首席執行官克里斯蒂亞諾·阿蒙表示:“我們設計的數據中心CPU旨在為大規模數據中心部署提供領先的單核性能和突破性的能效,而與Meta達成的這項多代合作協議是對我們這一理念的重要驗證。我們很高興能夠深化與Meta的合作,將業務范圍從終端設備擴展到數據中心。而這僅僅是個開始。”
Meta創始人兼首席執行官馬克·扎克伯格表示:“我們很高興能繼續與高通技術公司合作,共同設計Meta的下一代CPU。結合我們在其他計算領域的投資,我們正在快速構建所需的基礎設施,以便為全世界每個人提供個人超級智能。”
此外,來自技術和人工智能生態系統的35多家全球領先企業也公開支持高通技術公司的數據中心愿景和商業解決方案,其中包括Advantest、Arista、Astera、Cirrascale、Compal、Confidential Core AI、Core42、臺達、Fibercop、富士康、技嘉科技、華聯科技、英業達、IONOS、聯想、MasterWorks、Microchip Technology、美光科技、南亞科技、NEC、NeuReality、廣達、和碩聯合科技、三星SDS、Saptiva AI、SK海力士美國、Supermicro、Teradyne、TeraHop、聯電、VAST Data、Viettel IDC、VNPT集團和緯創資通。
編輯:芯智訊-浪客劍
行業交流、合作請加微信:icsmart01
芯智訊官方交流群:221807116