點擊藍字 關注我們
SUBSCRIBE to US

Image Credits:OpenAI
近日,OpenAI發布了首款自研推理芯片,該芯片由其與博通(Broadcom)聯合設計并代工生產。這款名為Jalape?o的處理器專為OpenAI推理系統的獨特需求打造。OpenAI表示,公司自研AI模型也參與了這款芯片的研發工作(https://openai.com/index/openai-broadcom-jalapeno-inference-chip/)。
目前該芯片仍處于測試階段,但OpenAI稱初步測試數據顯示,其單位功耗性能大幅優于當下市面上最頂尖的同類產品。
雙方早在去年10月就正式官宣了這項合作,不過外界早已流傳OpenAI自研芯片的消息,其核心目的是降低公司對英偉達GPU的依賴(https://openai.com/index/openai-and-broadcom-announce-strategic-collaboration/)。谷歌與亞馬遜均推出過用途相近的自研芯片,這類芯片常被稱作“AI加速器”,是專門為加速機器學習運算而設計的硬件。
在官宣與博通合作后不久,OpenAI總裁Greg Brockman在公司內部播客節目中,闡述了企業自研芯片的思路。
“我們對自身的業務運算需求有著深刻理解,”Brockman在節目中說道,“我們一直在挖掘那些現有芯片難以適配的特定運算場景,并思考該如何打造一款硬件,進一步釋放AI技術的性能上限?!?/span>
Jalape?o芯片專為推理運算打造,推理指調用已訓練完成的AI模型、響應用戶指令的運算流程。OpenAI在發布公告中重點強調,該芯片運行實時代碼模型時運營成本更低。像預訓練這類對算力要求極高的任務,大概率仍需依靠英偉達硬件支撐;但即便只是小幅降低推理成本,也能顯著改善公司盈利狀況。
優化推理系統或將成為未來AI產業盈利模式的關鍵抓手,且軟硬件全鏈路各層級都需要同步優化。OpenAI目前已在開發Codex等智能代理類產品及其底層大模型,同時自建配套數據中心承載模型運行。官方公告提到,自研專用芯片,能讓公司在全鏈路優化上走得更深更遠。
OpenAI表示:“公司不只是研發前沿大模型、基于模型打造應用產品,同時還在搭建底層全套基礎設施:芯片架構、計算內核、內存系統、網絡通信、任務調度、部署系統以及產品使用體驗。正因為OpenAI掌握全棧技術,每一層軟硬件都可以圍繞同一個目標優化:讓旗下模型運行速度更快、穩定性更強,同時降低用戶使用成本?!?/span>

微信號|IEEE電氣電子工程師學會
新浪微博|IEEE中國
Bilibili | IEEE中國
· IEEE電氣電子工程師學會 ·
往
期
推
薦
工程師重新重視的清潔能源解決方案:小型模塊化核能
機器人行業邁向真實應用,專家關注2026年關鍵轉變
聚變初創企業商用反應堆設計獲重大進展
如何減少對智能手機的依賴?