真武AI芯片累計(jì)出貨56萬(wàn)片，平頭哥開(kāi)源T-Head SAIL軟件棧

7月18日，阿里平頭哥半導(dǎo)體宣布，自研的 AI 軟件棧 T-Head SAIL^? 正式開(kāi)源，向全球開(kāi)發(fā)者開(kāi)放高效、開(kāi)放的AI算力基礎(chǔ)設(shè)施核心能力。

作為自主算力新標(biāo)桿，真武AI芯片憑借卓越算力與數(shù)據(jù)中心系統(tǒng)級(jí)全棧協(xié)同生態(tài)，高效助力將AI算力落地為生產(chǎn)力，為千行百業(yè)智能化進(jìn)程注入澎湃動(dòng)能。T-Head SAIL 是平頭哥為真武系列 AI 芯片打造的軟件棧，擁有自主知識(shí)產(chǎn)權(quán)、全面兼容主流 AI 生態(tài)。軟件棧覆蓋 OS 層、SDK 層與接口層的完整鏈路——向下釋放真武硬件算力，向上承接上層應(yīng)用需求。

截至今年4月，真武 AI 芯片已累計(jì)出貨56萬(wàn)片，服務(wù)20多個(gè)行業(yè)400多家客戶。真武 AI 芯片及 T-Head SAIL 軟件棧已在阿里云及多家頭部客戶的真實(shí)生產(chǎn)環(huán)境中歷經(jīng)深度打磨，扛過(guò)大規(guī)模流量、復(fù)雜場(chǎng)景以及嚴(yán)苛 SLA 的多重考驗(yàn)。

平頭哥將這套經(jīng)過(guò)嚴(yán)苛生產(chǎn)驗(yàn)證的 T-Head SAIL 軟件棧方案開(kāi)放給整個(gè)開(kāi)發(fā)者社區(qū)。“開(kāi)源不是終點(diǎn)，而是生態(tài)共建的起點(diǎn)。我們相信，真正的AI創(chuàng)新不應(yīng)被封閉的技術(shù)壁壘所限。我們誠(chéng)邀全球開(kāi)發(fā)者、科研機(jī)構(gòu)及產(chǎn)業(yè)伙伴一起，共同打磨工具鏈、豐富算子生態(tài)、優(yōu)化性能體驗(yàn)，讓每一行新代碼都成為進(jìn)一步推動(dòng)AI普惠的新力量。”平頭哥在新聞稿中寫道。

真武AI芯片開(kāi)發(fā)完整基座

從底層驅(qū)動(dòng)到上層工具，T-Head SAIL軟件棧由五層完整的技術(shù)棧組成，致力為開(kāi)發(fā)者提供完整、可靠、開(kāi)箱即用的開(kāi)發(fā)體驗(yàn)。

Driver與Runtime層

PPU Driver分為內(nèi)核態(tài)的KMD與用戶態(tài)的UMD，配合PPU Runtime提供統(tǒng)一的設(shè)備管理和內(nèi)存管理接口。

編程語(yǔ)言層

完整支持C/C++與Python，開(kāi)發(fā)者無(wú)需學(xué)習(xí)新的語(yǔ)言或編程范式，支持現(xiàn)有代碼資產(chǎn)平滑遷移。

編譯器層

包含Compiler與Debugger兩大組件，構(gòu)建完整的開(kāi)發(fā)閉環(huán)。

高性能庫(kù)層

全面覆蓋主流計(jì)算需求，為各類計(jì)算場(chǎng)景提供對(duì)應(yīng)的高性能實(shí)現(xiàn)：

• 計(jì)算庫(kù)涵蓋acBLAS、acDNN、acFFT、acRAND、acSOLVER、acSPARSE六大核心數(shù)學(xué)庫(kù)，為大模型訓(xùn)練與推理提供支撐；
• 編解碼庫(kù)覆蓋HGDEC、HGENC、HGJPEG與HGPP，滿足多模態(tài)數(shù)據(jù)處理的高吞吐需求；
• 集合通信庫(kù)包含PCCL與sailSHMEM，專為多卡、多機(jī)分布式訓(xùn)練設(shè)計(jì)，助力突破通信瓶頸；
• 此外配備acext擴(kuò)展庫(kù)與HGML機(jī)器學(xué)習(xí)庫(kù)，拓展豐富功能邊界

開(kāi)發(fā)者工具層

豐富相應(yīng)配套工具，賦能從單卡調(diào)試到千卡運(yùn)維的全鏈路掌控：

• Asight Compute支持算子級(jí)精細(xì)性能分析，幫助定位微觀瓶頸；
• Asight Systems面向系統(tǒng)級(jí)全棧Profiling，提供宏觀視角；
• PPU-SMI實(shí)現(xiàn)設(shè)備實(shí)時(shí)監(jiān)控與管理；
• PPU-DCGM支撐集群級(jí)別的資源智能調(diào)度

面向開(kāi)發(fā)者體驗(yàn)的軟件棧

無(wú)需重寫代碼，讓既有資產(chǎn)無(wú)縫延續(xù)

T-Head SAIL兼容主流AI生態(tài)，主流模型即開(kāi)即用，算子庫(kù)完整對(duì)標(biāo)，主流編程模型高度兼容。開(kāi)發(fā)者過(guò)去積累的經(jīng)驗(yàn)、代碼、調(diào)優(yōu)技巧，在 T-Head SAIL上都能直接復(fù)用，業(yè)務(wù)遷移僅需極少量代碼適配修改、平滑順暢。

無(wú)需等待適配，與前沿生態(tài)同頻演進(jìn)

AI技術(shù)迭代日新月異，平頭哥自研推理引擎提供開(kāi)箱即用的生產(chǎn)級(jí)性能，同時(shí)T-Head SAIL已完善建立與主流社區(qū)同頻的響應(yīng)機(jī)制，框架跟進(jìn)、新模型適配速度迅捷極速。目前主流AI推理框架，T-Head SAIL平均適配時(shí)間<7天，開(kāi)發(fā)者無(wú)需額外適配和調(diào)優(yōu)，即可使用前沿最新的算子、特性與優(yōu)化手段。

無(wú)需綁定框架平臺(tái)，為開(kāi)發(fā)提供靈活選擇

T-Head SAIL 已全面適配PyTorch、TensorFlow、vLLM、SGLang等260余個(gè)主流訓(xùn)練與推理框架，開(kāi)發(fā)者獲取源碼后即可直接編譯運(yùn)行，無(wú)需額外適配。T-Head SAIL支持按需靈活選用工具鏈，不綁定任何特定技術(shù)路線，保障技術(shù)選型的自主與開(kāi)放。

智算無(wú)界，共行致遠(yuǎn)

平頭哥開(kāi)發(fā)者社區(qū)網(wǎng)站現(xiàn)已同步上線，匯聚 T-Head SAIL 全棧技術(shù)文檔，提供 SDK 軟件包、內(nèi)核驅(qū)動(dòng)、性能分析和調(diào)試工具下載，為開(kāi)發(fā)者提供一站式服務(wù)。

▼  社區(qū)地址：

https://developer.t-head.cn/home

平頭哥表示，將持續(xù)投入社區(qū)建設(shè)，確保 T-Head SAIL 開(kāi)源項(xiàng)目健康、可持續(xù)發(fā)展。在即將推進(jìn)的二期建設(shè)中，將開(kāi)源通信庫(kù)相關(guān)軟件并同步開(kāi)放v2.2版本Docker與PIP源，同時(shí)開(kāi)發(fā)者社區(qū)網(wǎng)站將上線開(kāi)發(fā)者論壇板塊，搭建起平頭哥與社區(qū)、開(kāi)發(fā)者與開(kāi)發(fā)者之間的常態(tài)化交流平臺(tái)；三期將進(jìn)一步開(kāi)源計(jì)算加速庫(kù)和推理引擎軟件，并開(kāi)放v2.3版本Docker與PIP源。未來(lái)，還將有更多更新與社區(qū)活動(dòng)上線，敬請(qǐng)關(guān)注。