去年TT Blueprint China活動(dòng)上,Tenstorrent曾就基于chiplet(芯粒)的芯片設(shè)計(jì)打過(guò)一個(gè)很有趣的比方:“經(jīng)濟(jì)學(xué)之父亞當(dāng)斯密在《國(guó)富論》中提到,分工是人類生產(chǎn)力提高的第一要素。而開(kāi)放的貿(mào)易、交換,是將分工轉(zhuǎn)為生產(chǎn)力的必要條件。”沒(méi)錯(cuò),就是硅仙人Jim Keller創(chuàng)辦的Tenstorrent。
當(dāng)時(shí)Tenstorrent高級(jí)主任工程師陳志敏說(shuō),“將這個(gè)樸素的經(jīng)濟(jì)學(xué)理論套用到芯片產(chǎn)業(yè),芯粒就是芯片設(shè)計(jì)的分工載體。而一個(gè)開(kāi)源的生態(tài)系統(tǒng),就是將芯粒轉(zhuǎn)化為更高生產(chǎn)力的必要條件。”
比如說(shuō)現(xiàn)有一家企業(yè)準(zhǔn)備設(shè)計(jì)一款A(yù)I芯片,初衷是定制AI算力,那么實(shí)際上CPU、IO、安全、系統(tǒng)管理等組成部分都可以視作該芯片設(shè)計(jì)項(xiàng)目的非差異化要素。“除了需要自行設(shè)計(jì)的AI芯粒,如果其他所有功能都有現(xiàn)成的,設(shè)計(jì)成本自然就降下來(lái)了。”降低芯片設(shè)計(jì)成本是Tenstorrent推Open Chiplet Atlas(OCA)開(kāi)源芯粒生態(tài)計(jì)劃的目標(biāo)。
OCA的O是指Open,表現(xiàn)的自然是“開(kāi)放”屬性;C意指Chiplet芯粒,是生態(tài)實(shí)現(xiàn)的基礎(chǔ)。還有個(gè)A——最初是指Architecture,后來(lái)Tenstorrent將A改做Atlas。Tenstorrent首席架構(gòu)師練維漢(Wei-han Lien)最近在接受電子工程專輯采訪時(shí)說(shuō),“從Architecture到Atlas的轉(zhuǎn)變,反映了從單一技術(shù)藍(lán)圖到完整全球視野的進(jìn)化。”“Atlas強(qiáng)調(diào)了該計(jì)劃絕不只是個(gè)規(guī)格,而整合了核心架構(gòu)、開(kāi)源Harness、合規(guī)測(cè)試,乃至開(kāi)放的市場(chǎng)環(huán)境。”
所以我們理解OCA這一名稱透露了該生態(tài)系統(tǒng)的兩大特性:開(kāi)放、完整。

針對(duì)前者,最早的OCA宣傳手冊(cè)給OCA所下簡(jiǎn)潔定義為:一項(xiàng)開(kāi)放標(biāo)準(zhǔn),針對(duì)來(lái)自不同供應(yīng)商的t芯粒能夠?qū)崿F(xiàn)完整的互操作性(interoperability),令這些芯粒在單個(gè)封裝內(nèi)做到真正的“即插即用(plug-and-play)”;并且特別明確了OCA采用“開(kāi)放”標(biāo)準(zhǔn)技術(shù),避免供應(yīng)商鎖定。
至于后者,陳志敏在演講中介紹過(guò)OCA作為一套解決方案,跨物理層(plug)、傳輸與協(xié)議層(talk)、系統(tǒng)和軟件層(play)這5個(gè)層級(jí),完整定義了芯粒之間的互操作性;讓芯粒能夠做到互連、通信,并協(xié)作完成從啟動(dòng)到安全管理的復(fù)雜任務(wù)。
借著本次采訪機(jī)會(huì),本文嘗試談?wù)凮CA這一開(kāi)源芯粒生態(tài)計(jì)劃,及其折射出的芯片設(shè)計(jì)趨勢(shì)與可能的未來(lái)。無(wú)論OCA未來(lái)是否會(huì)成為獲得行業(yè)廣泛認(rèn)同的標(biāo)準(zhǔn)與生態(tài),OCA的存在對(duì)行業(yè)而言都有著重要的參考和借鑒價(jià)值。
降低成本是初衷
前兩年IBS曾發(fā)布報(bào)告稱,從頭設(shè)計(jì)一款2nm芯片需要耗費(fèi)每年7億美金。電子工程專輯《深度學(xué)習(xí)的興起,是通用計(jì)算的挽歌》一文也曾剖析過(guò)自7nm工藝之后,先進(jìn)制造工藝foundry廠的CapEx成本攀升速度超預(yù)期,令真正走量的芯片(如手機(jī)與PC所用的CPU)才用得起先進(jìn)工藝。
“還不只是設(shè)計(jì)成本提高的問(wèn)題。” 陳志敏談到,“現(xiàn)在芯片項(xiàng)目的成功率也在近些年穩(wěn)步下降。”西門子EDA和Wilson Research Group統(tǒng)計(jì)數(shù)據(jù)顯示,芯片單次流片即成功的比率(first silicon success)2020年為32%,2024年已經(jīng)下降到了14%。成本上升、成功率下降導(dǎo)致“越來(lái)越少的企業(yè)選擇針對(duì)特定場(chǎng)景來(lái)設(shè)計(jì)高性能芯片”,這與后摩爾時(shí)代“以應(yīng)用為導(dǎo)向”的芯片設(shè)計(jì)趨勢(shì)顯然是相悖的。
這是陳志敏談國(guó)富論、分工提升生產(chǎn)力,及打造OCA生態(tài)系統(tǒng)的基礎(chǔ)。不過(guò)在談OCA之前,這其中還有一層邏輯:在上述背景下,更多的IP以芯粒的形式供應(yīng)給市場(chǎng)——技術(shù)層面自然是因?yàn)橄冗M(jìn)封裝技術(shù)成熟,且標(biāo)準(zhǔn)逐漸確立(如UCIe)。Tenstorrent自身也經(jīng)歷了這樣的轉(zhuǎn)向——即便Tenstorrent現(xiàn)在的市場(chǎng)角色身兼IP、芯片、系統(tǒng)供應(yīng)商。
但產(chǎn)業(yè)邏輯是IP供應(yīng)商的下游客戶越來(lái)越不想為集成、驗(yàn)證、流片、測(cè)試全流程買單,尤其是IO、內(nèi)存接口、安全、電源管理等“基礎(chǔ)設(shè)施”——因?yàn)檫@些組成部分根本無(wú)法形成差異化。“只設(shè)計(jì)有差異化的部分,其他非差異化功能直接利用現(xiàn)成、已驗(yàn)證過(guò)的物理芯粒”這一思路就有了市場(chǎng)。對(duì)IP供應(yīng)商而言,賣實(shí)體芯粒或芯片也確實(shí)比賣IP更賺錢。雙方一拍即合,也就有了這樣的轉(zhuǎn)變。
練維漢也在采訪中談到:這一轉(zhuǎn)變是“半導(dǎo)體供應(yīng)鏈的必要進(jìn)化”,“從軟IP轉(zhuǎn)向物理芯粒,通過(guò)提供預(yù)測(cè)試的、經(jīng)過(guò)了硅驗(yàn)證的組件而非未經(jīng)驗(yàn)證的代碼,大幅降低了NRE(一次性工程費(fèi)用)成本,實(shí)現(xiàn)明顯更快的產(chǎn)品上市時(shí)間(time-to-market)。”
前不久的Keysight World Tech Day上,是德科技就曾提到在先進(jìn)封裝與標(biāo)準(zhǔn)趨于成熟的當(dāng)下,基于芯粒+先進(jìn)封裝的芯片,其上的芯粒正由單一供應(yīng)商來(lái)源,走向多供應(yīng)商來(lái)源:一顆芯片上的不同die會(huì)由不同的供應(yīng)商設(shè)計(jì)。這就涉及互操作性的問(wèn)題了,諸如OCA這樣的標(biāo)準(zhǔn)與生態(tài)系統(tǒng)就有了價(jià)值。
開(kāi)放:要互操作性,不鎖定供應(yīng)商
“像OCA這樣的開(kāi)放生態(tài)系統(tǒng),對(duì)于讓此類市場(chǎng)角色成為主流,起到了強(qiáng)力催化劑作用。”練維漢表示,“通過(guò)建立標(biāo)準(zhǔn)的、跨各個(gè)層級(jí)的即插即用接口,OCA生態(tài)系統(tǒng)消除了多供應(yīng)商的集成障礙,讓芯粒供應(yīng)商能夠面向全球、不同市場(chǎng)的客戶群出售相同的硅產(chǎn)品,實(shí)現(xiàn)業(yè)務(wù)擴(kuò)張,同時(shí)讓開(kāi)發(fā)變得快速且有成本效益。”
“初創(chuàng)企業(yè)自己造芯片的難度太大了,而且要耗費(fèi)大量時(shí)間。若市場(chǎng)能夠基于共同標(biāo)準(zhǔn)來(lái)造芯粒,初創(chuàng)公司就能復(fù)用不同的芯粒,比如說(shuō)可以從我們這里買。”Tenstorrent RISC-V內(nèi)核副總裁Divyang Agrawal在此前的采訪中說(shuō),“然后他們只做能夠形成差異化的芯粒,比如說(shuō)NPU 芯粒。再將不同的芯粒基于共同的標(biāo)準(zhǔn)整合到一起。”“即便是高性能芯片,設(shè)計(jì)成本變得更低、芯片也更可得(accessible)。”
“它幾乎可以視作Linux和RISC-V發(fā)展方向的延伸了。”這一點(diǎn)強(qiáng)調(diào)的是OCA的開(kāi)放、開(kāi)源屬性。而OCA相較市面上的其他封閉生態(tài)系統(tǒng),特色就在于“開(kāi)放”,不鎖定于某一家供應(yīng)商。包括未來(lái)的參考設(shè)計(jì),“我們期望展示令芯片設(shè)計(jì)更便宜的路徑,標(biāo)準(zhǔn)設(shè)計(jì)組件將會(huì)是開(kāi)源的。”
練維漢則說(shuō),對(duì)于Tenstorrent而言,雖然OCA的建立本身可能會(huì)有利于自家IP和芯粒產(chǎn)品的出售——但“這是構(gòu)建OCA的副產(chǎn)品,而非原因”。“OCA生態(tài)系統(tǒng)并非為我們自身的商業(yè)價(jià)值而造。它源于我們自己打造芯片架構(gòu)、開(kāi)始與合作伙伴協(xié)作時(shí)面臨的集成挑戰(zhàn)——且遇到的問(wèn)題已經(jīng)不是一家企業(yè)就能解決的了。”
所以在Tenstorrent看來(lái),OCA本身就是行業(yè)趨勢(shì),而“做正確的事,自然就會(huì)產(chǎn)生好的結(jié)果(We believe this is the industry's direction, and doing the right thing pays off naturally)”。
雖然OCA生態(tài)計(jì)劃由Tenstorrent發(fā)起,但練維漢表示,“長(zhǎng)期來(lái)看,OCA會(huì)采用類似Linux那樣的開(kāi)放、開(kāi)發(fā)者社區(qū)的模型,令其成為社區(qū)驅(qū)動(dòng)的生態(tài)系統(tǒng)。貢獻(xiàn)者通過(guò)技術(shù)工作小組來(lái)聯(lián)合確立其發(fā)展路線圖;而整個(gè)產(chǎn)業(yè)通過(guò)協(xié)作實(shí)現(xiàn)完整的、免版稅地(royalty-free),互操作性。”
完整:全棧覆蓋+參考設(shè)計(jì)
不過(guò)開(kāi)放并不是OCA的全部。比如UCIe(Universal Chiplet Interconnect Express)是現(xiàn)在廣為人知的die-to-die互連與總線開(kāi)放標(biāo)準(zhǔn)。練維漢說(shuō),UCIe是物理連接方面非常出色的標(biāo)準(zhǔn),而“OCA充分利用了該標(biāo)準(zhǔn)”,并在此基礎(chǔ)上“從物理層到軟件層提供全棧解決方案”。
“Tenstorrent在實(shí)踐中意識(shí)到,芯片之間的通信僅是芯粒互操作性的很小一部分。” 陳志敏談到。因此Tenstorrent從全系統(tǒng)角度出發(fā),“基于我們自己的芯粒產(chǎn)品,自上而下定義了5層要求(物理層、傳輸層、協(xié)議層、系統(tǒng)層、軟件層)。”尤其“其中軟件層和系統(tǒng)層的要求,應(yīng)該是業(yè)界唯一比較全面的描述”。

這套OCA架構(gòu)定義了不同芯粒如何通信,確保互操作性,確保芯片設(shè)計(jì)時(shí)沒(méi)有供應(yīng)商鎖定、“ISA-neutral”、降低供應(yīng)鏈風(fēng)險(xiǎn)。按照Tenstorrent規(guī)劃,今年夏天會(huì)完成OCA Arch. v0.9的定稿,陳志敏曾說(shuō),“屆時(shí)我們會(huì)自己設(shè)計(jì)一批基于OCA架構(gòu)的芯粒,并完成封裝和測(cè)試,給業(yè)界提供經(jīng)過(guò)實(shí)際產(chǎn)品驗(yàn)證的架構(gòu)方案”。“所以從v0.9到v1.0之間是充分的硅后驗(yàn)證,保證我們提出的方案是經(jīng)過(guò)芯片全流程考驗(yàn)的。”
OCA架構(gòu)實(shí)則是整個(gè)OCA生態(tài)系統(tǒng)的關(guān)鍵組件之一。其他組成部分還包括
OCA Harness——開(kāi)源的芯粒框架設(shè)計(jì),是基礎(chǔ)系統(tǒng)功能的組合,包括一些通用的系統(tǒng)邏輯(如安全、啟動(dòng)、 die-to-die協(xié)議轉(zhuǎn)換等);

OCA Compliance——用于硅前與硅后的合規(guī)性測(cè)試規(guī)范,確保芯粒符合OCA標(biāo)準(zhǔn);
OCA Shell——OCA Harness與來(lái)自Tenstorrent的die-to-die連接方案的結(jié)合;
OCA Chiplets——Tenstorrent與合作伙伴開(kāi)發(fā)的OCA芯粒,可能包括有AI加速器、CPU、內(nèi)存、IO等;OCA Models——“包括功能模型和性能模型,在設(shè)計(jì)芯粒時(shí)協(xié)助做協(xié)同仿真”。
簡(jiǎn)單談?wù)勂渲械腛CA Harness:這可以說(shuō)是通過(guò)“找到共性”尋求成本節(jié)約的典型組件:陳志敏稱其為芯粒設(shè)計(jì)模板。其中的組成部分包括了安全處理器、系統(tǒng)管理控制器、系統(tǒng)管理總線、測(cè)試與調(diào)試邏輯等;“還包含將系統(tǒng)總線轉(zhuǎn)化為die-to-die協(xié)議的轉(zhuǎn)換過(guò)程”(如AXI-over-UCIe die-to-die連接解決方案)。

“我們提供開(kāi)源的OCA Harness原因有兩個(gè)……第一是OCA架構(gòu)定義的可操作性要求覆蓋了芯粒設(shè)計(jì)的各個(gè)方面,從零開(kāi)始一步步實(shí)現(xiàn)難免需要更多時(shí)間打磨。然而借助我們的Harness開(kāi)源方案任何芯片設(shè)計(jì)者都可以自動(dòng)獲得必要的互操作性。第二,Harness實(shí)現(xiàn)的功能基本是芯粒的非差異化要素。與其花費(fèi)巨資獲得IP授權(quán)和重復(fù)開(kāi)發(fā),OCA Harness可以幫助芯粒設(shè)計(jì)者把資源集中到他們的優(yōu)勢(shì)領(lǐng)域。”計(jì)劃中OCA Harness Beta將于今年第三季度發(fā)布,包含完整的源碼、文檔、支持資源等。
“我們正在和OCA Harness的早期評(píng)估者與應(yīng)用方緊密合作。”練維漢表示參考設(shè)計(jì)Harness會(huì)成為OCA生態(tài)向前推進(jìn)的驅(qū)動(dòng)力。從這些早期的協(xié)作當(dāng)中,我們看到了一個(gè)朝氣蓬勃的生態(tài)系統(tǒng)和其中充滿動(dòng)力的參與者。他們很快會(huì)讓行業(yè)看到芯片設(shè)計(jì)節(jié)約成本、優(yōu)化性能、高效開(kāi)發(fā)的更多可能性。
值得一提的是,OCA芯片設(shè)計(jì)平臺(tái)包含了一些可復(fù)用的資源和方式,比如陳志敏在演講中提到的Shell復(fù)用——即復(fù)用OCA Harness + 來(lái)自Tenstorrent的die-to-die的物理層解決方案。“Tenstorrent不僅僅提供硅前的互操作性解決方案,也可以授權(quán)耗費(fèi)巨大的 die-to-die的物理層。芯片設(shè)計(jì)用戶可完全專注于差異化功能,如NPU或其他專用加速器。這個(gè)方案可以幫助用戶快速,低風(fēng)險(xiǎn),低成本的獲得完整的芯片實(shí)現(xiàn),獲取硅后調(diào)試開(kāi)發(fā)的經(jīng)驗(yàn),并且率先啟動(dòng)迭代。”
應(yīng)用與未來(lái):在共性中,尋求差異化
Divyang形容OCA是基于芯粒芯片設(shè)計(jì)的“最大公約數(shù)”。練維漢也強(qiáng)調(diào)OCA僅對(duì)非差異化的“基礎(chǔ)設(shè)施”(nondifferentiating infrastructure)做標(biāo)準(zhǔn)化,“如安全、啟動(dòng)、功耗管理”。 “工程師不再需要閉門造車或者重復(fù)開(kāi)發(fā)了,企業(yè)產(chǎn)品才能實(shí)現(xiàn)真正意義上的差異化。”

而無(wú)論是開(kāi)放視角還是完整視角,無(wú)論是抽象共性還是尋求差異化,幾名發(fā)言人都反復(fù)提到,這些就是為了“把芯片設(shè)計(jì)的成本降下來(lái)”。基于這一初衷,Tenstorrent眼中的OCA生態(tài)將迎來(lái)快速發(fā)展。去年Tenstorrent列出的OCA生態(tài)系統(tǒng)合作伙伴數(shù)量已經(jīng)超過(guò)32家(也包括有中國(guó)的藍(lán)芯算力、芯原、中科創(chuàng)達(dá)等)——包括芯片設(shè)計(jì)公司、芯片設(shè)計(jì)服務(wù)公司、IP供應(yīng)商、foundry廠、系統(tǒng)集成商、科研機(jī)構(gòu)等,生態(tài)計(jì)劃參與數(shù)量超過(guò)70個(gè)。
“未來(lái)3-5年,我們認(rèn)為OCA生態(tài)會(huì)迎來(lái)相當(dāng)出色的成長(zhǎng)軌跡。”練維漢在談OCA未來(lái)應(yīng)用方向時(shí)說(shuō),“大規(guī)模計(jì)算集群(hyperscalers)和汽車領(lǐng)域合作伙伴會(huì)成為第一批采用OCA的伙伴,因?yàn)樗麄儗?duì)定制化和成本效益有著更緊迫的需求。”“我們還與國(guó)際合作伙伴聯(lián)合開(kāi)發(fā)了面向數(shù)據(jù)中心領(lǐng)域的解決方案,也包括多個(gè)汽車合作項(xiàng)目。同時(shí)針對(duì)領(lǐng)域?qū)S眉铀伲╠omain specific acceleration)也在進(jìn)行極具潛力的商討。”
在面向不同應(yīng)用領(lǐng)域時(shí),“OCA架構(gòu)采用專門的‘profile’,其中集成了針對(duì)不同行業(yè)定制的特有功能域(Functional Domain)。”“模塊化的profile方法,令標(biāo)準(zhǔn)本身不需要有分支或發(fā)散——核心架構(gòu)還是統(tǒng)一的。”“當(dāng)然我們也誠(chéng)摯歡迎更多的行業(yè)參與者來(lái)推動(dòng)OCA對(duì)特定領(lǐng)域的優(yōu)化。”
練維漢表示,OCA全棧框架在這些市場(chǎng)獲得技術(shù)和商業(yè)可行性的證明以后,很快就會(huì)建立起成熟、去風(fēng)險(xiǎn)的生態(tài)系統(tǒng)。那么即便是初創(chuàng)企業(yè),也有機(jī)會(huì)以低成本做基于芯粒的芯片設(shè)計(jì)。

構(gòu)建一套覆蓋從物理層到軟件層的完整芯粒開(kāi)放生態(tài)系統(tǒng),“需要整個(gè)行業(yè)共同培育”——將生態(tài)"從脆弱的幼苗長(zhǎng)成自給自足的森林"。練維漢在采訪中對(duì)大型芯片供應(yīng)商的呼吁也相當(dāng)直接:讓我們一起為互操作性努力,分享專長(zhǎng)、統(tǒng)一接口,而不是各自重復(fù)開(kāi)發(fā)。
分工提升生產(chǎn)力,但分工轉(zhuǎn)化為生產(chǎn)力需要開(kāi)放的交換。芯片產(chǎn)業(yè)正在經(jīng)歷從"整芯片設(shè)計(jì)"到"芯粒級(jí)分工"的演進(jìn)——而讓這種分工真正落地的,恰恰是一套讓不同參與者能夠互通、協(xié)作的開(kāi)放標(biāo)準(zhǔn)。OCA所代表的開(kāi)放協(xié)作方向,至少為芯片設(shè)計(jì)的成本困局提供了一條可行的出路。在一個(gè)越來(lái)越強(qiáng)調(diào)定制化算力的時(shí)代,"做正確的事,自然會(huì)有回報(bào)"——這或許不只是一家企業(yè)的信念,也是整個(gè)行業(yè)需要共同踐行的方向。