揭秘IPU的設(shè)計(jì)理念：站在客戶(hù)的角度設(shè)計(jì)處理器

↑ 收聽(tīng)本條新聞的音頻版，請(qǐng)猛戳這里?↑

如果問(wèn)Brad Burres在業(yè)余時(shí)間有什么愛(ài)好，您可能想不到他的回答如此簡(jiǎn)單：除了騎摩托車(chē)、徒步旅行和帶領(lǐng)童子軍野外遠(yuǎn)足，他還喜歡DIY。他說(shuō)：“當(dāng)我們使用射釘槍時(shí)，只要全神貫注，那便不會(huì)遇到什么棘手問(wèn)題了。”

有趣的是，作為以太網(wǎng)產(chǎn)品事業(yè)部的英特爾研究員，Brad Burres是打造IPU的幕后關(guān)鍵人物之一。IPU是一款針對(duì)特定領(lǐng)域的處理器，旨在為服務(wù)器客戶(hù)解決棘手問(wèn)題。當(dāng)CPU內(nèi)核數(shù)量隨著計(jì)算需求的增加而增加，開(kāi)銷(xiāo)或基礎(chǔ)設(shè)施處理任務(wù)量也會(huì)隨之增加。人們最不想看到的事情就是讓強(qiáng)大的CPU內(nèi)核陷入處理開(kāi)銷(xiāo)的泥潭，以致無(wú)法有效運(yùn)行應(yīng)用程序。

可以這樣作類(lèi)比：假如您希望增加團(tuán)隊(duì)人數(shù)，從而更快地完成工作，但這需要成本——需要考慮分配任務(wù)所需的時(shí)間、確保各項(xiàng)工作妥善完成、管理團(tuán)隊(duì)的輪班時(shí)間表等。在數(shù)據(jù)中心內(nèi)，網(wǎng)絡(luò)、存儲(chǔ)和安全等基礎(chǔ)設(shè)施功能都需要處理能力，但不一定必須由CPU處理，而這就是IPU的用武之地。

Brad Burres表示：“多達(dá)30%至40%的處理器周期花費(fèi)在基礎(chǔ)設(shè)施上。”那么，將其中一些基礎(chǔ)設(shè)施任務(wù)轉(zhuǎn)移到IPU，則可以為更重要的工作負(fù)載釋放CPU周期。

Brad Burres介紹道：“大型基礎(chǔ)設(shè)施供應(yīng)商都有一個(gè)共同的目標(biāo)，那就是‘不在至強(qiáng)^?處理器上運(yùn)行任何基礎(chǔ)設(shè)施周期’。如果您是微軟Azure、AWS或谷歌云等公有云提供商，您不會(huì)希望在基礎(chǔ)設(shè)施任務(wù)或網(wǎng)絡(luò)上花費(fèi)絲毫至強(qiáng)計(jì)算周期。”

英特爾與谷歌聯(lián)手開(kāi)發(fā)了其首款A(yù)SIC IPU。谷歌這家網(wǎng)絡(luò)巨頭有一份具體的需求清單，需要全方位深度合作并進(jìn)行共同開(kāi)發(fā)的伙伴關(guān)系。基于此，英特爾與谷歌的團(tuán)隊(duì)共同開(kāi)發(fā)了可編程數(shù)據(jù)包處理功能，以支持由谷歌定義的一系列使用場(chǎng)景。雙方合作的最終成果就是Mount Evans，這款A(yù)SIC芯片負(fù)責(zé)進(jìn)行硬件卸載，也利用ARM N1內(nèi)核來(lái)處理那些必須被處理，而又無(wú)需英特爾^?至強(qiáng)^?處理器的強(qiáng)大功能的工作負(fù)載。不過(guò)，這并非該款芯片的全部?jī)?yōu)點(diǎn)。為確保Mount Evans能夠盡可能高效地處理基礎(chǔ)設(shè)施任務(wù)，雙方做了大量工作。例如，Mount Evans支持每秒傳輸多達(dá)2億個(gè)數(shù)據(jù)包（這些信息包基于實(shí)際工作負(fù)載，而非基準(zhǔn)工作負(fù)載）。

該款芯片雖然由英特爾與谷歌共同設(shè)計(jì)，但它絕非僅被用來(lái)解決谷歌所面臨的問(wèn)題。Brad Burres說(shuō)：“Mount Evans并非僅針對(duì)谷歌而打造。雖然其優(yōu)化功能針對(duì)谷歌在其自身運(yùn)營(yíng)中發(fā)現(xiàn)的問(wèn)題而量身定制，但該款芯片足夠靈活，也可以用于其它許多地方。”

其他一些客戶(hù)也希望利用首代ASIC IPU來(lái)滿(mǎn)足其數(shù)據(jù)中心運(yùn)營(yíng)的類(lèi)似需求。

Brad Burres表示：“我們從多個(gè)客戶(hù)那里了解到存在類(lèi)似問(wèn)題，然后花時(shí)間和從事技術(shù)工作的朋友討論如何解決這些問(wèn)題，并尋找共性，由此催生出打造IPU的絕佳想法。”他補(bǔ)充說(shuō)，面臨類(lèi)似基礎(chǔ)設(shè)施挑戰(zhàn)的其他公司已經(jīng)提出了自己的解決方案。

雖然IPU進(jìn)入大眾視野才短短一年，但Brad Burres已經(jīng)為此冥思苦想了很多年。英特爾首款I(lǐng)PU的開(kāi)發(fā)工作始于2016年，當(dāng)時(shí)是為了推出另一款與眾不同的產(chǎn)品，而這款產(chǎn)品最終演變成為一年前面市的產(chǎn)品。但其實(shí)，這款芯片的歷史可以追溯到更早。

Brad Burres在之前擔(dān)任智能網(wǎng)卡首席架構(gòu)師期間，專(zhuān)注于網(wǎng)絡(luò)卸載、存儲(chǔ)卸載和整體數(shù)據(jù)包處理等領(lǐng)域，專(zhuān)門(mén)針對(duì)頂級(jí)云服務(wù)提供商。因此，對(duì)于一款最終將被設(shè)計(jì)用于這些領(lǐng)域的特定處理器來(lái)說(shuō)，這些都是熟悉的領(lǐng)域。從智能網(wǎng)卡到IPU的轉(zhuǎn)變是一個(gè)合乎邏輯的演變，而非僅僅是一個(gè)術(shù)語(yǔ)的變化。事實(shí)上，兩者之間的差異更廣泛地詮釋了IPU的未來(lái)。

Brad Burres解釋說(shuō)：“智能網(wǎng)卡是一個(gè)臨時(shí)術(shù)語(yǔ)。普通網(wǎng)卡不具備智能化功能，若非借助FPGA或計(jì)算，它只是一個(gè)固定管道。而智能網(wǎng)卡不僅擁有智能化功能，還具備內(nèi)核和靈活性，但它只局限在網(wǎng)絡(luò)范圍內(nèi)。隨著存儲(chǔ)和遙測(cè)等附加功能的增加，我們有更多機(jī)會(huì)進(jìn)行優(yōu)化，‘智能網(wǎng)卡’一詞也不再能準(zhǔn)確地描述這些芯片的功能。”

在需求波動(dòng)的情況下，對(duì)于整體業(yè)務(wù)圍繞租賃服務(wù)器容量的公司來(lái)說(shuō)，釋放通用算力十分重要。在此過(guò)程中，為滿(mǎn)足某些功能的需求增加而過(guò)度配置是一種浪費(fèi)，而引入更強(qiáng)大的至強(qiáng)處理器則不是非常經(jīng)濟(jì)。基于此，客戶(hù)爭(zhēng)相購(gòu)買(mǎi)Mount Evans IPU庫(kù)存，以應(yīng)對(duì)上述挑戰(zhàn)。

Brad Burres說(shuō)：“IPU的市場(chǎng)需求非常旺盛。這不僅僅是芯片出貨的問(wèn)題，英特爾必須確保其軟件也能夠滿(mǎn)足客戶(hù)需求，例如擴(kuò)展到邊緣。它不像至強(qiáng)處理器這樣，當(dāng)我們把至強(qiáng)處理器賣(mài)給客戶(hù)后，客戶(hù)就會(huì)去編寫(xiě)軟件。而在IPU的出貨中，我們發(fā)揮了很重要的作用，并希望確保漸進(jìn)式的進(jìn)步。”

5月發(fā)布的IPU更新路線圖列出了未來(lái)四年英特爾IPU，包括第二代Mount Morgan的一些細(xì)節(jié)。雖然現(xiàn)在還處于早期階段，但致力于開(kāi)發(fā)Mount Morgan和后續(xù)第三代IPU的團(tuán)隊(duì)正在與至強(qiáng)產(chǎn)品團(tuán)隊(duì)合作，以協(xié)調(diào)并確保他們沿著各自的路徑并行前進(jìn)，并在必要時(shí)匯合。

“前途不可限量。”當(dāng)被問(wèn)到IPU的未來(lái)發(fā)展時(shí)，Brad Burres說(shuō)：“一個(gè)新領(lǐng)域的創(chuàng)新率相當(dāng)高，這也正是它的魅力所在。IPU足夠靈活，可以支持更多使用場(chǎng)景。Mount Evans的使用場(chǎng)景就涵蓋了網(wǎng)絡(luò)和基礎(chǔ)設(shè)施領(lǐng)域，下一步則是存儲(chǔ)領(lǐng)域。隨后，您會(huì)開(kāi)始看到一些I/O任務(wù)向下轉(zhuǎn)移到IPU。創(chuàng)新空間無(wú)處不在——而我們正處于冰山一角。”

這種想法可能會(huì)讓很多人大吃一驚，但工程師更喜歡“初期而有趣”的階段。因?yàn)樵谶@個(gè)階段，“開(kāi)銷(xiāo)任務(wù)”（例如排滿(mǎn)會(huì)議的日程表）被壓縮到最低。開(kāi)發(fā)IPU雖然不像周日下午使用射釘槍那么簡(jiǎn)單，但它比很多人想象的要更容易一些。