揭秘IPU的設計理念:站在客戶的角度設計處理器

“IPU設計者的幕后故事”：英特爾研究員Brad Burres介紹如何通過基礎設施處理器（IPU）使中央處理器（CPU）擺脫低價值的繁瑣任務，使其專注于處理更重要的工作負載。

如果問Brad Burres在業(yè)余時間有什么愛好，您可能想不到他的回答如此簡單：除了騎摩托車、徒步旅行和帶領童子軍野外遠足，他還喜歡DIY。他說：“當我們使用射釘槍時，只要全神貫注，那便不會遇到什么棘手問題了?！?/p>

有趣的是，作為以太網產品事業(yè)部的英特爾研究員，Brad Burres是打造IPU的幕后關鍵人物之一。IPU是一款針對特定領域的處理器，旨在為服務器客戶解決棘手問題。當CPU內核數量隨著計算需求的增加而增加，開銷或基礎設施處理任務量也會隨之增加。人們最不想看到的事情就是讓強大的CPU內核陷入處理開銷的泥潭，以致無法有效運行應用程序。

可以這樣作類比：假如您希望增加團隊人數，從而更快地完成工作，但這需要成本——需要考慮分配任務所需的時間、確保各項工作妥善完成、管理團隊的輪班時間表等。在數據中心內，網絡、存儲和安全等基礎設施功能都需要處理能力，但不一定必須由CPU處理，而這就是IPU的用武之地。

Brad Burres表示：“多達30%至40%的處理器周期花費在基礎設施上?！蹦敲?，將其中一些基礎設施任務轉移到IPU，則可以為更重要的工作負載釋放CPU周期。

Brad Burres介紹道：“大型基礎設施供應商都有一個共同的目標，那就是‘不在至強?處理器上運行任何基礎設施周期’。如果您是微軟Azure、AWS或谷歌云等公有云提供商，您不會希望在基礎設施任務或網絡上花費絲毫至強計算周期?！?/p>

群策群力解決問題

英特爾與谷歌聯手開發(fā)了其首款ASIC IPU。谷歌這家網絡巨頭有一份具體的需求清單，需要全方位深度合作并進行共同開發(fā)的伙伴關系。基于此，英特爾與谷歌的團隊共同開發(fā)了可編程數據包處理功能，以支持由谷歌定義的一系列使用場景。雙方合作的最終成果就是Mount Evans，這款ASIC芯片負責進行硬件卸載，也利用ARM N1內核來處理那些必須被處理，而又無需英特爾?至強?處理器的強大功能的工作負載。不過，這并非該款芯片的全部優(yōu)點。為確保Mount Evans能夠盡可能高效地處理基礎設施任務，雙方做了大量工作。例如，Mount Evans支持每秒傳輸多達2億個數據包（這些信息包基于實際工作負載，而非基準工作負載）。

該款芯片雖然由英特爾與谷歌共同設計，但它絕非僅被用來解決谷歌所面臨的問題。Brad Burres說：“Mount Evans并非僅針對谷歌而打造。雖然其優(yōu)化功能針對谷歌在其自身運營中發(fā)現的問題而量身定制，但該款芯片足夠靈活，也可以用于其它許多地方?！?/p>

其他一些客戶也希望利用首代ASIC IPU來滿足其數據中心運營的類似需求。

Brad Burres表示：“我們從多個客戶那里了解到存在類似問題，然后花時間和從事技術工作的朋友討論如何解決這些問題，并尋找共性，由此催生出打造IPU的絕佳想法。”他補充說，面臨類似基礎設施挑戰(zhàn)的其他公司已經提出了自己的解決方案。

進化理論：智能網卡、IPU以及未來

雖然IPU進入大眾視野才短短一年，但Brad Burres已經為此冥思苦想了很多年。英特爾首款IPU的開發(fā)工作始于2016年，當時是為了推出另一款與眾不同的產品，而這款產品最終演變成為一年前面市的產品。但其實，這款芯片的歷史可以追溯到更早。

Brad Burres在之前擔任智能網卡首席架構師期間，專注于網絡卸載、存儲卸載和整體數據包處理等領域，專門針對頂級云服務提供商。因此，對于一款最終將被設計用于這些領域的特定處理器來說，這些都是熟悉的領域。從智能網卡到IPU的轉變是一個合乎邏輯的演變，而非僅僅是一個術語的變化。事實上，兩者之間的差異更廣泛地詮釋了IPU的未來。

Brad Burres解釋說：“智能網卡是一個臨時術語。普通網卡不具備智能化功能，若非借助FPGA或計算，它只是一個固定管道。而智能網卡不僅擁有智能化功能，還具備內核和靈活性，但它只局限在網絡范圍內。隨著存儲和遙測等附加功能的增加，我們有更多機會進行優(yōu)化，‘智能網卡’一詞也不再能準確地描述這些芯片的功能?！?/p>

在需求波動的情況下，對于整體業(yè)務圍繞租賃服務器容量的公司來說，釋放通用算力十分重要。在此過程中，為滿足某些功能的需求增加而過度配置是一種浪費，而引入更強大的至強處理器則不是非常經濟?；诖?，客戶爭相購買Mount Evans IPU庫存，以應對上述挑戰(zhàn)。

Brad Burres說：“IPU的市場需求非常旺盛。這不僅僅是芯片出貨的問題，英特爾必須確保其軟件也能夠滿足客戶需求，例如擴展到邊緣。它不像至強處理器這樣，當我們把至強處理器賣給客戶后，客戶就會去編寫軟件。而在IPU的出貨中，我們發(fā)揮了很重要的作用，并希望確保漸進式的進步?！?/p>

5月發(fā)布的IPU更新路線圖列出了未來四年英特爾IPU，包括第二代Mount Morgan的一些細節(jié)。雖然現在還處于早期階段，但致力于開發(fā)Mount Morgan和后續(xù)第三代IPU的團隊正在與至強產品團隊合作，以協(xié)調并確保他們沿著各自的路徑并行前進，并在必要時匯合。

“前途不可限量?！碑敱粏柕絀PU的未來發(fā)展時，Brad Burres說：“一個新領域的創(chuàng)新率相當高，這也正是它的魅力所在。IPU足夠靈活，可以支持更多使用場景。Mount Evans的使用場景就涵蓋了網絡和基礎設施領域，下一步則是存儲領域。隨后，您會開始看到一些I/O任務向下轉移到IPU。創(chuàng)新空間無處不在——而我們正處于冰山一角?！?/p>

這種想法可能會讓很多人大吃一驚，但工程師更喜歡“初期而有趣”的階段。因為在這個階段，“開銷任務”（例如排滿會議的日程表）被壓縮到最低。開發(fā)IPU雖然不像周日下午使用射釘槍那么簡單，但它比很多人想象的要更容易一些。