AMD最大的芯片：13個Chiplet，1460億晶體管

來源：內(nèi)容由半導體行業(yè)觀察（ID：icbank）編譯自tomshardware，謝謝。

AMD在 2023 年國際消費電子展上推出了其下一代 Instinct MI300 加速器，我們有幸獲得了一些動手時間，并拍攝了幾張這款龐大芯片的特寫照片。毫無疑問，Instinct MI300 是一個改變游戲規(guī)則的設計——這個數(shù)據(jù)中心 APU 混合了總共 13 個小芯片，其中許多是 3D 堆疊的，以創(chuàng)建一個具有 24 個 Zen 4 CPU 內(nèi)核并融合了 CDNA 3 圖形的芯片引擎和 8 堆 HBM3?？傮w而言，該芯片擁有 1460 億個晶體管，是 AMD 投入生產(chǎn)的最大芯片。 

MI300 擁有 1460 億個晶體管，輕松超過英特爾的 1000 億個晶體管Ponte Vecchio，再加上 128GB 的HBM3 內(nèi)存?？紤]到其閃亮的外觀，去邊芯片很難拍攝，但您可以清楚地看到中心芯片側(cè)面的八個 HBM3 堆棧。在這些 HBM 堆棧之間放置小的結(jié)構(gòu)硅片，以確保在封裝頂部擰緊冷卻溶液時的穩(wěn)定性。

該芯片的計算部分由九個 5nm 小芯片組成，它們是 CPU 或 GPU 內(nèi)核，但 AMD 沒有詳細說明每個小芯片的使用數(shù)量。Zen 4 內(nèi)核通常部署為八核裸片，因此我們可以查看三個 CPU 裸片和六個 GPU 裸片。GPU 芯片使用 AMD 的 CDNA 3 架構(gòu)，這是 AMD 數(shù)據(jù)中心專用圖形架構(gòu)的第三次修訂。AMD 沒有指定 CU 數(shù)量。

這九個裸片被 3D 堆疊在四個 6nm 基礎(chǔ)裸片之上，這些裸片不僅僅是無源中介層——我們被告知這些裸片是有源的，可以處理 I/O 和各種其他功能。AMD 向我們展示了另一個 MI300 樣品，該樣品的頂部裸片用砂帶打磨機打磨掉，以揭示四個有源中介層裸片的架構(gòu)。在那里，我們可以清楚地看到不僅可以在 I/O 塊之間實現(xiàn)通信的結(jié)構(gòu)，還可以看到與 HBM3 堆棧接口的內(nèi)存控制器之間的通信。但我們不允許拍攝第二個樣本。

3D 設計允許在 CPU、GPU 和內(nèi)存芯片之間實現(xiàn)令人難以置信的數(shù)據(jù)吞吐量，同時還允許 CPU 和 GPU 同時處理內(nèi)存中的相同數(shù)據(jù)（零拷貝），從而節(jié)省電力、提高性能并簡化編程。看看這個設備是否可以在沒有標準 DRAM 的情況下使用將會很有趣，正如我們在英特爾的 Xeon Max CPU中看到的那樣，它也采用了封裝 HBM。 

AMD 不愿透露細節(jié)，因此不清楚 AMD 是使用標準的 TSV 方法將上下裸片熔合在一起，還是使用更先進的混合鍵合方法。我們被告知 AMD 將很快分享有關(guān)封裝的更多細節(jié)。

 AMD 聲稱 MI300 提供的 AI 性能是 Instinct MI250 的八倍，每瓦性能是Instinct MI250的五倍（使用具有稀疏性的 FP8 測量）。AMD 還表示，它可以將 ChatGPT 和 DALL-E 等超大型 AI 模型的訓練時間從幾個月縮短到幾周，從而節(jié)省數(shù)百萬美元的電費。 

當前一代的 Instinct MI250 為 Frontier 超級計算機提供動力，這是世界上第一臺百億億級計算機，而 Instinct MI300 將為即將推出的兩臺 exaflop El Capitan 超級計算機提供動力。AMD 告訴我們，這些 halo MI300 芯片價格昂貴且相對稀有——它們不是大批量產(chǎn)品，因此它們不會像EPYC Genoa 數(shù)據(jù)中心 CPU那樣得到廣泛部署。但是，該技術(shù)將過濾到不同外形的多種變體。

該芯片還將與Nvidia 的 Grace Hopper Superchip競爭，后者在同一塊板上結(jié)合了 Hopper GPU 和 Grace CPU。這些芯片預計將于今年上市?；?Neoverse 的 Grace CPU 支持 Arm v9 指令集，并且系統(tǒng)配備了兩個與 Nvidia 新品牌 NVLink-C2C 互連技術(shù)融合在一起的芯片。AMD 的方法旨在提供卓越的吞吐量和能效，因為將這些設備組合到一個封裝中通常比連接到兩個單獨的設備時能夠在單元之間實現(xiàn)更高的吞吐量。 

MI300 還將與 Intel 的Falcon Shores競爭，該芯片將具有數(shù)量不等的計算塊，具有 x86 內(nèi)核、GPU 內(nèi)核和內(nèi)存，具有令人眼花繚亂的可能配置，但這些配置要到 2024 年才會到貨。 

在這里，我們可以看到 MI300 封裝的底部以及用于 LGA 安裝系統(tǒng)的接觸墊。AMD 沒有分享有關(guān)插槽機制的詳細信息，但我們一定會盡快了解更多信息——該芯片目前在 AMD 的實驗室中，該公司預計將在 2023 年下半年交付 Instinct MI300。El Capitan超級計算機將在 2023 年部署時成為世界上最快的超級計算機。目前正在按計劃進行。