AMD發(fā)布全新架構(gòu)計(jì)算卡Instinct MI100：AI性能暴漲7倍

在游戲領(lǐng)域，基于RDNA 2架構(gòu)的Radeon RX 6000系列顯卡已經(jīng)開始閃亮登場。在高性能計(jì)算領(lǐng)域，基于CDNA全新架構(gòu)的新一代計(jì)算卡Instinct MI100也終于登臺(tái)了！

AMD Radeon Instinct系列計(jì)算卡已經(jīng)發(fā)展了多款型號(hào)，但是在此之前，AMD GPU一直都是一套架構(gòu)打天下，游戲、計(jì)算不分家，自然不利于不同方向的深度優(yōu)化。

今年3月份，AMD宣布了首個(gè)專門針對(duì)數(shù)據(jù)中心高性能計(jì)算而設(shè)計(jì)的CDNA架構(gòu)，從此與RDNA游戲架構(gòu)分道揚(yáng)鑣。二者雖然還有一些共通點(diǎn)，但在設(shè)計(jì)、優(yōu)化上已經(jīng)涇渭分明，在各自領(lǐng)域的性能、能效也更高。

而在產(chǎn)品命名方面，AMD計(jì)算卡也放棄了Radeon字樣，不再稱呼Radeon Instinct，而是簡單地叫做Instinct。

AMD Instinct可以說是專為HPC高性能計(jì)算而生的，志在推動(dòng)超級(jí)計(jì)算機(jī)進(jìn)入百億億次計(jì)算時(shí)代(ExaScale)。

回顧歷史，21世紀(jì)的前10個(gè)年頭屬于萬億次計(jì)算時(shí)代(TeraScale)，完全依賴CPU運(yùn)算；最近10個(gè)年頭屬于千萬億次計(jì)算時(shí)代(PetaScale)，GPU加速運(yùn)算展露鋒芒。

不過近兩年，傳統(tǒng)的GPU加速計(jì)算也已經(jīng)初顯疲態(tài)，性能增強(qiáng)曲線也緩了下來，必須實(shí)現(xiàn)全新的突破。

CDNA架構(gòu)和MI100加速卡就是這樣的突破性產(chǎn)品，也是AMD開拓新未來的新旗艦。

AMD Instinct MI100是其迄今為止性能最高的HPC GPU，F(xiàn)P64雙精度浮點(diǎn)性能首次突破10TFlops(也就是每秒1億億次)，并在架構(gòu)設(shè)計(jì)上專門加入了Matrix Core(矩陣核心)，用于加速HPC、AI運(yùn)算，號(hào)稱在混合精度和FP16半精度的AI負(fù)載上，性能提升接近7倍。

另外，新卡的外觀設(shè)計(jì)也令人眼前一亮，更有質(zhì)感的拉絲外殼，深灰色調(diào)，非常沉穩(wěn)大氣。

它集成多達(dá)120個(gè)計(jì)算單元、7680個(gè)流處理器，搭配32GB HBM2，帶寬高達(dá)1.23TB/s，同時(shí)支持PCIe 4.0，集成Infinity Fabric x16高速互聯(lián)通道，峰值帶寬達(dá)276GB/s(相當(dāng)于PCIe 4.0 x16的大約4倍)，而整卡功耗控制在300W。

計(jì)算性能方面，F(xiàn)MA64/FP64雙精度為11.5TFlops(每秒1.15億億次)，F(xiàn)MA32/FP32單精度為23.1TFlops(每秒2.31億億次)，F(xiàn)P32 Matrix單精度矩陣計(jì)算為46.1TFlops(每秒4.61億億次)，F(xiàn)P16 Matrix半精度矩陣計(jì)算為184.6TFlops(每秒18.46億億次)，Bfloat16浮點(diǎn)為92.3TFlops(每秒9.23億億次)。

這些數(shù)字是什么概念呢？

就拿11.5TFlops的雙精度性能來說，2000年排名世界第一的超級(jí)計(jì)算機(jī)ASCI White，這個(gè)指標(biāo)也不過12.3TFlops，但卻是付出了600萬瓦的功耗、106噸的身材才獲得的，Instinct MI100卻只要300瓦、1.16千克。

換言之，如今的一塊卡，就相當(dāng)于20年前的一個(gè)大規(guī)模計(jì)算集群！

AMD上代計(jì)算卡Instinct MI50采用的還是Vega 20核心，60個(gè)計(jì)算單元，3840個(gè)流處理器，32GB HBM2顯存帶寬1TB/s，Infinity Fabric總線帶寬92GB/s，功耗300W。

Instinct MI100的核心規(guī)模翻了一番，顯存帶寬提升了超過20％，Infinity Fabric帶寬提升了整整2倍，但是功耗卻完全沒變(工藝應(yīng)當(dāng)也還是7nm)，新架構(gòu)的能效可見一斑。

新卡的性能更是不可同日而語，F(xiàn)P64雙精度、FP32單精度性能均提升74％，F(xiàn)P32矩陣性能提升接近2.5倍，AI負(fù)載性能更是幾乎7倍的飛躍。

在美國能源部旗下的橡樹嶺國家實(shí)驗(yàn)室，AMD MI100計(jì)算卡已經(jīng)在支撐多項(xiàng)百億億次科研項(xiàng)目，涉及NAMD分子動(dòng)力學(xué)模擬、CHOLLA星系形成研究、PIConGPU激光放射癌癥療法、GESTS流體動(dòng)力學(xué)等等諸多前沿科技。

AMD Instinct MI100計(jì)算卡還有一個(gè)絕佳搭檔，那就是AMD自家的霄龍數(shù)據(jù)中心處理器，慧與、戴爾、超威、技嘉等多家行業(yè)巨頭都有提供這種雙A方案。

當(dāng)然了，只有硬件，是做不成高性能計(jì)算的，AMD同時(shí)一直在推進(jìn)一站式軟件解決方案ROCm。

從2016年初入江湖的1.x版本，2018年奠定基礎(chǔ)的2.0版本，到2019年專注于機(jī)器學(xué)習(xí)的3.0版本，再到如今最新的4.0版本，AMD ROCm已經(jīng)打造成了一整套針對(duì)機(jī)器學(xué)習(xí)、高性能計(jì)算的百億億次級(jí)開發(fā)方案，規(guī)劃中的各項(xiàng)功能特性也基本都已經(jīng)實(shí)現(xiàn)。

軟件優(yōu)化的力量無疑是巨大的，可以充分釋放硬件潛力，比如說上代MI50，搭配ROCm 3.0的話性能相比于搭配ROCm 2.0可以提升3-4倍，而最新的MI100、ROCm 4.0聯(lián)合，更是可以輕松帶來5-8倍的性能提升。

AMD ROCm生態(tài)的進(jìn)步速度非?？欤呀?jīng)有眾多領(lǐng)域的頭部廠商采納和支持，而且它沿襲了AMD一貫的原則，那就是完全開源開放，非常方便代碼遷移，比如說HACC(宇宙學(xué))只用了一個(gè)下午，SPECFEM3D(地震學(xué))半天就搞定，CHOLLA(天體物理學(xué))花了幾天，QUDA(量子物理學(xué))也不過21天。