英偉達爆出又一重磅產(chǎn)品：含256個GPU的AI超級計算機！

5月29日，英偉達在2023臺北電腦展大會上發(fā)布了多項重磅消息，其中最引人注目的是其Grace Hopper超級芯片已經(jīng)全面投產(chǎn)。這些芯片是英偉達新推出的DGX GH200人工智能超級計算平臺和MGX系統(tǒng)的核心組件，它們專為處理海量的生成型人工智能任務而設計。

新型超級計算機：DGX GH200

英偉達宣布推出搭載256顆GH200 Grace Hopper超級芯片的新型DGX GH200人工智能超級計算機。新的DGX系統(tǒng)擁有更大的內(nèi)存容量和更大規(guī)模的模型能力，據(jù)悉DGX GH200的內(nèi)存儲量將是英偉達目前DGX A100系統(tǒng)的近500倍。

自去年年底OpenAI發(fā)布ChatGPT以來，生成式人工智能（AIGC）就成為熱度居高不下的新趨勢，該項技術需要通過超強算力來創(chuàng)建文本、圖像、視頻等內(nèi)容。而芯片巨頭英偉達所生產(chǎn)的人工智能芯片對該領域至關重要，計算能力方面的突破將使得AIGC應用再次獲得巨大提升。

英偉達CEO黃仁勛在COMPUTEX 2023的主題演講中表示，“DGX GH200人工智能超級計算機，集成了英偉達最先進的加速計算和網(wǎng)絡技術，以拓展人工智能的前沿?！?/p>

英偉達預計，其新型超級計算機將允許開發(fā)人員為人工智能聊天機器人以及復雜的算法構建更好的語言模型，并創(chuàng)建更有效的欺詐檢測和數(shù)據(jù)分析。有海外知名媒體對此評價道，英偉達的新人工智能超級計算機將改變“游戲規(guī)則”。

超強算力

Grace Hopper超級芯片是英偉達開發(fā)的基于Arm架構的CPU+GPU集成方案，它將72核的Grace CPU、Hopper GPU、96GB的HBM3和512GB的LPDDR5X集成在同一個封裝中，共有2000億個晶體管。這種組合提供了CPU和GPU之間驚人的數(shù)據(jù)帶寬，高達1TB/s，為某些內(nèi)存受限的工作負載提供了巨大的優(yōu)勢。

DGX GH200的細節(jié)還不太清楚，但已確認英偉達使用了一種新的NVLink Switch系統(tǒng)，包含36個NVLink Switch芯片將256個GH200 Grace Hopper芯片和144TB的共享內(nèi)存連接成一個單元。

DGX GH200人工智能超級計算平臺是英偉達針對最高端的人工智能和高性能計算工作負載而設計的系統(tǒng)和參考架構，目前的DGX A100系統(tǒng)只能將8個A100 GPU聯(lián)合起來作為一個單元，考慮到生成型人工智能的爆炸式增長，英偉達的客戶迫切需要更大、更強大的系統(tǒng)。