NVIDIA GH200 CPU+GPU超級(jí)芯片大升級(jí)！史無前例282GB HBM3e內(nèi)存

快科技8月9日消息，NVIDIA官方宣布了新一代GH200 Grace Hopper超級(jí)芯片平臺(tái)，全球首發(fā)采用HBM3e高帶寬內(nèi)存，可滿足世界上最復(fù)雜的生成式AI負(fù)載需求。

NVIDIA 2022年3月推出了Grace Hopper超級(jí)芯片，首次將CPU、GPU融合在一塊主板上，不過直到今年5月份才量產(chǎn)。

其中，Grace CPU擁有72個(gè)Armv9 CPU核心、198MB緩存，支持1TB/s高帶寬的LPDDR5X ECC內(nèi)存，還支持PCIe 5.0。

Hopper GPU則采用臺(tái)積電4nm定制工藝，800億晶體管，集成18432個(gè)CUDA核心、576個(gè)Tenor核心、60MB二級(jí)緩存，支持6144-bit HBM高帶寬內(nèi)存，此前版本配備的是96GB HBM3。

雙路配置的系統(tǒng)中，兩顆新一代GH200超級(jí)芯片可帶來144個(gè)CPU核心、8PFlops(8千萬億次浮點(diǎn)計(jì)算每秒) AI性能、282GB HBM3e內(nèi)存，容量是現(xiàn)在的3.5倍，而高達(dá)10TB/s的帶寬也是現(xiàn)在的3倍。

基于NVLink高速總線，GH200超級(jí)芯片還可以繼續(xù)拓展互連，GPU可以訪問全部的CPU內(nèi)存，雙路配置下總?cè)萘靠蛇_(dá)1.2TB。

NVIDIA沒有透露采用的HBM3e來自哪家供應(yīng)商，很可能是SK海力士。

首批基于GH200超級(jí)芯片的系統(tǒng)將在2024年第二季度出貨。

順帶一提，AMD Instinct MI300A、MI300X AI加速器分別配備128GB、192GB HBM3，后者帶寬超過5TB/s。