NVIDIA GH200 CPU+GPU超級芯片大升級！史無前例282GB HBM3e內(nèi)存

快科技8月9日消息，NVIDIA官方宣布了新一代GH200 Grace Hopper超級芯片平臺，全球首發(fā)采用HBM3e高帶寬內(nèi)存，可滿足世界上最復雜的生成式AI負載需求。

NVIDIA 2022年3月推出了Grace Hopper超級芯片，首次將CPU、GPU融合在一塊主板上，不過直到今年5月份才量產(chǎn)。

其中，Grace CPU擁有72個Armv9 CPU核心、198MB緩存，支持1TB/s高帶寬的LPDDR5X ECC內(nèi)存，還支持PCIe 5.0。

Hopper GPU則采用臺積電4nm定制工藝，800億晶體管，集成18432個CUDA核心、576個Tenor核心、60MB二級緩存，支持6144-bit HBM高帶寬內(nèi)存，此前版本配備的是96GB HBM3。

雙路配置的系統(tǒng)中，兩顆新一代GH200超級芯片可帶來144個CPU核心、8PFlops(8千萬億次浮點計算每秒) AI性能、282GB HBM3e內(nèi)存，容量是現(xiàn)在的3.5倍，而高達10TB/s的帶寬也是現(xiàn)在的3倍。

基于NVLink高速總線，GH200超級芯片還可以繼續(xù)拓展互連，GPU可以訪問全部的CPU內(nèi)存，雙路配置下總?cè)萘靠蛇_1.2TB。

NVIDIA沒有透露采用的HBM3e來自哪家供應(yīng)商，很可能是SK海力士。

首批基于GH200超級芯片的系統(tǒng)將在2024年第二季度出貨。

順帶一提，AMD Instinct MI300A、MI300X AI加速器分別配備128GB、192GB HBM3，后者帶寬超過5TB/s。