谷歌迅速成為Nvidia強大的競爭對手

谷歌迅速成為Nvidia強大的競爭對手 —— 驅(qū)動其超級計算機的TPU v5p人工智能芯片比以往任何時候都更快，具有更大的內(nèi)存和帶寬，甚至勝過強大的H100

谷歌伴隨其Gemini人工智能模型的最新推出，發(fā)布了用于人工智能訓(xùn)練和推理的旗艦張量處理單元（TPU）的最新版本，這似乎是試圖挑戰(zhàn)Nvidia市場領(lǐng)先的GPU。

TPU v5p —— 谷歌最強大的定制設(shè)計人工智能加速器 —— 已經(jīng)部署以驅(qū)動該公司的“AI超級計算機”。這是一個專門用于運行人工智能應(yīng)用的超級計算機架構(gòu)，而不是通常用于運行科學(xué)工作負載的超級計算機，因為TPU不適用于這種工作負載。

其TPU的最新版本每個架構(gòu)（組成系統(tǒng)的一部分）有8960個芯片，而v4中有4096個，其總浮點運算數(shù)（FLOPs）每個架構(gòu)的可用性方面具有四倍的可伸縮性。這些新的架構(gòu)提供4800Gbps的吞吐量。新的架構(gòu)還配備了95GB的高帶寬內(nèi)存（HBM），而TPU v4中的HBM RAM為32GB。

Nvidia H100 vs 谷歌 TPU v5p：哪個更快？與Nvidia將其GPU提供給其他公司購買不同，谷歌的定制TPU仍然在內(nèi)部使用，用于其自己的產(chǎn)品和服務(wù)。谷歌的TPU長期以來一直用于推動其服務(wù)，包括Gmail、YouTube和Android，而最新版本也用于訓(xùn)練Gemini。

谷歌的v5p TPU比TPU v4在訓(xùn)練大型語言模型方面快2.8倍，性價比提高了2.1倍。盡管今年早些時候發(fā)布的中間版本TPU v5e在所有三者中提供了最高性價比，但它只比TPU v4快1.9倍，使TPU v5p成為最強大的版本。

它甚至足夠強大，可以與Nvidia廣受歡迎的H100 GPU媲美，后者是最適用于AI工作負載的最佳顯卡之一。根據(jù)該公司自己的數(shù)據(jù)，該組件在訓(xùn)練工作負載方面比Nvidia的A100 GPU快四倍。

與此同時，谷歌的TPU v4據(jù)估計比A100快1.2到1.7倍，根據(jù)其在四月份發(fā)布的研究。因此，極其粗略的計算表明，TPU v5p相對于A100大約快3.4到4.8倍，使其與H100相當(dāng)或更強大，盡管在得出任何結(jié)論之前需要更詳細的基準測試。