傳字節(jié)已向英偉達(dá)下10億美元大單！AI服務(wù)器需求“爆表”

導(dǎo)讀：近日據(jù)鳳凰網(wǎng)消息，今年春節(jié)后，擁有云計(jì)算業(yè)務(wù)的中國各互聯(lián)網(wǎng)大公司都向英偉達(dá)下了大單，其中字節(jié)今年向英偉達(dá)訂購了超過10億美元的GPU，另一家大公司的訂單也至少超過10億元人民幣。

圖：英偉達(dá)H100加速卡

據(jù)一位接近英偉達(dá)的人士稱，字節(jié)跳動(dòng)目前已經(jīng)到貨和沒到貨的A100與H800加速卡總計(jì)有10萬塊。其中H800今年3月才開始投產(chǎn)。據(jù)估計(jì)，僅字節(jié)跳動(dòng)一家公司今年的訂單可能已接近英偉達(dá)去年在中國銷售的商用GPU總和。

一名字節(jié)人士透露，字節(jié)在2020年6月GPT-3發(fā)布后曾借助V100計(jì)算卡訓(xùn)練過一個(gè)數(shù)十億參數(shù)的生成式語言大模型，但由于參數(shù)規(guī)模有限，這個(gè)模型生成能力一般，字節(jié)當(dāng)時(shí)看不到它的商業(yè)化可能性故不了了之。

另一位阿里云人士表示阿里也曾在2018-2019年積極采購GPU，當(dāng)時(shí)采購量至少達(dá)到上萬塊規(guī)模，包括V100和T4計(jì)算卡，其中約十分之一送到了達(dá)摩院用作AI技術(shù)研發(fā)，這也用在了2021年發(fā)布的萬億參數(shù)大模型M6中。

圖：英偉達(dá)H100真身

消息人士提到，字節(jié)、阿里等大公司主要是和英偉達(dá)直接談采購，因?yàn)榇砩毯投质袌?chǎng)難以滿足其龐大需求，而英偉達(dá)會(huì)按目錄價(jià)，根據(jù)采購規(guī)模給出一定的折扣。

目前NVIDIA在售的加速卡至少有9款型號(hào)，其中用于AI語言大模型訓(xùn)練的4款高性能型號(hào)分別是V100、A800、A100及H100。

其中推出較早的V100加速卡至少10000美元，人民幣約合6.9萬元，對(duì)中國市場(chǎng)“特供”的A800售價(jià)12000美元，人民幣8.3萬元，A100售價(jià)在1.5萬美元，人民幣至少10.35萬元，現(xiàn)任“旗艦”H100加速卡官方售價(jià)3.65萬美元，人民幣超過25.2萬元。

同時(shí)，對(duì)AI的巨大需求也體現(xiàn)在云服務(wù)器代工供應(yīng)鏈。

圖：搭載8組H100的計(jì)算陣列

近日，全球服務(wù)器電源和代工大廠臺(tái)達(dá)董事長表示，各大廠進(jìn)入AI軍備競(jìng)賽，初期急單很多，“Google、Meta和中國大陸的廠商都很急，下半年訂單一直進(jìn)來”，同時(shí)預(yù)計(jì)這波需求會(huì)在今年第4季到明年發(fā)酵。

另一家AI服務(wù)器代工大廠英業(yè)達(dá)預(yù)計(jì)，內(nèi)建4或8顆GPU的AI伺服器產(chǎn)品明年起出貨量至少有兩位數(shù)增長。

鴻海集團(tuán)內(nèi)負(fù)責(zé)AI服務(wù)器業(yè)務(wù)的鴻佰科技規(guī)劃新增五到六條生產(chǎn)線，以應(yīng)對(duì)AI服務(wù)器客戶要求，除既有客戶微軟與亞馬遜之外，Meta、蘋果等大客戶也將加入今年出貨行列。