單價炒到4萬美元！傳馬斯克已購入數(shù)千片英偉達(dá)H100

導(dǎo)讀：近日據(jù)CNBC報道，由于ChatGPT等語言模型火爆，英偉達(dá)最先進(jìn)的H100在eBay上的單片售價超過了4萬美元，而此前零售商的售價約為3.6萬美元。

圖：英偉達(dá)H100計(jì)算卡

H100是NVIDIA在2022年發(fā)布的旗艦AI芯片，取代了一直被稱為AI應(yīng)用“主力軍”的芯片A100，與A100相比，H100的能效提高了3.5倍，價格也從1萬美元上漲到超過3萬美元。

NVIDIA黃仁勛曾經(jīng)表示，20塊H100 GPU就可承托全球互聯(lián)網(wǎng)的流量。

芯片大師曾報道ChatGPT等火爆，英偉達(dá)增加A100等旗艦GPU投片，開發(fā)人員正在使用H100來構(gòu)建所謂的大型語言模型(LLMs)。

據(jù)報道，特斯拉CEO埃隆·馬斯克在美國內(nèi)華達(dá)州成立了一家名為X.AI的人工智能公司，旨在與Open AI展開競爭。據(jù)說馬斯克為了新項(xiàng)目已經(jīng)從NVIDIA購買了數(shù)千顆高性能GPU。

圖：單價被炒到4萬美元的H100

3D游戲先驅(qū)、前Meta consulting技術(shù)主管約翰·卡馬克在Twitter上提到英偉達(dá)H100的漲價，上周五，至少有8個H100在eBay掛牌出售，價格從39995美元到46000美元不等。

而訓(xùn)練一個AI語言模型，尤其是像GPT這樣的大型模型，需要數(shù)百個高端GPU協(xié)同工作。比如微軟就斥資數(shù)億美元購買了數(shù)萬顆Nvidia A100芯片，幫助打造ChatGPT。

根據(jù)最近的爆料，為了創(chuàng)建和維持ChatGPT所需的人工智能分析數(shù)據(jù)的龐大數(shù)據(jù)庫，開發(fā)商OpenAI使用了10000個英偉達(dá)的GPU進(jìn)行相關(guān)的訓(xùn)練。而為了支持實(shí)際應(yīng)用，滿足服務(wù)器的需求，OpenAI已使用了約2.5萬個英偉達(dá)的GPU，隨著需求的增加未來預(yù)計(jì)還會增加。

圖：售價數(shù)百萬的英偉達(dá)DGX

此外，Nvidia還提供了一臺帶有八顆GPU的超級計(jì)算機(jī)，稱為DGX。年初英偉達(dá)宣布推出新服務(wù)，允許公司以每月37,000美元的價格租用DGX——該系統(tǒng)將使用Nvidia A100芯片。如果要購買，不同配置的DGX售價將高達(dá)數(shù)百萬元。

行業(yè)專家表示，要構(gòu)建比目前可用的模型更大、數(shù)據(jù)需求量更大的模型，將需要更強(qiáng)大的芯片。

同時，由于當(dāng)前AI算力稀缺，高端GPU的價格和行情仍將上漲。