博客專欄

EEPW首頁 > 博客 > 調(diào)查:大量用戶正計劃由英偉達平臺轉(zhuǎn)向AMD MI300X!

調(diào)查:大量用戶正計劃由英偉達平臺轉(zhuǎn)向AMD MI300X!

發(fā)布人:芯智訊 時間:2024-03-11 來源:工程師 發(fā)布文章

image.png

3月10日消息,根據(jù)TensorWave最近公布的一項調(diào)查數(shù)據(jù)顯示,大量人工智能專業(yè)人士正計劃從英偉達的AI GPU平臺轉(zhuǎn)向采用AMD最新的Instinct MI300X GPU。

TensorWave 聯(lián)合創(chuàng)始人 Jeff Tatarchuk 近日通過X平臺透露,他們進行了一項獨立調(diào)查,涵蓋 82 名工程師和人工智能專業(yè)人士,其中約有 50% 的受訪者表示他們對 AMD Instinct MI300X GPU 充滿信心,因為相比于英偉達的 H100 系列產(chǎn)品,MI300X 不僅擁有更出色的性價比,而且供應(yīng)充足,避免了遇到貨源緊張的問題。Jeff 還提到,TensorWave 公司也將采用 MI300X 人工智能加速器。

顯然,這對于 AMD 來說無疑是個好消息。因為以往其 Instinct 系列產(chǎn)品相比英偉達的競品,不僅性能要低一些,市場認(rèn)可度也相對較低,這也導(dǎo)致其在AI芯片市場的份額遠低于英偉達。但是,AMD去年推出的最新的Instinct MI300X GPU在性能上成功超越了英偉達明星產(chǎn)品H100。

根據(jù)資料顯示,AMD Instinct MI300X 內(nèi)部集成了12個5/6nm工藝的小芯片(HMB和I/O為6nm),擁有1530億個晶體管。在內(nèi)核設(shè)計上,采用了相比MI250X更簡單的設(shè)計,放棄了 APU 的 24 個Zen4內(nèi)核和 I/O 芯片,取而代之的是CDNA 3 GPU內(nèi)核架構(gòu),擁有304個計算單元(每個GPU小芯片擁有38個CU),19456個流處理器。在內(nèi)存帶寬方面,MI300X也配備了更大的 192GB HBM3內(nèi)存(8個HBM3封裝,每個堆棧為12 Hi)相比MI250X提高了50%,帶來高達5.3TB/s的帶寬和896GB/s的Infinity Fabric帶寬。相比之下,英偉達即將推出的H200 AI加速器也只有141 GB的容量。

具體來說,與英偉達 H100 相比,MI300X 擁有以下優(yōu)勢:

  • 內(nèi)存容量高出 2.4 倍

  • 內(nèi)存帶寬高出 1.6 倍

  • FP8 性能 (TFLOPS) 高出 1.3 倍

  • FP16 性能 (TFLOPS) 高出 1.3 倍

  • 在 1v1 對比測試中,性能方面可領(lǐng)先 H100 (Llama 2 70B) 最多 20%

  • 在 1v1 對比測試中,性能方面可領(lǐng)先 H100 (FlashAttention 2) 最多 20%

  • 在 8v8 服務(wù)器對比測試中,性能方面可領(lǐng)先 H100 (Llama 2 70B) 最多 40%

  • 在 8v8 服務(wù)器對比測試中,性能方面可領(lǐng)先 H100 (Bloom 176B) 最多 60%

從參數(shù)上來看,AMD Instinct MI300X 在性能上取得了巨大飛躍,相比英偉達目前的主力產(chǎn)品H100擁有一定的優(yōu)勢,再加上英偉達目前仍然存在供應(yīng)不足以及價格高昂等方面的問題,這也使得AMD有了更多的機會。

AMD CEO蘇姿豐在1月30日的電話會議上預(yù)測稱,2024年AMD的AI芯片營收將達35億美元,高于先前預(yù)測的20億美元。另外,去年四季度的AI芯片營收也超越此前預(yù)測的4億美元,但她并未披露確切的數(shù)字。

不過,需要指出的是,目前英偉達在AI芯片市場占據(jù)了超過了90%的市場份額,居于壟斷地位,這也使得AMD在與其競爭過程中可能會受到其市場地位的壓制。

上個月推出的面向云端大模型的全新推理芯片與英偉達(NVIDIA)競爭的美國人工智能初創(chuàng)公司——Groq的CEO Jonathan Ross近日在接受《華爾街日報》采訪時就控訴英偉達阻礙公平競爭。Jonathan Ross表示,曾有其他芯片供應(yīng)商客戶對其透露,如果英偉達問起這件事,他們會否認(rèn)與Groq談過話,因為怕遭到報復(fù)。

“我們見過的很多人都說,倘若雙方見面的消息傳到英偉達耳里,他們會打死不認(rèn)?!薄皢栴}在于,你必須提前一年付款給英偉達,但產(chǎn)品交期或許是一年、或許要更久。他們會說,‘哎呀,你跟別人買了,那我猜交貨時間可能要晚點了?!?Jonathan Ross說道。

雖然英偉達否認(rèn)此事,隨后AMD前資深副總裁兼圖形業(yè)務(wù)部總經(jīng)理Scott Herkleman也指控英偉達的商業(yè)行為和壟斷集團卡特爾(Cartel)行為相似,并稱其為“GPU卡特爾”,暗示英偉達在AI芯片市場上的霸主地位或許不是偶然。Herkleman認(rèn)為,英偉達限制GPU供應(yīng),通過讓客戶害怕使用競爭對手GPU,以維持產(chǎn)業(yè)主導(dǎo)地位。

編輯:芯智訊-浪客劍


*博客內(nèi)容為網(wǎng)友個人發(fā)布,僅代表博主個人觀點,如有侵權(quán)請聯(lián)系工作人員刪除。



關(guān)鍵詞: 英偉達

相關(guān)推薦

技術(shù)專區(qū)

關(guān)閉