博客專欄

EEPW首頁(yè) > 博客 > 調(diào)查:大量用戶正計(jì)劃由英偉達(dá)平臺(tái)轉(zhuǎn)向AMD MI300X!

調(diào)查:大量用戶正計(jì)劃由英偉達(dá)平臺(tái)轉(zhuǎn)向AMD MI300X!

發(fā)布人:芯智訊 時(shí)間:2024-03-11 來(lái)源:工程師 發(fā)布文章

image.png

3月10日消息,根據(jù)TensorWave最近公布的一項(xiàng)調(diào)查數(shù)據(jù)顯示,大量人工智能專業(yè)人士正計(jì)劃從英偉達(dá)的AI GPU平臺(tái)轉(zhuǎn)向采用AMD最新的Instinct MI300X GPU。

TensorWave 聯(lián)合創(chuàng)始人 Jeff Tatarchuk 近日通過(guò)X平臺(tái)透露,他們進(jìn)行了一項(xiàng)獨(dú)立調(diào)查,涵蓋 82 名工程師和人工智能專業(yè)人士,其中約有 50% 的受訪者表示他們對(duì) AMD Instinct MI300X GPU 充滿信心,因?yàn)橄啾扔谟ミ_(dá)的 H100 系列產(chǎn)品,MI300X 不僅擁有更出色的性價(jià)比,而且供應(yīng)充足,避免了遇到貨源緊張的問(wèn)題。Jeff 還提到,TensorWave 公司也將采用 MI300X 人工智能加速器。

顯然,這對(duì)于 AMD 來(lái)說(shuō)無(wú)疑是個(gè)好消息。因?yàn)橐酝?Instinct 系列產(chǎn)品相比英偉達(dá)的競(jìng)品,不僅性能要低一些,市場(chǎng)認(rèn)可度也相對(duì)較低,這也導(dǎo)致其在AI芯片市場(chǎng)的份額遠(yuǎn)低于英偉達(dá)。但是,AMD去年推出的最新的Instinct MI300X GPU在性能上成功超越了英偉達(dá)明星產(chǎn)品H100。

根據(jù)資料顯示,AMD Instinct MI300X 內(nèi)部集成了12個(gè)5/6nm工藝的小芯片(HMB和I/O為6nm),擁有1530億個(gè)晶體管。在內(nèi)核設(shè)計(jì)上,采用了相比MI250X更簡(jiǎn)單的設(shè)計(jì),放棄了 APU 的 24 個(gè)Zen4內(nèi)核和 I/O 芯片,取而代之的是CDNA 3 GPU內(nèi)核架構(gòu),擁有304個(gè)計(jì)算單元(每個(gè)GPU小芯片擁有38個(gè)CU),19456個(gè)流處理器。在內(nèi)存帶寬方面,MI300X也配備了更大的 192GB HBM3內(nèi)存(8個(gè)HBM3封裝,每個(gè)堆棧為12 Hi)相比MI250X提高了50%,帶來(lái)高達(dá)5.3TB/s的帶寬和896GB/s的Infinity Fabric帶寬。相比之下,英偉達(dá)即將推出的H200 AI加速器也只有141 GB的容量。

具體來(lái)說(shuō),與英偉達(dá) H100 相比,MI300X 擁有以下優(yōu)勢(shì):

  • 內(nèi)存容量高出 2.4 倍

  • 內(nèi)存帶寬高出 1.6 倍

  • FP8 性能 (TFLOPS) 高出 1.3 倍

  • FP16 性能 (TFLOPS) 高出 1.3 倍

  • 在 1v1 對(duì)比測(cè)試中,性能方面可領(lǐng)先 H100 (Llama 2 70B) 最多 20%

  • 在 1v1 對(duì)比測(cè)試中,性能方面可領(lǐng)先 H100 (FlashAttention 2) 最多 20%

  • 在 8v8 服務(wù)器對(duì)比測(cè)試中,性能方面可領(lǐng)先 H100 (Llama 2 70B) 最多 40%

  • 在 8v8 服務(wù)器對(duì)比測(cè)試中,性能方面可領(lǐng)先 H100 (Bloom 176B) 最多 60%

從參數(shù)上來(lái)看,AMD Instinct MI300X 在性能上取得了巨大飛躍,相比英偉達(dá)目前的主力產(chǎn)品H100擁有一定的優(yōu)勢(shì),再加上英偉達(dá)目前仍然存在供應(yīng)不足以及價(jià)格高昂等方面的問(wèn)題,這也使得AMD有了更多的機(jī)會(huì)。

AMD CEO蘇姿豐在1月30日的電話會(huì)議上預(yù)測(cè)稱,2024年AMD的AI芯片營(yíng)收將達(dá)35億美元,高于先前預(yù)測(cè)的20億美元。另外,去年四季度的AI芯片營(yíng)收也超越此前預(yù)測(cè)的4億美元,但她并未披露確切的數(shù)字。

不過(guò),需要指出的是,目前英偉達(dá)在AI芯片市場(chǎng)占據(jù)了超過(guò)了90%的市場(chǎng)份額,居于壟斷地位,這也使得AMD在與其競(jìng)爭(zhēng)過(guò)程中可能會(huì)受到其市場(chǎng)地位的壓制。

上個(gè)月推出的面向云端大模型的全新推理芯片與英偉達(dá)(NVIDIA)競(jìng)爭(zhēng)的美國(guó)人工智能初創(chuàng)公司——Groq的CEO Jonathan Ross近日在接受《華爾街日?qǐng)?bào)》采訪時(shí)就控訴英偉達(dá)阻礙公平競(jìng)爭(zhēng)。Jonathan Ross表示,曾有其他芯片供應(yīng)商客戶對(duì)其透露,如果英偉達(dá)問(wèn)起這件事,他們會(huì)否認(rèn)與Groq談過(guò)話,因?yàn)榕略獾綀?bào)復(fù)。

“我們見(jiàn)過(guò)的很多人都說(shuō),倘若雙方見(jiàn)面的消息傳到英偉達(dá)耳里,他們會(huì)打死不認(rèn)?!薄皢?wèn)題在于,你必須提前一年付款給英偉達(dá),但產(chǎn)品交期或許是一年、或許要更久。他們會(huì)說(shuō),‘哎呀,你跟別人買(mǎi)了,那我猜交貨時(shí)間可能要晚點(diǎn)了?!?Jonathan Ross說(shuō)道。

雖然英偉達(dá)否認(rèn)此事,隨后AMD前資深副總裁兼圖形業(yè)務(wù)部總經(jīng)理Scott Herkleman也指控英偉達(dá)的商業(yè)行為和壟斷集團(tuán)卡特爾(Cartel)行為相似,并稱其為“GPU卡特爾”,暗示英偉達(dá)在AI芯片市場(chǎng)上的霸主地位或許不是偶然。Herkleman認(rèn)為,英偉達(dá)限制GPU供應(yīng),通過(guò)讓客戶害怕使用競(jìng)爭(zhēng)對(duì)手GPU,以維持產(chǎn)業(yè)主導(dǎo)地位。

編輯:芯智訊-浪客劍


*博客內(nèi)容為網(wǎng)友個(gè)人發(fā)布,僅代表博主個(gè)人觀點(diǎn),如有侵權(quán)請(qǐng)聯(lián)系工作人員刪除。



關(guān)鍵詞: 英偉達(dá)

相關(guān)推薦

技術(shù)專區(qū)

關(guān)閉