博客專欄

EEPW首頁 > 博客 > 人工智能芯片效率大比拼:高通以 2:1 擊敗英偉達(dá)

人工智能芯片效率大比拼:高通以 2:1 擊敗英偉達(dá)

發(fā)布人:旺材芯片 時(shí)間:2023-04-11 來源:工程師 發(fā)布文章

來源: IT之家


IT之家 4 月 9 日消息,人工智能芯片是用于訓(xùn)練和運(yùn)行人工智能模型的專用硬件,高通公司和英偉達(dá)公司是目前兩家領(lǐng)先的人工智能芯片制造商,在周三公布的一組新的測(cè)試數(shù)據(jù)中,高通的人工智能芯片在三個(gè)衡量電源效率的指標(biāo)中以 2 比 1 擊敗了英偉達(dá)。

據(jù)IT之家了解,人工智能模型需要用大量的數(shù)據(jù)進(jìn)行訓(xùn)練,以提高其準(zhǔn)確性和性能。訓(xùn)練完成后,人工智能模型就可以用于推理,即執(zhí)行一些具體的任務(wù),比如根據(jù)輸入生成文本回復(fù),或者判斷一張圖片是否包含貓。推理是人工智能技術(shù)在產(chǎn)品中廣泛應(yīng)用的環(huán)節(jié),但也會(huì)增加企業(yè)的成本,其中一個(gè)主要成本就是電力。

高通公司利用其在為手機(jī)等低功耗設(shè)備設(shè)計(jì)芯片的經(jīng)驗(yàn),推出了一款專為云端和邊緣端提供高性能、低功耗人工智能處理的芯片,名為 Cloud AI 100。該芯片在周三公布的由 MLCommons(一個(gè)維護(hù)人工智能芯片行業(yè)測(cè)試標(biāo)準(zhǔn)的工程聯(lián)盟)發(fā)布的測(cè)試數(shù)據(jù)中,在兩項(xiàng)功率效率指標(biāo)上擊敗了英偉達(dá)的旗艦芯片 H100。

功率效率指標(biāo)是指每瓦特電力可以執(zhí)行多少次服務(wù)器查詢。高通的 Cloud AI 100 在圖像分類方面達(dá)到了 227.4 次查詢每瓦特,而英偉達(dá)的 H100 只有 108.4 次查詢每瓦特,圖像分類可以用于識(shí)別圖片中的物體或場(chǎng)景。高通還在物體檢測(cè)方面領(lǐng)先于英偉達(dá),分別達(dá)到了 3.8 次查詢每瓦特和 2.4 次查詢每瓦特。物體檢測(cè)可以用于分析零售店的監(jiān)控視頻,了解顧客最常去哪些地方。

然而,在自然語言處理方面,英偉達(dá)卻占據(jù)了絕對(duì)優(yōu)勢(shì),無論是在性能還是功率效率方面都排名第一。自然語言處理是人工智能技術(shù)中最廣泛應(yīng)用于聊天機(jī)器人等系統(tǒng)的技術(shù),英偉達(dá)達(dá)到了 10.8 次查詢每瓦特,而高通排名第二,為 8.9 次查詢每瓦特。

高通和英偉達(dá)都希望通過提供高效的人工智能芯片來搶占數(shù)據(jù)中心市場(chǎng)的份額。隨著越來越多的企業(yè)將人工智能技術(shù)融入他們的產(chǎn)品中,這個(gè)市場(chǎng)預(yù)計(jì)將快速增長。


*博客內(nèi)容為網(wǎng)友個(gè)人發(fā)布,僅代表博主個(gè)人觀點(diǎn),如有侵權(quán)請(qǐng)聯(lián)系工作人員刪除。



關(guān)鍵詞: 高通

相關(guān)推薦

技術(shù)專區(qū)

關(guān)閉