博客專欄

EEPW首頁(yè) > 博客 > 支持端側(cè)AI大模型已成新趨勢(shì),將推動(dòng)智能手機(jī)內(nèi)存容量突破20GB

支持端側(cè)AI大模型已成新趨勢(shì),將推動(dòng)智能手機(jī)內(nèi)存容量突破20GB

發(fā)布人:芯智訊 時(shí)間:2023-11-24 來源:工程師 發(fā)布文章

11月16日消息,根據(jù)外媒wccftech報(bào)導(dǎo),預(yù)計(jì)2024年將會(huì)流行的一件事就是終端AI的使用,該功能目前已內(nèi)置于2024年發(fā)表的多款芯片組中,包括高通Snapdragon 8 Gen 3、聯(lián)發(fā)科天璣9300和三星Exynos 2400。

一份新報(bào)告提出,支持終端側(cè)AI大模型功能的智能手機(jī)將需要比以前更大容量的內(nèi)存。因此,內(nèi)置端側(cè)AI大模型功能的Android智能手機(jī)其內(nèi)存容量至少需要20GB 將成為趨勢(shì)。

報(bào)告稱,雖然8GB內(nèi)存仍然是當(dāng)前Android智能手機(jī)市場(chǎng)的主流。然而,市場(chǎng)上很多旗艦智能手機(jī)也已經(jīng)達(dá)到了比現(xiàn)階段多數(shù)筆記本電腦或臺(tái)式機(jī)具有更多的內(nèi)存容量。接下來,為了讓設(shè)備上的AI更好的生產(chǎn)圖像,Android手機(jī)將需要至少1GB的內(nèi)存。原因是為具有設(shè)備上人工智能助理,以及其他功能的設(shè)備將需要超過20GB的內(nèi)存才能確保更流暢的操作。

在此前天璣9300的預(yù)溝通會(huì)上,聯(lián)發(fā)科無線通信事業(yè)部AI技術(shù)高級(jí)經(jīng)理莊世榮就曾向芯智訊解釋稱,一款130億參數(shù)的AI大模型,大概需要13GB 內(nèi)存 (INT8)才能運(yùn)行,而智能手機(jī)本身運(yùn)行安卓操作系統(tǒng)通常就要占用4GB的內(nèi)存,如果還要相對(duì)流暢的運(yùn)行其他常規(guī)APP任務(wù)并?;?,還需要6GB的內(nèi)存,即總的手機(jī)內(nèi)存容量需求將達(dá)到23GB。

但是目前主流的千元智能手機(jī)內(nèi)存容量大多數(shù)都是在8GB/12GB左右,大多數(shù)旗艦智能手機(jī)的內(nèi)存容量也才到16GB,僅有極少數(shù)旗艦手機(jī)內(nèi)存容量達(dá)到了24GB。所以,要想在智能手機(jī)端運(yùn)行130億參數(shù)的AI大模型將會(huì)面臨著內(nèi)存限制的問題。

即便采用先進(jìn)的內(nèi)存壓縮技術(shù),要流程的運(yùn)行130億參數(shù)的AI大模型,智能手機(jī)也需要至少16GB的內(nèi)存容量,如要要運(yùn)行更大規(guī)模的330億參數(shù)的AI大模型,內(nèi)存容量就需要進(jìn)一步提升到20GB以上。

image.png

報(bào)導(dǎo)強(qiáng)調(diào),過去市場(chǎng)上就已經(jīng)有內(nèi)存超過20GB的手機(jī)。比如,中國(guó)手機(jī)品牌一加先前也發(fā)布了一款24GB大容量?jī)?nèi)存的手機(jī),但當(dāng)時(shí)設(shè)備上的AI并不是焦點(diǎn)。然而,根據(jù)這份報(bào)告,如果期望人工智能功能能夠按預(yù)期工作,那么2024年的智慧型手機(jī)可能會(huì)配備更高的內(nèi)存容量。不過,現(xiàn)階段不能確定是否所有Android手機(jī)廠商都會(huì)效仿。

報(bào)道進(jìn)一步強(qiáng)調(diào),這里需要注意的另一件事是,考慮到各個(gè)Android手機(jī)廠商對(duì)AI的投資,2024年發(fā)表的設(shè)備將重點(diǎn)放在AI上已成為顯而易見的事情。

編輯:芯智訊-浪客劍


*博客內(nèi)容為網(wǎng)友個(gè)人發(fā)布,僅代表博主個(gè)人觀點(diǎn),如有侵權(quán)請(qǐng)聯(lián)系工作人員刪除。



關(guān)鍵詞: 芯片

相關(guān)推薦

技術(shù)專區(qū)

關(guān)閉