美光曝存儲器新進度

研調(diào)機構(gòu)TrendForce集邦咨詢17日舉辦AI服務(wù)器論壇，美光透露目前DDR5醞釀許久，而HBM產(chǎn)能在2025年前已滿載，美光在各種存儲器產(chǎn)品有多種布局，也為AI數(shù)據(jù)中心提供強大支持。

美光在全球布局超過54,000項專利，存儲器和存儲技術(shù)領(lǐng)先業(yè)界，目前已經(jīng)醞釀很久DDR5，下一代會做到1γ制程，采用EUV制程技術(shù)，計劃2025年率先在中國臺灣量產(chǎn)。

美光表示，公司擁有廣泛的產(chǎn)品群組、長周期生命產(chǎn)品，以及完整的系統(tǒng)規(guī)劃。隨著AI改變數(shù)據(jù)中心生態(tài)，讀取方式已經(jīng)不同，必須跟著AI神經(jīng)網(wǎng)路模式運作，因此深度學習的讀寫比率已經(jīng)到5000:1，意味著讀取速度遠超過寫入速度，因此選擇合適的儲存設(shè)備相當重要。

對此，美光也進行服務(wù)器架構(gòu)優(yōu)化，當GPU服務(wù)器和SSD以1:1方式進行訓練，效能會做到最好。另外，隨著AI時代來臨，在AI效能和成本間的平衡也越發(fā)重要，美光推出能最佳化現(xiàn)有系統(tǒng)并延長設(shè)備壽命的DDR4，速度高達3,200MT/s。在多核心CPU架構(gòu)下，美光DDR5以6,400MT/s速度，使頻寬增至DDR4的2倍、深度學習效能為DDR4的5倍、AI性能提升7倍，支持AI、HPC和企業(yè)負載。

NAND部分，美光目前推出232層NAND，以穩(wěn)定在產(chǎn)品上應(yīng)用為主，并同步發(fā)展HBM3e甚至HBM4。美光表示，CXL也是未來相當重要的發(fā)展方向，目前推出的CZ120為存儲器擴充模組，可提供更多容量、頻寬和靈活配置，是較為前端的應(yīng)用，目前樣品已經(jīng)分享給合作伙伴。

晶心科提供客制化指令集工具ACE，增加設(shè)計彈性

晶心科技資深技術(shù)經(jīng)理胡鴻光指出，RISC-V具有模組化優(yōu)勢；開源架構(gòu)、沒有法律問題；可最少指令集進行設(shè)計，因此能做到非常精簡、有效率的狀態(tài)；具有客制化優(yōu)點，每個客戶能自己增加指令和自己的功能。RISC-V架構(gòu)可以用于數(shù)據(jù)中心、車用、移動設(shè)備等任何AI需求產(chǎn)品。

晶心科成立已經(jīng)有19年，在今年1月的SHD報告中，該公司在RISC-VIP供應(yīng)商中市占率高達30%，聯(lián)發(fā)科、聯(lián)詠、瑞薩、群聯(lián)等都有長期合作，另外一個主要大客戶是Meta。

胡鴻光認為Meta之所以選擇RISC-V，優(yōu)勢在于容易客制化、有極大彈性，而RISC-V新出的矢量指令集在做AI運算極具影響力，另外晶心科提供客制化指令集工具Andes Custom Extension（ACE），提供Meta增加私有客制指令介面與暫存器，可達成其需求。

TrendForce：AI服務(wù)器需求暢旺，出貨量年增近41%

最后針對AI服務(wù)器市況，TrendForce資深分析師龔明德指出，有幾大重點領(lǐng)域，主要拉貨領(lǐng)域包括北美CSP（云端服務(wù)供應(yīng)商），包括公有云、搜尋引擎、廣告推薦系統(tǒng)等。

今年服務(wù)器僅成長近2%，因為受到AI預(yù)算排擠，而AI服務(wù)器需求暢旺，出貨量可望達166萬臺，年增近41%。龔明德預(yù)期，今年第二季成長較明顯，因為Nvidia H100前導時間（leading time）縮短，逐季看好。

龔明德預(yù)期，Nvidia今年高端GPU出貨量將年增超過110%，到下半年產(chǎn)品品將過渡到H200，而B100將進入早期量產(chǎn)階段。至于AMD高端AI解決方案會主要面向CSP，搭載M1300 XAl芯片的Al服務(wù)器預(yù)計下半年將成主流，而第二供應(yīng)商的身份有望帶來AMD成長。

同時，CSP內(nèi)部開發(fā)的ASIC也將發(fā)揮關(guān)鍵作用。到了2024年，AWS將在下一代ASIC投入大量資源，Meta和中國大陸CSP亦是如此。CSP今年仍將是AI服務(wù)器主要成長動能，尤其北美四大CSP已經(jīng)占六成采購量，中國大陸自主芯片需求也會強勁。

最后針對Nvidia Blackwell平臺，龔明德認為這款產(chǎn)品主要面向CSP，并推動CoWoS和HBM出貨量在2025年實現(xiàn)雙高個位數(shù)成長。