全球首款12層堆疊HBM3E，開始量產(chǎn)了

最近，韓國 SK 海力士宣布，已開始量產(chǎn)全球首款 12 層 HBM3E 產(chǎn)品，容量為 36GB，這是迄今為止現(xiàn)有 HBM 的最大容量。

SK 海力士聲稱，12 層 HBM3E 產(chǎn)品在速度、容量和穩(wěn)定性方面均達到全球最高標準。該公司計劃在年內向客戶提供量產(chǎn)產(chǎn)品。

受此消息影響，SK 海力士股價周四在韓股市場上大漲。

SK 海力士率先實現(xiàn) 12 層 HBM 量產(chǎn)

今年 3 月，SK 海力士向客戶交付 8 層 HBM3E 產(chǎn)品，創(chuàng)下業(yè)界首位。時隔 6 個月后，SK 海力士再次業(yè)界首個實現(xiàn) 12 層 HBM3E 芯片量產(chǎn)，再次證明其技術優(yōu)勢。

SK 海力士是自 2013 年推出世界首款 HBM 以來，開發(fā)并供應從第一代 (HBM1) 到第五代 (HBM3E) 全部 HBM 系列的唯一企業(yè)。

如今，SK 海力士實現(xiàn)在業(yè)界率先量產(chǎn) 12 層 HBM3E 后，將滿足人工智能企業(yè)日益增長的需求，并繼續(xù)保持其在人工智能存儲器市場的領先地位。

SK 海力士總裁 Justin Kim 表示：「SK 海力士再次突破了 AI 內存領域的技術限制，展示了我們在 AI 內存領域的行業(yè)領先地位…為了克服人工智能時代的挑戰(zhàn)，我們將穩(wěn)步準備下一代內存產(chǎn)品，繼續(xù)保持全球第一的地位?！?/span>

速度、容量、穩(wěn)定性均達最高標準

據(jù)該公司介紹，12 層 HBM3E 產(chǎn)品在速度、容量、穩(wěn)定性等人工智能存儲器所必需的所有領域都符合世界最高標準。

SK 海力士將內存運行速度提高到 9.6 Gbps，這是目前可用的最高內存速度。如果大型語言模型 Llama 3 70b 由單個搭載 4 個 HBM3E 產(chǎn)品的 GPU 驅動，每秒可讀取總計 700 億個參數(shù) 35 次。

SK 海力士的 12 層產(chǎn)品和此前同等厚度的 8 層產(chǎn)品相比，容量增加了 50%。為了實現(xiàn)這一目標，該公司將每個 DRAM 芯片比以前薄 40%，并使用 TSV 技術垂直堆疊。

該公司還通過應用其核心技術 Advanced MR-MUF 工藝，解決了由于將更薄的芯片堆疊得更高而產(chǎn)生的結構問題。這使得新一代產(chǎn)品散熱性能比上一代產(chǎn)品高 10%，并通過增強翹曲控制來確保產(chǎn)品的穩(wěn)定性和可靠性。

三星進展如何？

HBM（高帶寬存儲器）是 GPU 的關鍵組件，有助于處理復雜應用程序產(chǎn)生的大量數(shù)據(jù)，芯片垂直堆疊技術可以在節(jié)省空間的同時降低功耗。

目前，HBM 的主要制造商只有三個——SK 海力士、美光科技和三星電子。其中，三星電子于今年 2 月首次推出了 HBM3E 12H。

三星 HBM3E 12H 支持全天候最高帶寬達 1280GB/s，產(chǎn)品容量也達到了 36GB。相比三星 8 層堆疊的 HBM3 8H，HBM3E 12H 在帶寬和容量上大幅提升超過 50%。

「當前行業(yè)的人工智能服務供應商越來越需要更高容量的 HBM，而我們的新產(chǎn)品 HBM3E 12H 正是為了滿足這種需求而設計的，」三星電子存儲器產(chǎn)品企劃團隊執(zhí)行副總裁 Yongcheol Bae 表示，「這一新的存儲解決方案是我們研發(fā)多層堆疊 HBM 核心技術以及在人工智能時代為高容量 HBM 市場提供技術領導力而努力的一部分?！?/span>

HBM3E 12H 采用了先進的熱壓非導電薄膜（TC NCF）技術，使得 12 層和 8 層堆疊產(chǎn)品的高度保持一致，以滿足當前 HBM 封裝的要求。因為行業(yè)正在尋找緩解薄片帶來的芯片彎曲問題，這項技術將在更高的堆疊中帶來更多益處。三星一直在努力降低其非導電薄膜（NCF）材料的厚度，并實現(xiàn)芯片之間的間隙最小化至 7 微米（μm），同時消除了層與層之間的空隙。這些努力使其 HBM3E 12H 產(chǎn)品的垂直密度比其 HBM3 8H 產(chǎn)品提高了 20% 以上。

三星先進的熱壓非導電薄膜（TC NCF）技術還通過允許在芯片之間使用不同尺寸的凸塊（bump）改善 HBM 的熱性能。在芯片鍵合（chip bonding）過程中，較小凸塊用于信號傳輸區(qū)域，而較大凸塊則放置在需要散熱的區(qū)域。這種方法有助于提高產(chǎn)品的良率。

隨著人工智能應用的指數(shù)級增長，HBM3E 12H 有望成為未來系統(tǒng)的優(yōu)選解決方案，滿足系統(tǒng)對更大存儲的需求。憑借超高性能和超大容量，HBM3E 12H 將幫助客戶更加靈活地管理資源，同時降低數(shù)據(jù)中心的總體擁有成本（TCO）。相比 HBM3 8H，HBM3E 12H 搭載于人工智能應用后，預計人工智能訓練平均速度可提升 34%，同時推理服務用戶數(shù)量也可增加超過 11.5 倍。

關于量產(chǎn)進度，三星表示已開始向客戶提供 HBM3E 12H 樣品，預計于今年下半年開始大規(guī)模量產(chǎn)。