芯片推動人工智能熱潮，韓國企業(yè)紛紛入局

爆發(fā)式的人工智能熱潮同樣也在半導(dǎo)體行業(yè)引起轟動。英偉達(dá)是最大的贏家，其 GPU 對于訓(xùn)練高級人工智能系統(tǒng)變得至關(guān)重要。韓國企業(yè)也是看中了這一點，三星電子和 SK 海力士專為諸如英偉達(dá)的 GPU 等量身定制高端內(nèi)存芯片。

三星電子計劃擴大其高帶寬內(nèi)存（HBM）芯片的生產(chǎn)，預(yù)估明年產(chǎn)量擴大至今年的兩倍半。SK 海力士明年也將增加設(shè)備投資，擴大 HBM 芯片生產(chǎn)。SK 海力士將在其現(xiàn)有的清州工廠增加一條 HBM 芯片所必需的封裝生產(chǎn)線。

HBM 是一種高端動態(tài)隨機存取存儲器（DRAM）芯片，采用堆疊技術(shù)，能夠比普通芯片更快地處理數(shù)據(jù)，并具有更高的能源效率。隨著大型科技公司熱衷于升級迭代其生成式人工智能工具，這些工具需要低功耗高效處理大量數(shù)據(jù)，HBM 銷售炙手可熱。

三星電子和 SK 海力士控制著超過 90% 的高端 DRAM 芯片市場。兩家公司表示，它們明年的 HBM 產(chǎn)能已被預(yù)訂完畢。2025 年的談判已經(jīng)開始了。HBM 的價格平均比普通 DRAM 芯片高出五至六倍，過去它在 DRAM 市場中所占份額僅為個位數(shù)，但其份額可能會大幅增加?；ㄆ旒瘓F的芯片分析師 Peter Lee 預(yù)計，HBM 的市場份額將增長 11%，并在 2027 年達(dá)到 30%。

內(nèi)存芯片不再是一般商品

長期以來，內(nèi)存芯片一直被視為一般商品，可以在各種應(yīng)用中使用，無需進(jìn)行復(fù)雜或定制化的加工。因此，生產(chǎn)商必須嚴(yán)格依賴規(guī)模經(jīng)濟來實現(xiàn)盈利，并且受市場波動的影響較大。然而，情況不再如此。隨著 HBM 制造變得更加復(fù)雜，技術(shù)化差異開始顯現(xiàn)，使得存儲具有更多的定制化可能性。

SK 海力士的 HBM3E 芯片 來源：SK 海力士

目前，SK 海力士是 HBM 市場的頭號玩家。根據(jù)集邦咨詢（TrendForce）的數(shù)據(jù)顯示，SK 海力士占據(jù) HBM 市場 50% 份額。SK 海力士的 HBM 芯片通過 MR-MUF 技術(shù)脫穎而出，使用液化填料粘合和保護(hù)連接每個堆疊晶圓的電路。MR-MUF 技術(shù)以提高能效而聞名。與常見的 NCF 封裝相比，NCF 封裝使用晶圓隔離墊，隨后必須被熔化，很難將熱量均勻傳遞給每個晶圓，收益率低。

SK 海力士將利用 MR-MUF 技術(shù)生產(chǎn)最新的 HBM3E 芯片，目前這些芯片尚未進(jìn)行大規(guī)模生產(chǎn)。從 8 月開始，SK 海力士將向包括英偉達(dá)在內(nèi)的客戶提供樣品。

「直到現(xiàn)在，被視為大宗商品的內(nèi)存芯片一直專注于誰能做得更小并且堆疊層數(shù)更多，」SK 海力士 CEO 說道，「隨著人工智能時代的到來，客戶的服務(wù)多樣化，對內(nèi)存芯片的需求也有了各種規(guī)格。因此，內(nèi)存芯片在某些方面正在演變成在某些方面強大的定制產(chǎn)品。」

三星電子正在發(fā)展「處理內(nèi)存」（process-in-memory）技術(shù)，即在內(nèi)存芯片內(nèi)部集成邏輯單元，使得數(shù)據(jù)處理可以在內(nèi)存內(nèi)部完成，從而減少了數(shù)據(jù)傳輸量和能耗，并提高了處理效率。三星電子是在 2021 年首個開發(fā)該項技術(shù)的公司。

在今年的 Hot Chips 論壇，三星透露了一項和 AMD 合作完成的研究結(jié)果，其技術(shù)將使普通 HBM 的能效和性能達(dá)到翻倍以上。具體來說，三星將其 HBM-PIM 與 AMD 的 MI-100 GPU 加速器進(jìn)行了整合。

三星電子負(fù)責(zé) DRAM 業(yè)務(wù)的執(zhí)行副總裁 Hwang Sang-joon 表示：「HBM-PIM 通過在 DRAM 內(nèi)部嵌入數(shù)據(jù)計算功能，解決了內(nèi)存帶寬瓶頸問題，性能提升了 12 倍。一些特定功能，例如如語音識別，能效提高了四倍?！?/span>

新的合作伙伴關(guān)系即將到來

三星電子的代工業(yè)務(wù)吸引了一些正在跟隨人工智能熱潮的新客戶。其位于德克薩斯州泰勒的制造工廠目前正在建設(shè)中，今年早些時候確定了首位客戶——硅谷人工智能初創(chuàng)公司 Groq。使用三星的 4 納米技術(shù)制造的人工智能芯片將在該工廠于明年底前完成生產(chǎn)。

此外，三星最近與由半導(dǎo)體專家吉姆·凱勒領(lǐng)導(dǎo)的加拿大的新興人工智能芯片設(shè)計公司 Tenstorrent 建立了額外的合作伙伴關(guān)系。

三星電子 HBM3E 芯片 來源：三星

加拿大人工智能芯片設(shè)計公司 Tenstorrent 正在與韓國的人工智能芯片制造商 Rebellions 和 DeepX 合作。三星正在充分利用其半導(dǎo)體實力，同時經(jīng)營內(nèi)存芯片和代工業(yè)務(wù)。

自今年初以來，三星一直在提供所謂的「Package Turn Key」服務(wù)。三星充當(dāng)一站式服務(wù)站，既代工處理器又將其與自己的內(nèi)存（包括 DRAM）封裝在一起，以節(jié)省時間和金錢。這種產(chǎn)品是為吸引尋求高性能半導(dǎo)體來支持其人工智能工具的大型科技公司而做出的努力。目前，三星是唯一能夠同時制造邏輯芯片和內(nèi)存芯片并對它們進(jìn)行封裝的公司。

人工智能芯片已成為重要議題

考慮到人工智能及其所需的先進(jìn)芯片需要巨額投資和基礎(chǔ)設(shè)施支持，政府的態(tài)度至關(guān)重要。

韓國政府計劃投資 8262 億韓元（約合 6.31 億美元），希望到 2030 年在韓國塑造一個以本土高端人工智能芯片為核心的人工智能生態(tài)系統(tǒng)。

「人工智能將對半導(dǎo)體、數(shù)據(jù)和平臺服務(wù)乃至安全產(chǎn)生重大影響?！鬼n國總統(tǒng)在九月份的一次政府間會議上表示。他說：「政府支持應(yīng)該起到催化作用，以促進(jìn)企業(yè)投資和創(chuàng)新。」

政府的中心倡議項目命名為「K-Cloud」。參與者包括人工智能芯片設(shè)計公司、云計算公司、學(xué)術(shù)專家和科學(xué)技術(shù)部，將花費約 1000 億韓元用于到 2025 年開發(fā)用于人工智能數(shù)據(jù)中心的神經(jīng)處理單元（NPU）。

K-Cloud 項目旨在建立基于新的 NPU 的數(shù)據(jù)中心集群，提供 39.9 petaflops 的人工智能計算能力，其中公共部門和私營部門分別提供 19.95 petaflops。1 petaflop 每秒執(zhí)行一千萬億（即一萬億億，或 10 的 15 次方）次計算。

在第二階段，該項目計劃在 2028 年基于 DRAM 技術(shù)創(chuàng)建一種低功耗的內(nèi)存內(nèi)處理（PIM）芯片。PIM 芯片整合了存儲和處理功能，以減少延遲并解決馮·諾伊曼瓶頸問題。

最后階段將在 2030 年之前，升級基于非易失性存儲器和超低能耗的 PIM 芯片。

根據(jù)市場跟蹤機構(gòu) Gartner 的預(yù)測，全球人工智能芯片市場預(yù)計到 2026 年將達(dá)到 861 億美元，每年增長 16%。

數(shù)據(jù)中心加入 AI 熱潮

另一個預(yù)計從人工智能技術(shù)中獲益的行業(yè)是數(shù)據(jù)中心。新冠疫情期間，數(shù)據(jù)中心和云計算的需求增加，生成式人工智能受到廣泛關(guān)注。公司將需要計算資源來訓(xùn)練自己的大型語言模型，因此預(yù)計這一趨勢將進(jìn)一步擴大。

韓國三家移動運營商——SK Telecom、KT 和 LG Uplus——在全國范圍內(nèi)共擁有 31 個數(shù)據(jù)中心，其中 18 個位于首爾。根據(jù)元大證券（Yuanta Securities）的報告，這三家公司占據(jù)了總數(shù)據(jù)中心容量的 93%。

「從 2028 年開始，互聯(lián)網(wǎng)數(shù)據(jù)中心市場將轉(zhuǎn)向以供應(yīng)商為導(dǎo)向的模式?！乖笞C券分析師 Lee Seung-woong 表示：「到 2030 年，數(shù)據(jù)中心的需求可能會增加 1088 億韓元，而同期供應(yīng)可能僅增加 609 億韓元。由于在短期內(nèi)供應(yīng)很難超過需求，數(shù)據(jù)中心可能會在中長期內(nèi)提升電信公司的盈利能力?！?/span>

在韓國國內(nèi)擴大規(guī)模之后，SK Telecom 和 KT 計劃將它們的數(shù)據(jù)中心基礎(chǔ)設(shè)施出口海外，首選東南亞地區(qū)。

上個月，一場介紹其人工智能戰(zhàn)略的新聞發(fā)布會上，SK Telecom 的 CEO Ryu Young-sang 表示，該公司計劃將其數(shù)據(jù)中心的國內(nèi)容量增加一倍以上（從 1 億韓元增加到 2.07 億韓元），并與外國云服務(wù)提供商合作，將其基礎(chǔ)設(shè)施擴展到海外。

KT 旗下的云計算子公司 KT Cloud 于 5 月從當(dāng)?shù)厮侥脊蓹?quán)公司 IMM Credit & Solutions 獲得了 6000 億韓元的資金，用于擴大其基礎(chǔ)設(shè)施云和數(shù)據(jù)中心基礎(chǔ)設(shè)施。預(yù)計到 2026 年，其年收入將達(dá)到 2 萬億韓元。