英偉達(dá)H100交貨時(shí)間從4個(gè)月降至8-12周

據(jù)Digitimes報(bào)道，戴爾臺(tái)灣地區(qū)總經(jīng)理Terence Liao報(bào)告稱，英偉達(dá)（Nvidia）H100 AI GPU的交付周期在過(guò)去幾個(gè)月中已從3-4個(gè)月縮短到僅2-3個(gè)月（8-12周）。服務(wù)器 ODM 顯示，與 2023 年相比，供應(yīng)終于有所緩解，當(dāng)時(shí)幾乎不可能獲得 Nvidia 的 H100 GPU。

盡管交貨時(shí)間縮短，但Terence Liao表示，對(duì)具有人工智能功能的硬件的需求仍然非常高。具體來(lái)說(shuō)，人工智能服務(wù)器的購(gòu)買正在取代企業(yè)中的通用服務(wù)器購(gòu)買，盡管人工智能服務(wù)器的成本非常高。但是，他認(rèn)為采購(gòu)時(shí)間是造成這種情況的唯一原因。

2-3 個(gè)月的交付窗口是 Nvidia H100 GPU 的最短交貨時(shí)間。就在6個(gè)月前，交貨時(shí)間達(dá)到了 11 個(gè)月，這意味著英偉達(dá)的大多數(shù)客戶不得不等待一年才能完成他們的 AI GPU 訂單。

進(jìn)入2024年以來(lái)，交貨時(shí)間顯著縮短。首先，我們看到今年早些時(shí)候大幅減少到 3-4 個(gè)月?，F(xiàn)在，交貨時(shí)間又縮短了一個(gè)月。按照這個(gè)速度，我們可以看到交貨時(shí)間在年底或更早之前完全消失。

這種行為可能是一些公司擁有過(guò)剩的 H100 GPU并轉(zhuǎn)售部分供應(yīng)以抵消未使用庫(kù)存的高昂維護(hù)成本的連鎖反應(yīng)的結(jié)果。此外，AWS 使通過(guò)云租用 Nvidia H100 GPU變得更加容易，這也有助于緩解部分 H100 需求。

唯一在供應(yīng)限制中苦苦掙扎的英偉達(dá)客戶是像OpenAI這樣的大公司，它們正在開(kāi)發(fā)自己的LLM。這些公司需要數(shù)以萬(wàn)計(jì)的 GPU 來(lái)快速有效地訓(xùn)練他們的 LLM。

好消息是，這應(yīng)該不會(huì)成為長(zhǎng)期的問(wèn)題。如果交貨時(shí)間繼續(xù)呈指數(shù)級(jí)縮短，就像過(guò)去4個(gè)月一樣，英偉達(dá)最大的客戶應(yīng)該能夠獲得他們需要的所有GPU，至少在理論上是這樣。

CoWoS封裝產(chǎn)能是關(guān)鍵

交貨時(shí)間縮短，表明臺(tái)積電擴(kuò)增的CoWoS封裝產(chǎn)能開(kāi)始釋放。據(jù)悉，臺(tái)積電要在2024年底前將相關(guān)產(chǎn)能從2023年中的水平增加一倍，從目前的情況來(lái)看，臺(tái)積電及其合作伙伴的CoWoS產(chǎn)能擴(kuò)增進(jìn)展快于預(yù)期，使得以H100為代表的高性能GPU交貨時(shí)間大幅縮短。

產(chǎn)業(yè)人士分析，從2023年7月到年底，臺(tái)積電積極調(diào)整CoWoS封裝產(chǎn)能，已逐步擴(kuò)充并穩(wěn)定量產(chǎn)，去年12月，臺(tái)積電CoWoS月產(chǎn)能增加到1.4萬(wàn)~1.5萬(wàn)片。

雖然臺(tái)積電在積極擴(kuò)產(chǎn)，但只有這一家的產(chǎn)能還是無(wú)法滿足市場(chǎng)需求，因此，英偉達(dá)已經(jīng)在2023年向臺(tái)積電以外的專業(yè)封測(cè)代工廠（OSAT）尋求幫助，主要包括日月光和安靠（Amkor），其中，安靠在2023年第四季度已開(kāi)始提供相關(guān)產(chǎn)能，日月光投控旗下矽品也于2024年第一季度開(kāi)始供應(yīng)CoWoS封裝產(chǎn)能。

2024年，AI芯片用先進(jìn)封裝產(chǎn)能依然會(huì)供不應(yīng)求，包括臺(tái)積電、日月光、安靠、力成、京元電在內(nèi)的專業(yè)封測(cè)代工廠，將會(huì)在今年擴(kuò)大資本支出，以布局先進(jìn)封裝產(chǎn)能。

根據(jù)臺(tái)積電的擴(kuò)產(chǎn)節(jié)奏，預(yù)計(jì)到今年第四季度，該晶圓代工龍頭的CoWoS月產(chǎn)能將大幅擴(kuò)充到3.3萬(wàn)~3.5萬(wàn)片。

今年，日月光的資本支出規(guī)模將同比增長(zhǎng)40%~50%，其中，65%的投資用于封裝，特別是先進(jìn)封裝項(xiàng)目。日月光投控營(yíng)運(yùn)長(zhǎng)吳田玉表示，今年的先進(jìn)封裝與測(cè)試營(yíng)收占比會(huì)更高，AI相關(guān)先進(jìn)封裝收入將翻倍，今年相關(guān)營(yíng)收至少增加2.5億美元。力成也在擴(kuò)大先進(jìn)封裝產(chǎn)能，該公司董事長(zhǎng)蔡篤恭表示，下半年將積極擴(kuò)大資本支出，規(guī)模有望達(dá)到100億元新臺(tái)幣。力成主要布局扇出型基板封裝（fan out on substrate）技術(shù)，整合ASIC和HBM先進(jìn)封裝，在AI用HBM內(nèi)存方面，力成有望在今年第四季度量產(chǎn)相關(guān)產(chǎn)品。為滿足CoWoS封裝后的晶圓測(cè)試需求，今年，京元電相關(guān)晶圓測(cè)試產(chǎn)能將擴(kuò)充兩倍。

H100轉(zhuǎn)售潮

隨著交貨周期的縮短，一些之前囤積了H100的公司開(kāi)始考慮轉(zhuǎn)售其過(guò)剩的庫(kù)存。這一現(xiàn)象在AWS、谷歌云和微軟Azure等大型云服務(wù)提供商的影響下尤為明顯。這些公司提供了便捷的芯片租賃服務(wù)，使得用戶無(wú)需大量購(gòu)買和囤積硬件，從而降低了成本并提高了靈活性。

盡管H100的可用性有所改善，但AI芯片的需求仍然旺盛，尤其是在訓(xùn)練大型語(yǔ)言模型（LLM）的領(lǐng)域。

英偉達(dá)作為全球領(lǐng)先的GPU制造商，在AI芯片市場(chǎng)占有重要地位。然而，隨著AMD、Intel等公司在AI芯片領(lǐng)域的不斷投入和發(fā)展，市場(chǎng)競(jìng)爭(zhēng)愈發(fā)激烈。

隨著AI技術(shù)的廣泛應(yīng)用，AI芯片市場(chǎng)正迎來(lái)快速增長(zhǎng)期。盡管AI芯片供應(yīng)問(wèn)題有所緩解，但市場(chǎng)需求仍然旺盛，市場(chǎng)競(jìng)爭(zhēng)依然激烈。英偉達(dá)等公司在擴(kuò)大生產(chǎn)規(guī)模、提高供應(yīng)鏈效率的同時(shí)，也需要關(guān)注競(jìng)爭(zhēng)對(duì)手的動(dòng)態(tài)和市場(chǎng)變化，以應(yīng)對(duì)未來(lái)可能出現(xiàn)的挑戰(zhàn)和機(jī)遇。