生成式AI引爆算力需求 小芯片設(shè)計(jì)將是最佳解方

生成式AI是當(dāng)前半導(dǎo)體產(chǎn)業(yè)最重要的成長(zhǎng)驅(qū)力，不僅帶動(dòng)先進(jìn)制程持續(xù)下探，同時(shí)也刺激新的半導(dǎo)體架構(gòu)設(shè)計(jì)加速發(fā)展，其中，小芯片（Chiplet）就是最受期待的一項(xiàng)。工研院電光系統(tǒng)所異質(zhì)整合技術(shù)組組長(zhǎng)王欽宏剖析在生成式AI應(yīng)用如何引領(lǐng)小芯片技術(shù)發(fā)展，而小芯片設(shè)計(jì)又將面臨哪些挑戰(zhàn)？
王欽宏組長(zhǎng)表示，人工智能技術(shù)（AI）將從1.0進(jìn)入2.0的時(shí)代。而所謂的AI 2.0是處理超級(jí)海量級(jí)的數(shù)據(jù)，且無(wú)須人工標(biāo)注，而其數(shù)據(jù)模型能處理跨領(lǐng)域的知識(shí)，應(yīng)對(duì)的任務(wù)更是五花八門。目前的大語(yǔ)言模型（LLM）和ChatGPT應(yīng)用便是AI 2.0的起點(diǎn)，而這將會(huì)帶起硬件朝向更高算力、更大帶寬，同時(shí)也更加省電的方向發(fā)展。
但要滿足生成式AI的算力需求，運(yùn)算芯片的設(shè)計(jì)也必須要同步升級(jí)才行，包含多核心架構(gòu)、更小的微縮、以及先進(jìn)封裝等。然而先進(jìn)制程芯片的開發(fā)成本十分高昂，另一方面，高算力芯片的面積也較大，良率的考驗(yàn)也更加嚴(yán)峻，對(duì)整體的制造成本更是不友善，因此多數(shù)的芯片公司都難以負(fù)擔(dān)。
此時(shí)，能提供SoC-like的小芯片設(shè)計(jì)就會(huì)是極佳的解方。王欽宏指出，Chiplet是運(yùn)用先進(jìn)封裝技術(shù)讓多個(gè)小芯片形成SoC-like架構(gòu)，能夠?qū)⒉煌δ艿男⌒酒ㄟ^(guò)先進(jìn)封裝技術(shù)整合于單一基板上。
王欽宏表示，采用小芯片設(shè)計(jì)能帶來(lái)數(shù)項(xiàng)優(yōu)勢(shì)，例如良率的優(yōu)勢(shì)（縮小芯片的體積，降低不良率）、設(shè)計(jì)成本的優(yōu)勢(shì)（運(yùn)用成熟制程實(shí)現(xiàn)）、提早進(jìn)入市場(chǎng)的優(yōu)勢(shì)（小芯片可重復(fù)使用，無(wú)須重頭開發(fā)，能縮短進(jìn)入市場(chǎng)的時(shí)程）。

小芯片內(nèi)部互連是設(shè)計(jì)樞紐 UCIe最受青睞
由于小芯片需要仰賴先進(jìn)封裝技術(shù)來(lái)實(shí)現(xiàn)，因此內(nèi)部不同芯片的擺放與互連的方案就是關(guān)鍵所在。目前小芯片的堆棧架構(gòu)有2D、2.5D和3D等形式，由于各個(gè)小芯片的制程與效能不同，因此其間的擺放位置將會(huì)影響后續(xù)的布線與連接的方式，對(duì)于成本與良率也會(huì)產(chǎn)生不同的結(jié)果。
至于小芯片內(nèi)部的布線和I/O互連規(guī)范，目前則是處于尚未統(tǒng)一的局面，也是產(chǎn)業(yè)最需要突破的瓶頸。不過(guò)王欽宏看好則UCIe未來(lái)的發(fā)展地位，最主要的原因就是當(dāng)前市場(chǎng)半導(dǎo)體領(lǐng)導(dǎo)業(yè)者幾乎都支持這個(gè)規(guī)范。
王欽宏指出，目前UCIe 1.0規(guī)范可支持標(biāo)準(zhǔn)的2D和先進(jìn)的2.5D芯片封裝。在標(biāo)準(zhǔn)封裝方面，它具有較佳的成本的效益，同時(shí)也能達(dá)成較長(zhǎng)的距離；在先進(jìn)封裝方面，則有較佳的節(jié)能表現(xiàn)，以及較高的帶寬密度。此外，小芯片可以在任何地方制造，任何地方組裝，并在同一封裝中混合2D和2.5D的架構(gòu)。
至于小芯片的應(yīng)用與市場(chǎng)，王欽宏則持非常樂(lè)觀的看法，他表示，Chiplet市場(chǎng)將會(huì)呈現(xiàn)快速成長(zhǎng)的趨勢(shì)，至2030年，全球整體的市場(chǎng)將會(huì)達(dá)到9千4百2十億美元的規(guī)模。至于應(yīng)用方面，則會(huì)以服務(wù)器與AI為主，占整體的規(guī)模約45%，其次為汽車和網(wǎng)通。領(lǐng)導(dǎo)的市場(chǎng)業(yè)者分別是英特爾、AMD、蘋果、亞馬遜和特斯拉，中國(guó)則有壁仞科技。
最后，王欽宏也特別提出硅光子技術(shù)在小芯片設(shè)計(jì)上的創(chuàng)新機(jī)會(huì)，他指出，光電整合架構(gòu)將能大幅提升AI芯片的效能，而共同光學(xué)封裝（Co optics Packaged）則是創(chuàng)新Chiplet模塊的挑戰(zhàn)。