新聞中心

EEPW首頁 > 智能計(jì)算 > 業(yè)界動(dòng)態(tài) > Rebellions尋求成為首家大規(guī)模生產(chǎn)人工智能芯片以支持語言模型的韓國初創(chuàng)企業(yè)

Rebellions尋求成為首家大規(guī)模生產(chǎn)人工智能芯片以支持語言模型的韓國初創(chuàng)企業(yè)

作者:EEPW 時(shí)間:2024-03-18 來源:EEPW 收藏

在位于首爾南部的一座辦公大樓里,一打芯片并排放在架子上,每個(gè)芯片旁邊都有自己的電風(fēng)扇來降溫。

本文引用地址:http://www.butianyuan.cn/article/202403/456443.htm

這些名為ATOM的芯片是韓國初創(chuàng)企業(yè)Rebellions開發(fā)的最新神經(jīng)處理單元(NPU),目標(biāo)是擁有多達(dá)70億個(gè)參數(shù)的人工智能模型。它們的性能正在進(jìn)行測(cè)試,并與同一樓層上另一個(gè)房間里的幾個(gè)Nvidia的A100 GPU進(jìn)行比較。

作為下一代人工智能芯片,NPU是針對(duì)同時(shí)進(jìn)行矩陣運(yùn)算進(jìn)行優(yōu)化的處理器,意味著它們?cè)谏疃葘W(xué)習(xí)方面比通用中央處理單元(CPU)和圖形處理單元(GPU)更進(jìn)一步。

2020年由五名韓國工程師共同創(chuàng)立的無晶圓廠人工智能芯片初創(chuàng)企業(yè)Rebellions被認(rèn)為是與Nvidia在該領(lǐng)域匹敵或競爭的最佳希望。

Rebellions首席執(zhí)行官兼聯(lián)合創(chuàng)始人樸成炫(Park Sung-hyun)在本周早些時(shí)候接受《韓國時(shí)報(bào)》采訪時(shí)表示,ATOM將于2024年上半年利用三星的5納米技術(shù)進(jìn)行大規(guī)模生產(chǎn),這將是韓國芯片工業(yè)的重要里程碑,因?yàn)锳TOM將是第一個(gè)在大規(guī)模生產(chǎn)水平上支持語言模型的國產(chǎn)芯片。

“我們?cè)?a class="contentlabel" href="http://www.butianyuan.cn/news/listbylabel/label/AI">AI推理方面比Nvidia的GPU更節(jié)能,”樸成炫說道,指的是通過訓(xùn)練后的人工智能模型運(yùn)行實(shí)時(shí)數(shù)據(jù)以進(jìn)行預(yù)測(cè)或解決任務(wù)的過程。他補(bǔ)充說,ATOM在語言模型推理基準(zhǔn)測(cè)試中的延遲只有Nvidia A2的一半,功耗效率是Nvidia A100的五倍。

從視覺上看,ATOM芯片只需要風(fēng)扇降溫,而Nvidia芯片需要在空調(diào)環(huán)境中運(yùn)行——這意味著更多的功耗和更高的運(yùn)營成本。

Rebellions的崛起正值全球半導(dǎo)體行業(yè)為芯片展開激烈競爭之際,這受到了open的ChatGPT的普及以及對(duì)Nvidia GPU的需求不斷增長的推動(dòng)。

韓國以其在內(nèi)存芯片制造業(yè)中的地位而聞名,正準(zhǔn)備在這個(gè)蓬勃發(fā)展的市場(chǎng)上獲得牢固的立足點(diǎn)。例如,三星電子正在與臺(tái)積電競爭AI芯片制造業(yè)的主導(dǎo)地位,而韓國政府則旨在到2030年將國內(nèi)數(shù)據(jù)中心中本地開發(fā)的AI芯片份額增加到80%。

Rebellions已經(jīng)獲得了韓國科技行業(yè)幾個(gè)最大公司的支持,包括三星、KT和Kakao。

今年1月,Rebellions完成了由KT領(lǐng)投的最新一輪融資,總額達(dá)到1.24億美元,迄今為止,KT在這家初創(chuàng)企業(yè)上已經(jīng)投資了超過5000萬美元。這將Rebellions的估值提高到6.5億美元,成為韓國資金最多的芯片初創(chuàng)企業(yè)。

樸表示,進(jìn)入大規(guī)模生產(chǎn)將對(duì)公司的收入產(chǎn)生重大推動(dòng),經(jīng)過多年的原型階段。根據(jù)樸的說法,KT,韓國第二大電信運(yùn)營商和韓國最大的數(shù)據(jù)中心公司,將成為Rebellions在開始大規(guī)模生產(chǎn)ATOM后的首個(gè)客戶。樸認(rèn)為,電信公司是AI芯片最理想的客戶。

“AI行業(yè)的未來將成為基礎(chǔ)設(shè)施游戲。電信公司愿意向建立數(shù)據(jù)中心投入大量資金,”他說道。

樸成炫還希望與韓國最大的數(shù)據(jù)中心公司的合作伙伴關(guān)系將成為其全球擴(kuò)張的參考,尤其是在美國市場(chǎng)。樸成炫表示,該公司已與一些美國主要的超大規(guī)模云服務(wù)提供商進(jìn)行了談判,例如IBM。

樸成炫于2014年從麻省理工學(xué)院獲得電氣工程和計(jì)算機(jī)科學(xué)博士學(xué)位,曾在美國芯片行業(yè)工作了六年,曾在三星的美國研究部門、英特爾和SpaceX工作過。

盡管在美國芯片行業(yè)有著豐富的經(jīng)驗(yàn),但樸成炫認(rèn)為在韓國創(chuàng)辦半導(dǎo)體公司有更好的機(jī)會(huì)?!霸诎雽?dǎo)體硬件生態(tài)系統(tǒng)中,亞洲將是下一個(gè)大事件,”他說道。“韓國和臺(tái)灣正在迎頭趕上?!?/p>

樸成炫于2020年回到祖國,并與另一位在美國具有行業(yè)背景的韓國人工智能芯片專家吳進(jìn)旭(Oh Jin-wook)以及其他聯(lián)合創(chuàng)始人一起創(chuàng)立了Rebellions。

對(duì)于樸成炫來說,這不是一個(gè)容易的決定,因?yàn)楫?dāng)時(shí)他在美國的行業(yè)網(wǎng)絡(luò)大部分在美國。Rebellions最初的團(tuán)隊(duì)成員包括來自IBM、英特爾和蘋果以及三星美國的人物。

現(xiàn)在,它擁有大約120名員工,其中近100名是工程師。隨著團(tuán)隊(duì)的擴(kuò)大,它吸引了本地背景的專家,其中來自韓國大型半導(dǎo)體公司的員工占據(jù)了近70%,根據(jù)樸的說法。

Rebellions在2021年推出了名為ION的第一款產(chǎn)品,使用臺(tái)積電制造的芯片,針對(duì)金融行業(yè)的AI任務(wù)。然后,該公司決定重新將重點(diǎn)放在AI模型的芯片上,因?yàn)榕c金融公司相比,數(shù)據(jù)中心公司的需求更高。

三星,韓國最大的芯片制造商,是Rebellions的ATOM的制造合作伙伴。去年10月,這兩家公司加深了他們的合作關(guān)系,宣布計(jì)劃在ATOM之后共同開發(fā)REBEL,這是該初創(chuàng)企業(yè)的下一代NPU,用于更大參數(shù)規(guī)模的LLMs,并與Nvidia的頂級(jí)GPU H200進(jìn)行比較。

樸成炫對(duì)REBEL寄予更大的希望,該芯片預(yù)計(jì)將在今年下半年完成開發(fā)并開始大規(guī)模生產(chǎn),采用三星的4納米制造工藝。

隨著生成式人工智能市場(chǎng)的不斷擴(kuò)大,樸成炫預(yù)計(jì)推理芯片的需求將成為一個(gè)關(guān)鍵增長點(diǎn)。

“AI訓(xùn)練流量取決于開發(fā)人員的數(shù)量,而AI推理流量隨著最終用戶的數(shù)量增加而增加,”樸成炫說道?!澳壳?,訓(xùn)練和推理市場(chǎng)幾乎占據(jù)一半,但未來推理流量將大幅增加。”

在兩年半的時(shí)間里,樸成炫看到了該公司在韓國LLM市場(chǎng)中的份額增長了30%,在推理任務(wù)方面占據(jù)了“至少3到5%”的份額。根據(jù)分析師的估計(jì),目前,據(jù)估計(jì),Nvidia在全球AI芯片市場(chǎng)的份額高達(dá)90%。



關(guān)鍵詞: AI

評(píng)論


相關(guān)推薦

技術(shù)專區(qū)

關(guān)閉