新聞中心

EEPW首頁(yè) > 智能計(jì)算 > 業(yè)界動(dòng)態(tài) > xAI將建造一臺(tái)非常強(qiáng)大的超級(jí)計(jì)算機(jī)來(lái)處理下一版Grok

xAI將建造一臺(tái)非常強(qiáng)大的超級(jí)計(jì)算機(jī)來(lái)處理下一版Grok

作者: 時(shí)間:2024-05-27 來(lái)源:cnBeta.COM 收藏

埃隆-馬斯克(Elon Musk)告訴投資者,他的眾多公司之一 希望建造一臺(tái),為下一版的 提供動(dòng)力。報(bào)道稱(chēng), 可能會(huì)與公司合作開(kāi)發(fā),并在 2025 年底前準(zhǔn)備就緒。它顯然將使用大量(NVIDIA)的 H100 GPU,集群規(guī)模是目前最大集群的四倍。

本文引用地址:http://butianyuan.cn/article/202405/459201.htm

這位億萬(wàn)富翁今年早些時(shí)候表示, 2 需要 2 萬(wàn)個(gè) H100 GPU 才能完成訓(xùn)練,而即將推出的 模型將需要超過(guò) 10 萬(wàn)個(gè) H100 GPU。通過(guò)建造這臺(tái)被稱(chēng)為"計(jì)算機(jī)千兆工廠"的(以千兆工廠命名),或許能夠開(kāi)發(fā)出更先進(jìn)的語(yǔ)言模型。

隨著領(lǐng)域占據(jù)主導(dǎo)地位,你很可能還沒(méi)有嘗試過(guò)或聽(tīng)說(shuō)過(guò) Grok。它可以在 x.com 上使用,但需要用戶付費(fèi)訂閱。與其他模式相比,Grok 的一大優(yōu)勢(shì)是它可以直接訪問(wèn) X 上的所有帖子,馬斯克一直說(shuō) X 是新聞媒體的替代品。

馬斯克曾經(jīng)參與過(guò) 的工作,直到他與公司負(fù)責(zé)人山姆-阿爾特曼(Sam Altman)在公司發(fā)展方向上產(chǎn)生分歧。與 對(duì) 的細(xì)節(jié)守口如瓶不同,xAI 最近開(kāi)源了 Grok-1 的權(quán)重和架構(gòu)。

如果 xAI 真的實(shí)施這些計(jì)劃,那么NVIDIA 將成為主要受益者,因?yàn)樗鼘?duì) H100 GPU 的需求將會(huì)增加。此舉對(duì)整個(gè)領(lǐng)域也有好處,因?yàn)樗鼘⑵仁蛊渌荆ㄈ?OpenAI 和Google)進(jìn)一步創(chuàng)新其模式,以保持領(lǐng)先地位。

不幸的是,所有這些額外的計(jì)算能力都需要以大量的某種能源供電,因此,希望馬斯克能找到一種使用可再生能源的方法,并將用水量控制在最低水平。



評(píng)論


相關(guān)推薦

技術(shù)專(zhuān)區(qū)

關(guān)閉