英偉達公開最快AI超級計算機Eos:集成了4608個H100!
2月17日消息,近日,英偉達(NVIDIA)首度對外公開了其最新的面向企業(yè)的AI超級計算機Eos,這是專為數(shù)據(jù)中心規(guī)模的高階AI開發(fā)所設計,也是英偉達目前速度最快的AI超級計算機。
據(jù)介紹,Eos配備了576個NVIDIA DGX H100系統(tǒng),每個系統(tǒng)搭載8個H100 GPU,即共計擁有4,608個Nvidia H100 GPU,同時還配備了1,152個英特爾Xeon Platinum 8480C處理器(每個CPU有56個內(nèi)核),使得Eos在HPC和AI的性能表現(xiàn)令人印象深刻。此外,Eos采用英偉達的Mellanox Quantum-2 InfiniBand技術,支持高達400 Gb/s數(shù)據(jù)傳輸速度,對訓練大型AI模型和系統(tǒng)擴展至關重要。
根據(jù)英偉達公布的數(shù)據(jù)顯示,在最新的Top500超級計算機當中,Eos的峰值性能達到了188.65 Peta FLOPS ,成為了全球第九大超級計算機。同時,Eos的FP64性能更是居于前列,達到了121.4 Peta FLOPS。Eos不僅供英偉達自身使用,其構架也為其他想打造面向企業(yè)的超級計算機的公司提供藍本。英偉達在視頻中表示:“EOS 每天都會迎接數(shù)千名英偉達內(nèi)部開發(fā)人員進行人工智能研究的挑戰(zhàn),幫助他們解決以前無法解決的問題?!?/p>
英偉達表示,除強大硬件,Eos專為AI開發(fā)和部署設計的強大軟件,包括協(xié)調(diào)和集群管理工具、加速運算存儲和網(wǎng)絡庫,以及優(yōu)化的操作系統(tǒng)。因此,Eos可應對從類似ChatGPT生成式AI到AI工廠等各種應用。
英偉達強調(diào),Eos整合了其在AI領域的專業(yè)技術和經(jīng)驗,是先前DGX超級計算機知識的結晶,可以幫助企業(yè)處理最具挑戰(zhàn)性的項目,并實現(xiàn)AI目標。
盡管Eos具體成本未公開,且Nvidia DGX H100系統(tǒng)定價是保密的,具體售價也取決于很多因素,但考慮到每個H100成本可能在3萬至4萬美元之間,因此整個系統(tǒng)成本可能非常高昂。
編輯:芯智訊-浪客劍
*博客內(nèi)容為網(wǎng)友個人發(fā)布,僅代表博主個人觀點,如有侵權請聯(lián)系工作人員刪除。