Graphcore首次發(fā)布大型IPU產(chǎn)品,為超級(jí)計(jì)算機(jī)領(lǐng)域提供超強(qiáng)AI算力
Graphcore近日宣布發(fā)布最新產(chǎn)品IPU-POD128和IPU-POD256。IPU-POD128和IPU-POD256是Graphcore迄今為止發(fā)布的最大型的產(chǎn)品,分別能夠提供32 petaFLOPS和64 petaFLOPS的AI計(jì)算。IPU-POD128和IPU-POD256的發(fā)布意味著Graphcore進(jìn)一步擴(kuò)展了其在超級(jí)計(jì)算機(jī)領(lǐng)域的業(yè)務(wù)范圍,將為超級(jí)計(jì)算機(jī)領(lǐng)域提供超強(qiáng)AI算力。
本文引用地址:http://butianyuan.cn/article/202110/428998.htmIPU-POD128和IPU-POD256的發(fā)布進(jìn)一步兌現(xiàn)了Graphcore在AI旅程的每個(gè)階段為客戶提供服務(wù)的承諾。IPU-POD16仍然是理想的探索平臺(tái),IPU-POD64適用于想要建立AI計(jì)算的客戶,而IPU-POD128和IPU-POD256適合需要實(shí)現(xiàn)進(jìn)一步快速增長(zhǎng)的客戶,可以在整個(gè)系統(tǒng)中更快地訓(xùn)練基于Transformer的大型語(yǔ)言模型,在生產(chǎn)中運(yùn)行大規(guī)模商業(yè)AI推理應(yīng)用程序,通過(guò)將系統(tǒng)劃分為更小、更靈活的vPOD,為更多開發(fā)人員提供IPU訪問(wèn)權(quán)限,或者通過(guò)在整個(gè)系統(tǒng)中探索GPT和GNN等新興模型來(lái)實(shí)現(xiàn)科學(xué)突破,是云超大規(guī)模企業(yè)(Cloud Hyperscaler)、國(guó)家科學(xué)計(jì)算實(shí)驗(yàn)室以及在金融服務(wù)或制藥等市場(chǎng)擁有大型AI團(tuán)隊(duì)的企業(yè)的理想之選。
首批部署IPU-POD128的客戶包括韓國(guó)科技巨頭Korea Telecom(KT)。為了不斷滿足日益增長(zhǎng)的超大規(guī)模AI HPC環(huán)境市場(chǎng)需求,KT正與Graphcore合作,將其所擁有的IPU-POD64升級(jí)為IPU-POD128,以增加為客戶所提供的“超大規(guī)模AI服務(wù)”。
KT云/數(shù)字體驗(yàn)業(yè)務(wù)部高級(jí)副總裁Mihee Lee表示:“通過(guò)此次升級(jí),預(yù)計(jì)我們的AI計(jì)算規(guī)模將增加至32 petaFLOPS的AI計(jì)算,使更多元的客戶能夠使用KT的先進(jìn)AI計(jì)算技術(shù)進(jìn)行大規(guī)模AI模型訓(xùn)練和推理。”
與其他IPU-POD系統(tǒng)一樣,AI計(jì)算和服務(wù)器的解聚意味著IPU-POD128和IPU-POD256可以在優(yōu)化后,為不同的AI工作負(fù)載提供最大性能,實(shí)現(xiàn)最佳總體擁有成本(TCO)。例如一個(gè)以自然語(yǔ)言處理(NLP)為主的系統(tǒng)可以只使用2臺(tái)服務(wù)器;而更多的數(shù)據(jù)密集型任務(wù),例如計(jì)算機(jī)視覺(jué)任務(wù)等可以使用8臺(tái)服務(wù)器。此外,系統(tǒng)存儲(chǔ)可以使用來(lái)自Graphcore最近公布的存儲(chǔ)合作伙伴所提供的技術(shù),圍繞特定的AI工作負(fù)載進(jìn)行優(yōu)化。
廣泛使用的語(yǔ)言和視覺(jué)模型的結(jié)果顯示,IPU-POD128和IPU-POD256具有極為出色的訓(xùn)練性能和高效的擴(kuò)展能力,隨著未來(lái)軟件的優(yōu)化,這兩大產(chǎn)品有望進(jìn)一步提高性能。
將Graphcore計(jì)算擴(kuò)展到IPU-POD128和IPU-POD256需要大量使能技術(shù)支持,其中既包括硬件技術(shù)也包括軟件技術(shù)。Graphcore將攜手合作伙伴為全球客戶部署IPU-POD256和IPU-POD128,客戶可以從云端或Atos等Graphcore的合作伙伴處獲取IPU-POD256和IPU-POD128。
Atos集團(tuán)高級(jí)副總裁兼HPC和Quantum主管Agnès Boudot表示:“我們十分高興能將IPU-POD128和IPU-POD256加入到我們的Atos ThinkAI產(chǎn)品組合中,使我們的客戶能夠在眾多領(lǐng)域更快探索和部署更大、更具創(chuàng)新性的AI模型。”
評(píng)論