博客專欄

EEPW首頁 > 博客 > 1小時(shí)識別100億張圖像,每秒 80 億億次!「智算巨頭」亮相中國南京

1小時(shí)識別100億張圖像,每秒 80 億億次!「智算巨頭」亮相中國南京

發(fā)布人:傳感器技術(shù) 時(shí)間:2021-07-21 來源:工程師 發(fā)布文章
「智算中心新巨頭」露面!近日,南京智能計(jì)算中心正式投入運(yùn)營,其運(yùn)營系統(tǒng)的 AI 計(jì)算能力達(dá)每秒 80 億億次 (800P OpS),奪魁長三角當(dāng)前投運(yùn)的最高算力的智能計(jì)算中心。


算力yyds!
不久前,特斯拉自研超強(qiáng)計(jì)算機(jī)「Dojo」,總算力突破了1.8EFLOPS,馬斯克甚至豪言未來將取代日本「富岳」成全球第一。

更有全球最快AI計(jì)算集群也開動(dòng),每秒4百億億次超強(qiáng)算力!正拼接最大宇宙3D地圖。

以深度學(xué)習(xí)為代表的人工智能浪潮滾滾向前,在自動(dòng)駕駛、圖像識別、語音翻譯等領(lǐng)域都帶來了巨大變革。
隨著人工神經(jīng)網(wǎng)絡(luò)規(guī)模的不斷增大,數(shù)據(jù)無限的擴(kuò)大,傳統(tǒng)的計(jì)算力已經(jīng)越來越難以滿足未來人工智能對處理器計(jì)算性能的需求,提升計(jì)算處理器的運(yùn)算速度成為剛需。
7月16日,我國AI計(jì)算領(lǐng)域再次傳來捷報(bào),「神秘算力巨人」終于露面。
南京智能計(jì)算中心在南京市麒麟科技創(chuàng)新園落成并投入運(yùn)營,中心采用業(yè)界領(lǐng)先的人工智能芯片和算力機(jī)組構(gòu)建,已運(yùn)營系統(tǒng)的AI計(jì)算能力達(dá)每秒80億億次 (800P OpS)。

這也是長三角當(dāng)前投運(yùn)的最高算力的智能計(jì)算中心。
每秒80億億次!1小時(shí)完成100億張圖像識別

AI計(jì)算厲不厲害,計(jì)算能力來說話。
據(jù)報(bào)道,南京智能計(jì)算中心的AI計(jì)算能力達(dá)每秒80億億次 (800P OpS)。
什么是OPS?
OPS(Tera Operations Per Second)是處理器每秒鐘可進(jìn)行的操作次數(shù)。
那么800P OpS是個(gè)什么概念?
相當(dāng)于50-60萬臺(tái)個(gè)人電腦擺在一起同時(shí)計(jì)算才能達(dá)到的水平!

而這強(qiáng)大性能的背后,是人工智能芯片+算力機(jī)組的強(qiáng)強(qiáng)組合。
據(jù)報(bào)道,南京智能計(jì)算中心由南京市麒麟科技創(chuàng)新園攜手浪潮、寒武紀(jì)共同打造,采用獲得全球AI基準(zhǔn)測試冠軍的浪潮AI服務(wù)器算力機(jī)組,搭載領(lǐng)先的寒武紀(jì)思元270和思元290智能芯片及加速卡。
已投入運(yùn)營的AI算力規(guī)模,1小時(shí)可完成100億張圖像識別、300萬小時(shí)語音翻譯或1萬公里的自動(dòng)駕駛AI數(shù)據(jù)處理任務(wù)。

如此強(qiáng)大的算力服務(wù)是四個(gè)關(guān)鍵環(huán)節(jié)完成的:算力的生產(chǎn)、聚合、調(diào)度和釋放。

  • 生產(chǎn)算力層面:


智能計(jì)算中心在算力集群設(shè)計(jì)上兼顧考慮超大規(guī)模AI訓(xùn)練集群、和彈性擴(kuò)展的多任務(wù)推理、訓(xùn)練任務(wù)并發(fā)需求,通過NF5468AI服務(wù)器搭載寒武紀(jì)MLU270智能加速卡滿足AI訓(xùn)練和推理的彈性擴(kuò)展需求;同時(shí)采用寒武紀(jì)MLU290智能加速卡,提供芯片間高速互聯(lián)技術(shù) MLU-Link?,提供高達(dá)512TOPs INT8超強(qiáng)算力。構(gòu)建生產(chǎn)輸出強(qiáng)大、高效、易用的計(jì)算力。


  • 聚合算力層面:


基于智能網(wǎng)絡(luò)和智能存儲(chǔ)技術(shù),采用200G IB芯片間高速互聯(lián)網(wǎng)絡(luò),搭配全閃超高速存儲(chǔ)系統(tǒng)。面對海量文件IO處理,其通過構(gòu)建基于NVme的高性能存儲(chǔ)池進(jìn)行架構(gòu)優(yōu)化,達(dá)到對AI計(jì)算軟件棧深度優(yōu)化的目的。通過對所有推理節(jié)點(diǎn)進(jìn)行高帶寬低延遲的高速網(wǎng)絡(luò)優(yōu)化,實(shí)現(xiàn)了推理集群的大幅性能提升。


  • 調(diào)度算力層面:


基于智能網(wǎng)絡(luò)和智能存儲(chǔ)技通過AI算力調(diào)度平臺(tái),結(jié)合虛擬化、容器化等技術(shù),將算力資源池化為標(biāo)準(zhǔn)算力單元,通過適應(yīng)性策略及敏捷框架對算力進(jìn)行精準(zhǔn)調(diào)度配給,保障AI開發(fā)和AI業(yè)務(wù)的高效運(yùn)行。作為智能計(jì)算中心連接上層應(yīng)用與底層計(jì)算設(shè)備的核心能力,將聚合的CPU和寒武紀(jì)智能加速卡等算力資源進(jìn)行標(biāo)準(zhǔn)化和細(xì)粒度切分,滿足上層不同類型智能應(yīng)用對算力的多樣化需求,讓上層應(yīng)用更高效、更便捷地對算力資源進(jìn)行利用。


  • 釋放算力層面:


基于主流人工智能理論算法,采用全流程軟件工具,針對不同場景應(yīng)用需求,通過機(jī)器學(xué)習(xí)自動(dòng)化的先進(jìn)方法,產(chǎn)出高質(zhì)量的AI模型或AI服務(wù),提升AI應(yīng)用生產(chǎn)效率,促進(jìn)算力高效釋放轉(zhuǎn)化為生產(chǎn)力。


AI計(jì)算風(fēng)起云涌,四個(gè)關(guān)鍵環(huán)節(jié)迎接爆炸式增長的AI計(jì)算需求挑戰(zhàn)。

首個(gè)!長三角地區(qū)投運(yùn)智能計(jì)算中心

南京智能計(jì)算中心在運(yùn)營模式上采用「一中心、一底座、N平臺(tái)」。
簡單來說,即一個(gè)算力支撐中心、一個(gè)PAAS生態(tài)拓展底座;N個(gè)應(yīng)用平臺(tái),重點(diǎn)支撐科技金融、智能制造、智慧零售、智慧醫(yī)療、智慧交通等領(lǐng)域應(yīng)用創(chuàng)新。
那么,這個(gè)智算中心誰在用?
作為長三角地區(qū)目前投入運(yùn)營的規(guī)模最大的智能計(jì)算中心,智慧醫(yī)療、交通、金融都成為了它的「粉絲」。依托南京智能計(jì)算中心,以「基礎(chǔ)設(shè)施+框架+算法」為底層基礎(chǔ)、以AI模型生成和多場景應(yīng)用的AI技術(shù)生態(tài)鏈正在逐漸形成。


恰逢今年剛剛升級的「元腦生態(tài)2.0」的誕生。未來,元腦生態(tài)中的4000多家人工智能合作伙伴,將依托南京智能計(jì)算中心,形成有效的生態(tài)匯聚,共同孵化落地更多高質(zhì)量的創(chuàng)新成果和行業(yè)應(yīng)用。
同時(shí),南京也在不斷積聚人工智能研發(fā)優(yōu)勢,相繼與清華大學(xué)、南京大學(xué)、斯坦福大學(xué)等國際知名高校院所合作,共建以人工智能為主攻方向的新型研發(fā)機(jī)構(gòu)21家,集聚人工智能研發(fā)人員5000余人,引育人工智能領(lǐng)軍人才超過50名。
「智算」新基建,給AI提供馬達(dá)

為什么「智算」如此重要?
讓我們先從算力與經(jīng)濟(jì)的關(guān)系談起。
今年2月,浪潮信息聯(lián)合國際權(quán)威機(jī)構(gòu)IDC發(fā)布的《2020全球計(jì)算力指數(shù)評估報(bào)告》顯示,計(jì)算力與經(jīng)濟(jì)增長緊密相關(guān),計(jì)算力指數(shù)平均每提高1個(gè)點(diǎn),數(shù)字經(jīng)濟(jì)和GDP將分別增長3.3‰和1.8‰。
《報(bào)告》同時(shí)指出,自動(dòng)駕駛、機(jī)器人、內(nèi)容推薦等綜合場景的算力需求也相對較高,平均算力值將達(dá)到146P OPS左右。
這些都對算力提出了更高的要求,而算力也已成為制約AI產(chǎn)業(yè)化進(jìn)一步發(fā)展的關(guān)鍵。
而據(jù)另一份來自IDC與浪潮聯(lián)合發(fā)布的《2020-2021中國人工智能計(jì)算力發(fā)展評估報(bào)告》,2020年AI城市TOP5依次為北京、深圳、杭州、上海、重慶。
可以看出,長三角地區(qū)也是中國AI算力發(fā)展領(lǐng)先區(qū)域。
作為中國最早的服務(wù)器廠商,浪潮也在AI時(shí)代扮演著算力供給的領(lǐng)先者。
多年來,浪潮服務(wù)器為AI訓(xùn)練、推理或混合型人工智能計(jì)算加速任務(wù)提供超強(qiáng)AI算力支撐,且多次打破AI基準(zhǔn)測試記錄。在剛剛出爐的MLPerf V1.0 AI訓(xùn)練性能成績榜單中,浪潮更是在單機(jī)封閉任務(wù)賽道中表現(xiàn)出色,在8項(xiàng)模型訓(xùn)練任務(wù)中斬獲半數(shù)冠軍。
2020年4月,浪潮曾提出「智算中心」,即「智能計(jì)算中心」,這是以為代表的算力基礎(chǔ)設(shè)施首次被國家發(fā)改委明確新型基礎(chǔ)設(shè)施的范圍。
簡單來說,智算中心是智慧時(shí)代最主要的計(jì)算力生產(chǎn)中心和供應(yīng)中心之一,它以融合架構(gòu)計(jì)算系統(tǒng)為平臺(tái),以數(shù)據(jù)為資源,能夠以強(qiáng)大算力驅(qū)動(dòng)AI模型來對數(shù)據(jù)進(jìn)行深度加工,是專門為智能化應(yīng)用設(shè)計(jì)的數(shù)據(jù)中心。
作為長三角地區(qū)目前投入運(yùn)營的規(guī)模最大的智能計(jì)算中心,南京智能計(jì)算中心將以服務(wù)形式高效、普惠地提供智慧計(jì)算服務(wù),以強(qiáng)勁智算力助力長三角地區(qū)的算力樞紐節(jié)點(diǎn)建設(shè),賦能長三角人工智能產(chǎn)業(yè)集群、營造協(xié)同化的智能生態(tài)環(huán)境、建設(shè)世界級人工智能應(yīng)用場景。
展望未來,AI算力是未來投資的主要方向,并且這個(gè)方向已經(jīng)從純感知的訓(xùn)練,圖像識別,視頻識別,語音識別,轉(zhuǎn)向了對語意理解,純感知到感知以后的推理分析。
目前,南京智能計(jì)算中心的算力平臺(tái)也已助力多個(gè)項(xiàng)目成功開展。
例如,中科院計(jì)算所利用其開展了蛋白質(zhì)結(jié)構(gòu)預(yù)測的AI推斷服務(wù),唯仁科技、南棲仙策、南京圖泰等企業(yè)已基于南京智能計(jì)算中心在智慧醫(yī)療、智能車聯(lián)網(wǎng)、智能制造、自動(dòng)駕駛等領(lǐng)域開展AI模型的訓(xùn)練推理任務(wù)研究,以實(shí)現(xiàn)多場景、多領(lǐng)域的廣泛應(yīng)用服務(wù)。
「智算」新基建,給AI提供馬達(dá),南京智能計(jì)算中心已經(jīng)開始行動(dòng)了。
來源:新智元


*博客內(nèi)容為網(wǎng)友個(gè)人發(fā)布,僅代表博主個(gè)人觀點(diǎn),如有侵權(quán)請聯(lián)系工作人員刪除。



關(guān)鍵詞: 圖像識別

相關(guān)推薦

技術(shù)專區(qū)

關(guān)閉