博客專欄

EEPW首頁 > 博客 > 一半功耗,六倍算力提升:墨芯聯(lián)手浪潮開拓稀疏化計(jì)算生態(tài)

一半功耗,六倍算力提升:墨芯聯(lián)手浪潮開拓稀疏化計(jì)算生態(tài)

發(fā)布人:機(jī)器之心 時間:2022-06-16 來源:工程師 發(fā)布文章
6 月 13 日,墨芯人工智能與浪潮簽訂元腦戰(zhàn)略合作協(xié)議。這是在浪潮戰(zhàn)略投資墨芯之后,雙方的進(jìn)一步戰(zhàn)略合作。


墨芯將攜手浪潮信息,以領(lǐng)先的稀疏化計(jì)算技術(shù)和產(chǎn)品,廣闊的生態(tài)潛能,融合資源與算法,共創(chuàng)全棧 AI 解決方案,為各行各業(yè) AI 應(yīng)用提供強(qiáng)大算力引擎和生態(tài)支撐,為企業(yè)降本增效,并加速產(chǎn)業(yè)的人工智能化進(jìn)程。

AI 計(jì)算的新銳勢力——稀疏化計(jì)算
墨芯人工智能科技創(chuàng)立于 2018 年,總部位于深圳,致力于通過稀疏化算法構(gòu)建高性能低 TCO(總擁有成本)的 AI 算力,其產(chǎn)品主要是用于云端和終端的 AI 加速器方案,可廣泛應(yīng)用于互聯(lián)網(wǎng)、運(yùn)營商、生物醫(yī)****等數(shù)據(jù)中心 AI 推理場景,并積極致力于稀疏化生態(tài)建設(shè)。今年 1 月,墨芯剛剛完成數(shù)億元 A 輪融資。
在 AI 時代算力需求呈指數(shù)級劇增、傳統(tǒng)摩爾定律面臨失效的背景下,稀疏化計(jì)算是突破 AI 芯片算力瓶頸的創(chuàng)新方向之一。當(dāng)前,谷歌、OpenAI、Meta 等 AI 巨頭紛紛布局稀疏化計(jì)算。墨芯人工智能作為專注于稀疏化技術(shù)的先入局者,已經(jīng)建立起全球領(lǐng)先的稀疏化核心技術(shù)以及產(chǎn)業(yè)化優(yōu)勢。
在機(jī)器學(xué)習(xí)領(lǐng)域中,稀疏化是一種高效的數(shù)據(jù)處理和模型壓縮方式。它從人類大腦得到靈感,讓神經(jīng)網(wǎng)絡(luò)在計(jì)算時僅啟用所需神經(jīng)元。稀疏化計(jì)算的技術(shù)原理是指在原有AI計(jì)算的大量矩陣運(yùn)算中,將含有零元素或無效元素剔除,以加快計(jì)算速度。它在需要海量數(shù)據(jù)處理的 AI 加速計(jì)算中優(yōu)勢尤為突出,能讓算力超越極限,讓企業(yè)得以完成復(fù)雜的 AI 任務(wù),同時能為企業(yè)顯著降低能耗和成本。
為領(lǐng)先 AI 生態(tài)賦能
浪潮信息是 AI 服務(wù)器的領(lǐng)導(dǎo)廠商,「浪潮元腦」是為應(yīng)對產(chǎn)業(yè) AI 化的挑戰(zhàn)、加速產(chǎn)業(yè) AI 化的發(fā)展進(jìn)程,與合作伙伴共同構(gòu)建的 AI 生態(tài)體系,其成立于 2019 年,包含人工智能基礎(chǔ)設(shè)施、深度學(xué)習(xí)框架與工具等產(chǎn)品,為人工智能提供生態(tài)支撐。
本次合作是墨芯所代表的新一代 AI 計(jì)算技術(shù),與浪潮代表的 AI 先進(jìn)生態(tài)的強(qiáng)勢聯(lián)合,有望打造面向未來的「高算力+強(qiáng)生態(tài)」的產(chǎn)業(yè)新實(shí)踐。
元腦生態(tài)的生態(tài)伙伴分為兩類:左手伙伴即技術(shù)型伙伴,右手伙伴即戰(zhàn)略型伙伴、能力型伙伴,分別代表先進(jìn)優(yōu)化的 AI 開發(fā)能力,和實(shí)際可操作的優(yōu)秀 AI 落地部署能力。墨芯作為左手伙伴加入元腦生態(tài),將有力增強(qiáng)元腦的 AI 算力底座,為右手伙伴推動更多創(chuàng)新 AI 應(yīng)用場景的實(shí)現(xiàn),為 AI 生態(tài)的發(fā)展帶來更多元的機(jī)會。
浪潮元腦負(fù)責(zé)人張強(qiáng)表示:如果說「元腦生態(tài) 1.0」是為人工智能而生,「元腦生態(tài) 2.0」就是為了智算而生,為千行百業(yè)而生。我們會特別看重左手伙伴的技術(shù)支撐實(shí)力,稀疏化計(jì)算產(chǎn)品以其高算力、高精度、低功耗、低 TCO(Total Cost of Ownership)的優(yōu)勢讓我們眼前一亮。他還表示,迄今為止,我們看到墨芯 SparseOne?? S100 計(jì)算卡在浪潮內(nèi)部測試中表現(xiàn)突出,讓我們對稀疏化計(jì)算推動商業(yè)賦能的技術(shù)實(shí)力深具信心,并充滿期待。
產(chǎn)業(yè)化提速稀疏化計(jì)算釋放積極生態(tài)力量
墨芯一直在積極推進(jìn)基于稀疏化算法及架構(gòu)的 AI 芯片及計(jì)算卡的產(chǎn)業(yè)化進(jìn)程。2021 年 12 月 31 日,墨芯首顆芯片 Antoum?? 順利回片,第一次上電即點(diǎn)亮,僅用 24 小時就跑通主流 AI 模型 ResNet50。 

圖片


墨芯人工智能 SparseOne? S100 計(jì)算卡基于 Antoum?? 芯片,專注為數(shù)據(jù)中心 AI 推理應(yīng)用。實(shí)測數(shù)據(jù)顯示,S100 計(jì)算卡的性能領(lǐng)先行業(yè),如 ResNet50 計(jì)算速度高達(dá) 33197 FPS,BERT 計(jì)算速度達(dá)到 7832 SPS——與國際頭部廠商同類產(chǎn)品相比,S100 計(jì)算卡在滿足精度要求的同時,僅以一半的功耗,便可帶來 6 倍算力提升。

圖片


墨芯表示,S100 可廣泛應(yīng)用于互聯(lián)網(wǎng)、運(yùn)營商、生物醫(yī)****等眾多 AI 推理場景。
墨芯 SparseRT?? 軟件開發(fā)環(huán)境為快速開發(fā)提供了完整的可擴(kuò)展平臺并激活稀疏計(jì)算的潛力。SparseRT?? 可以高效支持通用的 AI 編程框架,如 TensorFlow、PyTorch、ONNX 和 MXNet 等。用戶可以在熟悉的 TensorFlow 或 PyTorch 環(huán)境里進(jìn)行開發(fā)之后再進(jìn)行遷移與交付。
據(jù)介紹,在未來合作中墨芯人工智能將針對大模型、智慧醫(yī)療等的解決方案上架元腦生態(tài)平臺 AIStore,并聯(lián)合浪潮,探索稀疏化計(jì)算賦能各行各業(yè)的更多可能,助力浪潮元腦 AI 集成、部署和服務(wù)能力,幫助用戶完成業(yè)務(wù)智能轉(zhuǎn)型升級,攜手步入智算生態(tài)新時代。
墨芯人工智能創(chuàng)始人兼 CEO 王維表示,稀疏化計(jì)算產(chǎn)品可以提供理想的 AI 算力,它滿足人類 AI 前沿技術(shù)的計(jì)算需求,高效而又環(huán)保地驅(qū)動 AI 世界,同時能以極低的遷移成本,一鍵式地將稀疏計(jì)算功能添加到現(xiàn)有的計(jì)算設(shè)施中,在算力、成本和能耗上給 AI 世界帶來驚喜。同時,稀疏化蘊(yùn)含廣闊的生態(tài)發(fā)展?jié)摿?,墨芯將?gòu)建涵蓋軟件、硬件、應(yīng)用的 AI 計(jì)算平臺,與研究人員、開發(fā)者、軟件開發(fā)商等合作伙伴一起,為各行各業(yè)用戶提供高性能 AI 計(jì)算服務(wù),共同構(gòu)筑場景豐富、生機(jī)勃勃的稀疏化生態(tài)。



*博客內(nèi)容為網(wǎng)友個人發(fā)布,僅代表博主個人觀點(diǎn),如有侵權(quán)請聯(lián)系工作人員刪除。



關(guān)鍵詞: 算法

相關(guān)推薦

技術(shù)專區(qū)

關(guān)閉