Extropic將推出全新超導(dǎo)AI芯片,號(hào)稱性能比GPU高幾個(gè)數(shù)量級(jí)!
3月20日消息,致力于開發(fā)和制造超導(dǎo)人工智能處理器的初創(chuàng)公司——Extropic最近完成了 1410 萬美元的種子輪融資。Extropic聲稱,其將實(shí)現(xiàn)創(chuàng)建 AI 加速器的目標(biāo),“其速度比數(shù)字處理器(CPU/GPU/TPU/FPGA)快很多數(shù)量級(jí),而且能效更高。”
Extropic 認(rèn)為,當(dāng)前可用的數(shù)字處理器不太適合人工智能加速。其在一篇論文當(dāng)中介紹了一種新穎的概率計(jì)算范式,據(jù)說這種計(jì)算范式遠(yuǎn)離了日益復(fù)雜的原始數(shù)字計(jì)算機(jī)。Extropic正在通過將 基于能量的模型(EBM),直接實(shí)現(xiàn)為參數(shù)化隨機(jī)模擬電路來提升效率,并釋放生成式 AI 的全部潛力。在基于復(fù)雜景觀采樣的算法的運(yùn)行時(shí)間和能源效率方面,Extropic 加速器將比數(shù)字計(jì)算機(jī)實(shí)現(xiàn)多個(gè)數(shù)量級(jí)的改進(jìn)。
據(jù)介紹,Extropic 的首款處理器采用納米鋁制成,可在超導(dǎo)的低溫下運(yùn)行。其中一些神經(jīng)元類似于現(xiàn)有的超導(dǎo)通量量子位,這些神經(jīng)元提供了基本的構(gòu)建塊,組合起來形成更大的超導(dǎo)系統(tǒng)。在這樣一個(gè)更大的系統(tǒng)中,許多線性和非線性神經(jīng)元組合在一起,創(chuàng)建了一個(gè)從豐富且高維分布中采樣的電路。
△Extropic 芯片的顯微鏡圖像。插圖顯示了兩個(gè)約瑟夫森結(jié),它們是為處理器提供臨界非線性的器件。
Extropic 的超導(dǎo)芯片完全是無源的,這意味著我們僅在測量或操縱其狀態(tài)時(shí)消耗能量。這可能使這些神經(jīng)元成為宇宙中最節(jié)能的神經(jīng)元。這些系統(tǒng)將在規(guī)模上實(shí)現(xiàn)高度節(jié)能:Extropic 的目標(biāo)是使用這些系統(tǒng)的小批量、高價(jià)值客戶,例如政府、銀行和私有云。
Extropic 還在制造可在室溫下運(yùn)行的半導(dǎo)體器件,以將其的業(yè)務(wù)范圍擴(kuò)展到更大的市場。這些器件將約瑟夫森結(jié)換成了晶體管。與超導(dǎo)設(shè)備相比,這樣做會(huì)犧牲一些能源效率。作為交換,它允許人們使用標(biāo)準(zhǔn)制造流程和供應(yīng)鏈來構(gòu)建它們,從而實(shí)現(xiàn)大規(guī)模生產(chǎn)。由于它們?cè)谑覝叵逻\(yùn)行,因此可以將它們封裝到類似 GPU 的擴(kuò)展卡外形中。這將使我們能夠在每個(gè)家庭中放置一個(gè) Extropic 加速器,使每個(gè)人都能參與熱力學(xué) AI 加速。
為了支持廣泛的硬件底層,Extropic 還構(gòu)建了一個(gè)軟件層,可將 EBM 的抽象規(guī)范編譯為相關(guān)的硬件控制語言。該編譯層建立在因子圖的理論框架之上。因子圖指定了多大的分布分解為局部塊。這使得 Extropic 加速器能夠分解并運(yùn)行太大而無法適應(yīng)任何給定模擬核心的程序。
之前很多AI加速器公司都因?yàn)樯疃葘W(xué)習(xí)的內(nèi)存限制而苦苦尋找優(yōu)勢;今天的算法花費(fèi)大約 25% 的時(shí)間在內(nèi)存中移動(dòng)數(shù)據(jù)。因此,根據(jù)阿姆達(dá)爾定律,任何加速特定運(yùn)算(例如矩陣乘法)的芯片都很難實(shí)現(xiàn) 4 倍以上的加速。由于 Extropic 芯片通過物理運(yùn)行作為一個(gè)快速且節(jié)能的過程來原生地加速廣泛的概率算法,這將解鎖一個(gè)全新的人工智能加速機(jī)制,遠(yuǎn)遠(yuǎn)超出以前認(rèn)為可以實(shí)現(xiàn)的水平。
據(jù)了解,Extropic 公司由其首席執(zhí)行官 Guillaume Verdon 于 2022 年創(chuàng)立。在創(chuàng)立 Extropic 之前,Guillaume 是 Alphabet X 物理與人工智能團(tuán)隊(duì)的量子技術(shù)負(fù)責(zé)人。他開創(chuàng)了多種量子技術(shù),在感知、通信和表示學(xué)習(xí)等領(lǐng)域具有廣泛的應(yīng)用。Guillaume 被認(rèn)為是量子深度學(xué)習(xí)領(lǐng)域的先驅(qū),在滑鐵盧大學(xué)攻讀博士學(xué)位期間創(chuàng)立了后來的 Google TensorFlow Quantum 項(xiàng)目,并最終加入了 Google Quantum AI。他擁有更廣泛的理論物理和信息論背景,擁有周界研究所和量子計(jì)算研究所的碩士學(xué)位。
Extropic 首席技術(shù)官 Trevor McCourt 原本是一名機(jī)械工程師,他在滑鐵盧大學(xué)加入 TensorFlow Quantum 項(xiàng)目創(chuàng)始團(tuán)隊(duì)時(shí)第一次見到了 Guillaume。他們兩人密切合作,開創(chuàng)了從零到一的可微分量子編程軟件。隨后,Trevor 回到硬件工程領(lǐng)域,在 Google Quantum AI 開發(fā)尖端設(shè)備和控制技術(shù)。最終,特雷弗尋求在自組織物理系統(tǒng)中尋找意義,并在麻省理工學(xué)院攻讀博士學(xué)位,研究噪聲在計(jì)算和生命系統(tǒng)中的作用。
Christopher Chamberland,Extropic 首席架構(gòu)師,被廣泛認(rèn)為是最杰出的量子計(jì)算機(jī)架構(gòu)師之一。在領(lǐng)導(dǎo)了 AWS 和 IBM Quantum 定義核心量子架構(gòu)和路線圖之后,他決定離開量子計(jì)算領(lǐng)域,轉(zhuǎn)而領(lǐng)導(dǎo) Extropic 的架構(gòu)工作。在加入 AWS 和 IBM 之前,Christopher 曾在 Microsoft Quantum 工作,并獲得了滑鐵盧大學(xué)量子計(jì)算研究所的博士學(xué)位。
Extropic 公司更廣泛的團(tuán)隊(duì)由一組主要具有物理和人工智能背景的科學(xué)家和工程師組成,他們之前曾在 AWS、Meta、IBM、Nvidia、Xanadu 和許多世界頂級(jí)學(xué)術(shù)機(jī)構(gòu)工作過。這個(gè)高度跨學(xué)科的團(tuán)隊(duì)在基于物理的人工智能領(lǐng)域擁有豐富的經(jīng)驗(yàn),具有獨(dú)特的優(yōu)勢,能夠開創(chuàng) Extropic 追求的物理和人工智能統(tǒng)一方法。
編輯:芯智訊-林子
*博客內(nèi)容為網(wǎng)友個(gè)人發(fā)布,僅代表博主個(gè)人觀點(diǎn),如有侵權(quán)請(qǐng)聯(lián)系工作人員刪除。