全球首個光子AI芯片原型發(fā)布

近日，AI芯片初創(chuàng)公司Lightelligence對外發(fā)布了世界第一款光子芯片原型板卡(Prototype)，團隊在這個原型產(chǎn)品上成功用光子芯片運行了Google Tensorflow自帶的卷積神經(jīng)網(wǎng)絡(luò)模型來處理MNIST數(shù)據(jù)集。測試中，整個模型超過95%的運算是在光子芯片上完成的，其測試結(jié)果顯示，光子芯片處理的準確率已經(jīng)接近電子芯片(97%以上)。該公司已經(jīng)與谷歌、FaceBook、AWS、BAT級別客戶進行了接洽。

對于這家成立一年半的公司，這款芯片原型的誕生，驗證了團隊部分成員在2017年發(fā)表在NaturePhotonics期刊上的開創(chuàng)性想法——用光子代替電子來進行AI計算。但是在那個時候，他們在實驗室開發(fā)的整個光子計算系統(tǒng)占據(jù)了半個實驗室。

在視頻演示中，團隊在這個原型產(chǎn)品上成功用光子芯片運行了GoogleTensorflow自帶的卷積神經(jīng)網(wǎng)絡(luò)模型來處理MNIST數(shù)據(jù)集。這是一個使用計算機視覺識別手寫數(shù)字的基準機器學習模型，也是機器學習中最著名的基準數(shù)據(jù)集之一。測試中，整個模型超過95%的運算是在光子芯片上完成的處理，測試結(jié)果顯示，光子芯片處理的準確率已經(jīng)接近電子芯片（97%以上），另外光子芯片完成矩陣乘法所用的時間是最先進的電子芯片的1/100以內(nèi)。

LightelligenceCEO沈亦晨對DeepTech表示，公司計劃將該光子芯片提供給一些合作方、潛在客戶進行測試，目前國外已經(jīng)有谷歌、FaceBook、AWS級別，國內(nèi)BAT級別的客戶與Lightelligence接洽。

他透露，盡管這款芯片還不是公司真正意義上的第一款商業(yè)化產(chǎn)品，在性能上也還有很大的提升空間，但卻是對團隊開發(fā)完整光子AI芯片系統(tǒng)可行性的一個重要驗證。

沈亦晨表示，在接下來的幾十年中，對于AI算法尤其是機器學習算法的計算需求仍將大幅增加，但與此同時，我們回過頭看過去幾年計算硬件的發(fā)展，其演進速度正變得越來越慢，“從光子學的角度來看，我意識到，對于一些最基本的算法以及機器學習任務(wù)來說，光子可能是最佳的計算平臺。在我的博士生涯中，我用一個項目簡單地證明了這個概念性質(zhì)的設(shè)想，現(xiàn)在，Lightelligence的成立正在將這個設(shè)想從學術(shù)研究帶到真實世界”。

“我們從硬件到軟件做出了一套可以運行的系統(tǒng)，原則上，它可以運行任何神經(jīng)網(wǎng)絡(luò)系統(tǒng)，它也是就我們所知世界上第一臺完全獨立的光學計算AI加速器（standaloneopticalAIaccelerator）。Lightelligence現(xiàn)在發(fā)布這款芯片原型想傳達的另一個信息是，光學計算不再是一個“ScienceProject”，而是一個已經(jīng)接近于產(chǎn)品化的技術(shù)”，他說。

光學計算并不是一個全新的概念。

作為一種完全不同于電子計算的技術(shù)，光學計算以光子為信息處理載體，依賴光硬件而非電子硬件，以光運算代替電運算，擅長快速并行處理高度復雜的計算任務(wù)，但它一直沒找到合適的應(yīng)用場景，且受限于傳統(tǒng)分離式光學器件光場調(diào)控手段單一、光學設(shè)計體積龐大的缺點，光學計算一直都停留在實驗室階段。

近幾年，電子計算愈發(fā)受制于摩爾定律，信息技術(shù)載體的存儲密度與運算速度的提升愈發(fā)力不從心，讓一部分人將目光從“電”轉(zhuǎn)向了速度更快、能耗更低的“光”。

尤其是基于人工神經(jīng)網(wǎng)絡(luò)算法的深度學習系統(tǒng)的流行。不同于通用芯片所運行的邏輯運算，深度學習系統(tǒng)的大部分時間都花在低精度的矩陣乘法運算上，而密集的矩陣乘法運算，正是人工智能算法中最耗時間和功率的。

目前AI加速芯片都是基于電子運算的，但在結(jié)合電子計算所有前沿技術(shù)的基礎(chǔ)上，光子芯片可以來執(zhí)行AI計算里最重要的兩個步驟：內(nèi)存到計算單元的數(shù)據(jù)傳輸以及矩陣運算本身。這兩個方面光子芯片具有獨特優(yōu)勢。

由此，光子AI芯片的概念應(yīng)運而生，利用光子來做矩陣乘法運算，在功耗降低和速度提升上前景可期，很可能帶來光學計算有史以來最大的機會。

Lightelligence成立的目的，就是從光子芯片這個全新的角度來切入AI加速。

“對產(chǎn)業(yè)界來說，這可能開啟了一個全新的方向，而且它的發(fā)展速度遠遠高于電子運算?！鄙蛞喑空f。

2016年，沈亦晨還在MIT做博士后，他所在的研究團隊打造了首個光學計算系統(tǒng)。該成果于2017年以封面文章的形式發(fā)表在頂級期刊NaturePhotonics雜志上，其基于硬件和算法有著雙重創(chuàng)新：在硬件上，光干涉儀作為基本的矩陣運算單元有效取代了傳統(tǒng)電子晶體管；在算法上，團隊開發(fā)了一系列在不犧牲性能條件下有效降低深度學習計算量、并適應(yīng)于光子芯片的算法。

當時，國際著名光學科學家、斯坦福大學終身正教授DavidMiller，曾專門在Nature雜志上撰文評價沈亦晨團隊的光學AI芯片的研究成果，稱“這一系列的研究成果極大地推動了集成光學在未來取代傳統(tǒng)電子計算芯片的發(fā)展?！?/p>

那篇論文可以說在全球范圍內(nèi)啟發(fā)更多人投入到光子AI芯片的開發(fā)中，帶來這一成果的MIT團隊已經(jīng)誕生出Lightelligence和LightMatter兩家公司。

現(xiàn)在，Lightelligence團隊正在全力研發(fā)光子芯片的相關(guān)技術(shù)，包含芯片設(shè)計、核心算法、傳輸、周邊等，欲打造一個完整的光學計算生態(tài)。全球包括Lightelligence在內(nèi)也已經(jīng)有5~6個團隊正在進行相關(guān)的研發(fā)及商業(yè)化，其中還不乏中國團隊。盡管各家公司的目標都不盡相同，從已經(jīng)公布的產(chǎn)品進度來看，作為全球首個光子AI芯片的公司，Lightelligence仍將是最值得關(guān)注的公司之一。

以Lightelligence此次發(fā)布的芯片原型為例，和2017年的首個光學計算系統(tǒng)相比，其最大的改進就體現(xiàn)在計算效率的提升、軟件環(huán)境和集成程度的成熟上。

Lightelligence團隊本身擁有一系列獨立自主知識產(chǎn)權(quán)，包括光學器件設(shè)計、光學系統(tǒng)集成和深度學習算法的核心技術(shù)，在設(shè)計這款芯片的過程中，團隊在這幾個方面的技術(shù)儲備得到了驗證。

在開發(fā)的過程中，提升運算速度和改善尺寸的工作是交叉進行的。據(jù)沈亦晨介紹，原來實驗室版本的機器集成度比較低，它的控制單元沒有集成在板卡上?，F(xiàn)在這款芯片原型的集成度大大提高，隨著集成程度的提高，運算速度也大大提升。

而且開發(fā)上的主要任務(wù)不只是集成度方面的工作，還包括高速信號的控制。對于光子計算機來說，其中比較重要也比較難的一點就是，當信號傳輸速度很快的時候，如何讓信號達到比較精確的強度。

最終，團隊用了近一年半的時間打造出了這款尺寸與指甲蓋差不多、封裝了光纖的芯片原型。這在光學計算領(lǐng)域也是前所未有的。

而除了前文提到的MNIST圖像識別任務(wù)以外，這款芯片原型還可以運行其他的計算任務(wù)，團隊同時也提供軟件支持，與谷歌的Tensorflow，F(xiàn)acebook的Caffe2和Pytorch常用框架中的算法兼容。

沈亦晨表示：“團隊希望任何通用的基于線性運算的算法都可以在光子AI芯片上運行，Lightelligence生產(chǎn)的是一款通用的AI芯片，同時我們也會自研更適合在光子芯片上運算的算法，后期我們會發(fā)布相關(guān)的算法上的進展?！?/p>

未來，光子AI芯片的發(fā)展能否引領(lǐng)算法開發(fā)上加大矩陣計算比重的“硬件定義軟件”風潮，亦值得觀察。

3年內(nèi)推出第一款量產(chǎn)產(chǎn)品，面向服務(wù)器

目前，Lightelligence成立已經(jīng)一年半時間，團隊的技術(shù)進展并不完全體現(xiàn)在這次發(fā)布的芯片原型里，沈亦晨說，其實團隊早在半年以前就已經(jīng)著手開發(fā)下一代芯片了，“我們的下一款芯片將會在性能上徹底顛覆現(xiàn)有的電子同類產(chǎn)品”。

基于光子AI芯片速度快、損耗少、算力高、成本低的這些特點，很多面臨性能瓶頸的深度學習場景將是這款產(chǎn)品大展身手的方向。因此，在應(yīng)用場景上，沈亦晨設(shè)想Lightelligence的第一款產(chǎn)品將面向服務(wù)器和自動駕駛。

“第一款光子AI芯片的產(chǎn)品定位不是低端市場，我們的競爭力不是價格和尺寸大小，而是同一塊板卡的性能，針對這個優(yōu)勢我們的應(yīng)用場景確定為以上兩個市場?！鄙蛞喑空f。他曾提到，電子芯片的生態(tài)鏈條非常完善，整個產(chǎn)業(yè)已經(jīng)達到數(shù)以十億、百億計的規(guī)模。和電子芯片的完善的生態(tài)鏈條不同，光子芯片還在剛剛起步的階段，這也決定了其產(chǎn)品可能沒辦法短期內(nèi)進入到輕量級、個人級的應(yīng)用中。

未來的汽車工業(yè)很可能是光子AI芯片的最重要市場之一，例如，以Lidar技術(shù)所需要的大量光源和光探測器來說，光子AI芯片有望提供一個低成本、低功耗的解決方案。不過，自動駕駛的市場仍比較小，Lightelligence仍會先從服務(wù)器市場切入，然后過渡到自動駕駛中。

現(xiàn)在，在融資上，Lightelligence已于2017年底獲得包括百度風投和真格基金在內(nèi)的超過1000萬美元的風險投資，團隊規(guī)模也從最初麻省理工學院出來的三人團隊發(fā)展到了二十多人全職團隊，成員背景包括麻省理工學院、哥倫比亞大學、佐治亞理工大學、北京大學和加州大學伯克利分校等。團隊也吸引了很多業(yè)界專業(yè)人士加入，最引人注目的恐怕就是GilbertHendry和MauriceSteinman了。

GilbertHendry博士畢業(yè)于哥倫比亞大學，曾在谷歌和微軟工作過5年，并且主持開發(fā)過多款機器學習產(chǎn)品，現(xiàn)在是Lightelligence的軟件部負責人及機器學習首席工程師。MauriceSteinman是Lightelligence的工程副總裁，加入Lightelligence之前曾任AMD首席芯片架構(gòu)師，并主持開發(fā)了AMD用于高通量信息傳輸?shù)钠炫灝a(chǎn)品infinityfabric，有超過30年的豐富的半導體行業(yè)經(jīng)驗。

但必須承認，光子AI芯片整體依然仍處于非常早期的階段，光子AI芯片公司面臨的落地風險和技術(shù)挑戰(zhàn)并不比其他AI芯片公司的小。但是，人類在追求更高程度的機器智能過程中，對芯片計算能力的需求只會不斷增加，光子AI芯片有希望能夠彌補電子芯片的不足，在一些特殊的計算領(lǐng)域超過電子芯片。

有意思的是，許多人了解到光子AI芯片和光學計算之后，更感興趣的不是其與電子計算的比較，反而好奇光子計算和量子計算有什么區(qū)別，兩者哪一個將更快改變產(chǎn)業(yè)現(xiàn)狀。

和量子計算相比，光子計算發(fā)展的時間短，投入研發(fā)的人力也相對較少，聽起來是一個更為小眾的領(lǐng)域。但光子計算對算力的提升不一定亞于量子計算，而且在技術(shù)實現(xiàn)上，其制造流程可兼容目前的CMOS工藝，在量產(chǎn)難度上遠低于量子計算，更容易與現(xiàn)有的計算周邊生態(tài)進行配合，可說是目前發(fā)展的次世代計算架構(gòu)中，最有機會實現(xiàn)普及量產(chǎn)目標的一個。