盤點2021年全球AI芯片，詳解“xPU”，請收下最新最全的知識點

前言

你一定聽說過CPU、GPU，但是TPU、VPU、NPU、XPU…等等其他字母開頭的“xPU”呢？

AI概念在幾年前火爆全球，科技巨頭們紛紛投入AI芯片的研發(fā)，小公司也致力于提出概念靠AI浪潮融資，為了快速在AI市場上立足，也為了讓市場和用戶能記住自家的產品，各家在芯片命名方面都下了點功夫，既要獨特，又要和公司產品契合，還要朗朗上口，也要容易讓人記住。前文所提到的“xPU”的命名方式就深受各大廠商的喜愛。

本文就從字母A到Z來盤點一下目前各種“xPU”命名AI芯片，以及芯片行業(yè)里的各種“xPU”縮寫，給大家漲漲知識。此外，除了“xPU”命名方式，本文也擴展了一些“xxP”方式的以Processor命名的芯片或IP。

1、APU

Accelerated Processing Unit

APU是AMD的一個處理器品牌，它第一次將中央處理器和獨顯核心做在一個晶片上，它同時具有高性能處理器和最新獨立顯卡的處理性能。AMD在一顆芯片上集成傳統(tǒng)CPU和圖形處理器GPU，這樣主板上將不再需要北橋，任務可以靈活地在CPU和GPU間分配。AMD將這種異構結構稱為加速處理單元，即APU。

2021年8月，AMD即將發(fā)售新款APU：5600G和5700G。

Audio Processing Unit

聲音處理器，顧名思義，處理聲音數據的專用處理器。不多說，生產APU的芯片商有好多家。聲卡里都有。

2、BPU

Brain Processing Unit

地平線機器人（Horizon Robotics）以BPU來命名自家的AI芯片。地平線是一家成立于2015年的start-up，總部在北京，目標是“嵌入式人工智能全球領導者”。地平線的芯片未來會直接應用于自己的主要產品中，包括：智能駕駛、智能生活和智能城市。地平線機器人的公司名容易讓人誤解，以為是做“機器人”的，其實不然。地平線做的不是“機器”的部分，是在做“人”的部分，是在做人工智能的“大腦”，所以，其處理器命名為BPU。相比于國內外其他AI芯片start-up公司，地平線的第一代BPU走的相對保守的TSMC的40nm工藝。BPU已經被地平線申請了注冊商標，其他公司就別打BPU的主意了。

Biological Processing Unit

一個口號“21 世紀是生物學的世紀”忽悠了無數的有志青年跳入了生物領域的大坑。其實，這句話需要這么理解，生物學的進展會推動21世紀其他學科的發(fā)展。比如，對人腦神經系統(tǒng)的研究成果就會推動AI領域的發(fā)展，SNN結構就是對人腦神經元的模擬。不管怎么說，隨著時間的推移，坑總會被填平的。不知道生物處理器在什么時間會有質的發(fā)展。

Bio-Recognition Processing Unit

生物特征識別現在已經不是紙上談兵的事情了。指紋識別已經是近來智能手機的標配，電影里的黑科技虹膜識別也上了手機，聲紋識別可以支付了…不過，除了指紋識別有專門的ASIC芯片外，其他生物識別還基本都是sensor加通用cpu/dsp的方案。不管怎樣，這些芯片都沒占用BPU或BRPU這個寶貴位置。

3、CPU

Central Processing Unit

CPU就不多說了，中央處理器。不會有AI公司將自己的芯片命名為CPU的。不過，CPU與AI處理器并不沖突。

首先，很多公司的AI處理器中還是會使用CPU做控制調度。比如，wave computing用的是Andes的CPU core；Mobileye用了好幾個MIPS的CPU core；國內的某些AI芯片公司用的ARM的CPU core。

此外，在現有的移動市場的AP中，在CPU之外，再集成一兩個AI加速器IP（例如針對視覺應用的DSP，見VPU部分）也是一種趨勢。2017 年，麒麟 970 第一次把 NPU 技術應用在手機里。今天我們看到的情況是所有的手機芯片都必須有 AI 處理芯片了，2020年麒麟9000的出現更是把AI移動端處理器的性能再升一大截。

另外一種趨勢，做高性能計算CPU的公司也不甘錯過AI的浪潮。例如，

• Adapteva。一家做多核MIMD結構處理器的公司。2016年tapeout的Epiphany V集成有1024個核。相對以前的版本，針對deep learning和加密增加了特定指令。

• kalrayinc。一家做多核并行處理器的公司，有針對數據中心和自動駕駛的解決方案。最近公布了第三代MPPA處理器“Coolidge”的計劃，并融資$26 Million。計劃采用16nm FinFET工藝，集成80-160個kalray 64-bit core，以及80-160個用于機器視覺處理和深度學習計算的協(xié)處理器。

4、DPU

作為Deep Learning的首字母，以D開頭來命名AI芯片是一種很自然的思路。

Deep-Learning Processing Unit

深度學習處理器。DPU并不是哪家公司的專屬術語。在學術圈，Deep Learning Processing Unit（或processor）被經常提及。例如ISSCC 2017新增的一個session的主題就是Deep Learning Processor。以DPU為目標的公司如下：

• Deephi Tech（深鑒）。深鑒是一家位于北京的start-up，初創(chuàng)團隊有很深的清華背景。深鑒將其開發(fā)的基于FPGA的神經網絡處理器稱為DPU。到目前為止，深鑒公開發(fā)布了兩款DPU：亞里士多德架構和笛卡爾架構，分別針對CNN以及DNN/RNN。雖然深鑒號稱是做基于FPGA的處理器開發(fā)，但是從公開渠道可以看到的招聘信息以及非公開的業(yè)內交流來看，其做芯片已成事實。

• TensTorrent。一家位于Toronto的start-up，研發(fā)專為深度學習和智能硬件而設計的高性能處理器，技術人員來自NVDIA和AMD。

Deep Learning Unit

深度學習單元。Fujitsu（富士通）最近高調宣布了自家的AI芯片，命名為DLU。名字雖然沒什么創(chuàng)意，但是可以看到DLU已經被富士通標了“TM”，雖然TM也沒啥用。在其公布的信息里可以看到，DLU的ISA是重新設計的，DLU的架構中包含眾多小的DPU（Deep Learning Processing Unit）和幾個大的master core（控制多個DPU和memory訪問）。每個DPU中又包含了16個DPE（Deep-Learning Processing Element），共128個執(zhí)行單元來執(zhí)行SIMD指令。富士通預計2018財年內推出DLU。

Deep Learning Accelerator

深度學習加速器。2019年，英偉達在 GitHub 上開源了 NVDLA 編譯器的源代碼，這是世界上首個軟硬件推理平臺的完整開源代碼，給業(yè)界帶來了不小的波瀾。下圖是NVDLA的架構示意。

Dataflow Processing Unit

數據流處理器。創(chuàng)立于2010年的wave computing公司將其開發(fā)的深度學習加速處理器稱為Dataflow Processing Unit(DPU)，應用于數據中心。Wave的DPU內集成1024個cluster。每個Cluster對應一個獨立的全定制版圖，每個Cluster內包含8個算術單元和16個PE。其中，PE用異步邏輯設計實現，沒有時鐘信號，由數據流驅動，這就是其稱為Dataflow Processor的緣由。使用TSMC 16nm FinFET工藝，DPU die面積大概400mm^2，內部單口sram至少24MB，功耗約為200W，等效頻率可達10GHz，性能可達181TOPS。

Data-storage Processing Unit

數據存儲處理器。深圳大普微電子開發(fā)固態(tài)硬盤SSD主控芯片。SSD的主控也是一個很大的市場，國內在這個方向上奮斗的公司不少。

Digital Signal Processor

數字信號處理器。芯片行業(yè)的人對DSP都不陌生，設計DSP的公司也很多，TI，Qualcomm，CEVA，Tensilica，ADI，Freescale等等，都是大公司，此處不多做介紹。相比于CPU，DSP通過增加指令并行度來提高數字計算的性能，如SIMD、VLIW、SuperScalar等技術。面對AI領域新的計算方式（例如CNN、DNN等）的挑戰(zhàn)，DSP公司也在馬不停蹄地改造自己的DSP，推出支持神經網絡計算的芯片系列。在后面VPU的部分，會介紹一下針對Vision應用的DSP。和CPU一樣，DSP的技術很長時間以來都掌握在外國公司手里，國內也不乏兢兢業(yè)業(yè)在這方向努力的科研院所，如清華大學微電子所的Lily DSP（VLIW架構，有獨立的編譯器），以及國防科大的YHFT-QDSP和矩陣2000。但是，也有臭名昭著的“漢芯”。

5、EPU

Emotion Processing Unit

Emoshape 并不是這兩年才推出EPU的，號稱是全球首款情緒合成（emotion synthesis）引擎，可以讓機器人具有情緒。但是，從官方渠道消息看，EPU本身并不復雜，也不需要做任務量巨大的神經網絡計算，是基于MCU的芯片。結合應用API以及云端的增強學習算法，EPU可以讓機器能夠在情緒上了解它們所讀或所看的內容。結合自然語言生成(NLG)及WaveNet技術，可以讓機器個性化的表達各種情緒。例如，一部能夠朗讀的Kindle，其語音將根據所讀的內容充滿不同的情緒狀態(tài)。

6、FPU

先說一個最常用的FPU縮寫：Floating Point Unit。浮點單元，不多做解釋了?，F在高性能的CPU、DSP、GPU內都集成了FPU做浮點運算。

7、GPU

Graphics Processing Unit

圖形處理器。GPU原來最大的需求來自PC市場上各類游戲對圖形處理的需求，隨著AI的火熱，在深度學習并行訓練和推理上應用十分廣泛。但是隨著移動設備的升級，在移動端也逐漸發(fā)展起來。

• NVIDIA。說起GPU，毫無疑問現在的老大是NVIDIA。這家成立于1993年的芯片公司一直致力于設計各種GPU：針對個人和游戲玩家的GeForce系列，針對專業(yè)工作站的Quadro系列，以及針對服務器和高性能運算的Tesla系列。隨著AI的發(fā)展，NVIDIA在AI應用方面不斷發(fā)力，推出了針對自動駕駛的DRIVE系列，以及專為AI打造的VOLTA架構。特別提一下VOLTA，今年5月份，NVIDIA發(fā)布的Tesla V100采用TSMC 12nm工藝，面積竟然815mm^2，號稱相關研發(fā)費用高達30億美元。得益于在AI領域的一家獨大，NVIFIA的股價在過去一年的時間里狂漲了300%。最后，也別忘了NVIDIA家還有集成了GeForce GPU的Tegra系列移動處理器。

• AMD。這幾年NVIDIA的火爆，都快讓大家忘了AMD的存在了。AMD是芯片行業(yè)中非常古老的一家芯片公司，成立于1969年，比NVIDIA要早很多年。AMD最出名的GPU品牌Radeon來自于其2006年以54億美元收購的ATI公司。AMD新出的MI系列GPU將目標對準AI。

在移動端市場，GPU被三家公司瓜分，但是也阻止不了新的競爭者殺入。

• ARM家的Mali。Mali不是ARM的自創(chuàng)GPU品牌，來自于ARM于2006年收購的Falanx公司。Falanx最初的GPU是面向PC市場的，但是根本就無法參與到NVIDIA和ATI的競爭中去，于是轉向移動市場；并且Falanx最初的GPU的名字也不是Mali，而是Maliak，為了好記，改為Mali，來自羅馬尼亞文，意思是small，而不是我們熟悉的吃蘑菇救公主的超級瑪麗（SuperMALI）。

• Imagination的PowerVR。主要客戶是蘋果，所以主要精力都在支持蘋果，對其他客戶的支持不足。但是，蘋果突然宣布放棄PVR轉為自研，對Imagination打擊不小，股價大跌六成。Imagination現在正在尋求整體出售，土財快追，但是，美國未必批。

• Qualcomm的Adreno。技術來自于AMD收購ATI后出售的移動GPU品牌Imageon。有意思的是，名字改自于ATI的知名GPU品牌Radeon；

• VeriSilicon的Vivante。Vivante（圖芯）是一家成立于2004年的以做嵌入式GPU為主的芯片公司，于2015年被VSI收購。Vivante的市場占有率較低。這里多加一段小八卦，Vivante的創(chuàng)始人叫戴偉進，VSI的創(chuàng)始人叫戴偉民，一句話對這次收購進行總結就是，戴家老大收購了戴家老二。哦，對了，戴家還有一個三妹戴偉立，創(chuàng)立的公司名號更響亮：Marvell。

• Samsung的。。。哦，三星沒有自己的GPU。2021年中旬，三星表示即將推出的三星Exynos旗艦處理器中的GPU將基于AMD最新的RDNA2架構打造，這標志著新GPU首次登陸移動平臺。

再簡單補充國內的兩家開發(fā)GPU的公司：

• 上海兆芯。兆芯是VIA（威盛）分離出來的。兆芯于2016年針對移動端出了一款GPU芯片ZX-2000，名字有點簡單直接。主要技術來源于威盛授權，GPU核心技術來自收購的美國S3 Graphics。

• 長沙景嘉微電子。于2014年推出一款GPU芯片JM5400。這是一家有國防科大背景的公司，與龍芯為合作伙伴，芯片主要應用在軍用飛機和神舟飛船上。

Graph Streaming Processor

圖形流處理器。這是ThinCI（取意think-eye）提出的縮寫。ThinCI是一家致力于打造deep learning和computer vision芯片的start-up，由4名Intel前員工創(chuàng)立于2010年，總部在Sacramento，在印度也有研發(fā)人員。ThinCI的視覺芯片瞄準了自動駕駛應用，投資方有世界頂級汽車零部件供應商公司日本電裝DENSO。在剛結束的hotchip會議上，ThinCI介紹了他們的GSP，使用了多種結構性技術來實現任務級、線程級、數據級和指令級的并行。GSP使用TSMC 28nm HPC+工藝，功耗預計2.5W。

8、HPU

Holographic Processing Unit

全息處理器。Microsoft專為自家Hololens應用開發(fā)的。第一代HPU采用28nm HPC工藝，使用了24個Tensilica DSP并進行了定制化擴展。HPU支持5路cameras、1路深度傳感器（Depth sensor）和1路動作傳感器（Motion Sensor）。Microsoft 在最近的CVPR 2017上宣布了HPU2的一些信息。HPU2將搭載一顆支持DNN的協(xié)處理器，專門用于在本地運行各種深度學習。指的一提的是，HPU是一款為特定應用所打造的芯片，這個做產品的思路可以學習。據說Microsoft評測過Movidius（見VPU部分）的芯片，但是覺得無法滿足算法對性能、功耗和延遲的要求，所有才有了HPU。

9、IPU

Intelligence Processing Unit

智能處理器。以IPU命名芯片的有兩家公司。

• Graphcore。Graphcore公司的IPU是專門針對graph的計算而打造的。稍微說說Graph，Graphcore認為Graph是知識模型及相應算法的非常自然的表示，所以將Graph作為機器智能的基礎表示方法，既適用于神經網絡，也適用于貝葉斯網絡和馬爾科夫場，以及未來可能出現的新的模型和算法。Graphcore的IPU一直比較神秘，直到近期才有一些細節(jié)的信息發(fā)布。比如：16nm，同構多核（>1000）架構，同時支持training和inference，使用大量片上sram，性能優(yōu)于Volta GPU和TPU2，預計2017年底會有產品發(fā)布，等等。多八卦一點，Graphcore的CEO和CTO以前創(chuàng)立的做無線通信芯片的公司Icera于2011年被Nvidia收購并于2015年關閉。關于IPU更細節(jié)的描述，可以看唐博士的微信公號的一篇文章，傳輸門：解密又一個xPU：Graphcore的IPU。

• Mythic。另外一家剛融了$9.3 million的start-up公司Mythic也提到了IPU：“Mythic’s intelligence processing unit (IPU) adds best-in-class intelligence to any device”。和現在流行的數字電路平臺方案相比，Mythic號稱可以將功耗降到1/50。之所以這么有信心，是因為他們使用的“processing in memory”結構。

Image Cognition Processor

圖像認知處理器ICP，加拿大公司CogniVue開發(fā)的用于視覺處理和圖像認知的IP。跑個題，CogniVue一開始是Freescale的IP供應商，后來于2015年被Freescale收購以進一步加強ADAS芯片的整合開發(fā)；隨后，Freescale又被NXP 118億美元拿下；還沒完，高通近400億美元吞并了NXP。 現在NXP家的ADAS SOC芯片S32V系列中，就用到了兩個ICP IP。

Image Processing Unit

圖像處理器。一些SOC芯片中將處理靜態(tài)圖像的模塊稱為IPU。但是，IPU不是一個常用的縮寫，更常見的處理圖像信號的處理器的縮寫為下面的ISP。

Image Signal Processor 

圖像信號處理器。這個話題也不是一個小話題。ISP的功能，簡單的來說就是處理camera等攝像設備的輸出信號，實現降噪、Demosaicing、HDR、色彩管理等功能。以前是各種數碼相機、單反相機中的標配。Canon、Nikon、Sony等等，你能想到的出數碼相機的公司幾乎都有自己的ISP。進入手機攝影時代，人們對攝影攝像的要求也越來越高，ISP必不可少。說回AI領域，camera采集圖像數據，也要先經過ISP進行處理之后，再由視覺算法（運行在CPU、GPU或ASIC加速器上的）進行分析、識別、分類、追蹤等進一步處理。也許，隨著AI技術發(fā)展，ISP的一些操作會直接被end-2-end的視覺算法統(tǒng)一。

10、JPU

暫無

11、KPU

Knowledge Processing Unit

嘉楠耘智（canaan）號稱2017年將發(fā)布自己的AI芯片KPU。嘉楠耘智要在KPU單一芯片中集成人工神經網絡和高性能處理器，主要提供異構、實時、離線的人工智能應用服務。這又是一家向AI領域擴張的不差錢的礦機公司。作為一家做礦機芯片（自稱是區(qū)塊鏈專用芯片）和礦機的公司，嘉楠耘智累計獲得近3億元融資，估值近33億人民幣。2020年，嘉楠耘智公司內部出了問題，財報很難看。

另：Knowledge Processing Unit這個詞并不是嘉楠耘智第一個提出來的，早在10年前就已經有論文和書籍講到這個詞匯了。只是，現在嘉楠耘智將KPU申請了注冊商標。

12、LPU

暫無

13、MPU

Micro Processing Unit

微處理器。MPU，CPU，MCU，這三個概念差不多，知道就行了。

題外話：并不是所有的xPU都是處理器，比如有個MPU，是Memory Protection Unit的縮寫，是內存保護單元，是ARM核中配備的具有內存區(qū)域保護功能的模塊。

14、NPU

Neural-Network Processing Unit

與GPU類似，神經網絡處理器NPU已經成為了一個通用名詞，而非某家公司的專用縮寫。由于神經網絡計算的類型和計算量與傳統(tǒng)計算的區(qū)別，導致在進行NN計算的時候，傳統(tǒng)CPU、DSP甚至GPU都有算力、性能、能效等方面的不足，所以激發(fā)了專為NN計算而設計NPU的需求。這里羅列幾個以NPU名義發(fā)布過產品的公司，以及幾個學術圈的神經網絡加速器。

• 中星微電子（Vimicro）的星光智能一號。中星微于2016年搶先發(fā)布了“星光智能一號”NPU。但是，這不是一個專為加速Neural Network而開發(fā)的處理器。業(yè)內都知道其內部集成了多個DSP核（其稱為NPU core），通過SIMD指令的調度來實現對CNN、DNN的支持。以這個邏輯，似乎很多芯片都可以叫NPU，其他以DSP為計算核心的SOC芯片的命名和宣傳都相對保守了。

• Kneron。這是一家位于San Diego的start-up公司，針對IOT應用領域做deep learning IP開發(fā)。Kneron開發(fā)的NPU實現了39層CNN，28nm下的功耗為0.3W，能效200GFLOPs/W。其主頁上給出的另一個能效數據是600GOPs/W。此外，Kneron同時也在FPGA開發(fā)云端的硬件IP。據可靠消息，Kneron也要在中國大陸建立研發(fā)部門了，地點涉及北京、上海、深圳。

• VeriSilicon（芯原）的VIP8000。VSI創(chuàng)立于2001年。VSI于今年5月以神經網絡處理器IP的名義發(fā)布了這款代號VIP8000的IP。從其公布的消息“VeriSilicon’s Vivante VIP8000 Neural Network Processor IP Delivers Over 3 Tera MACs Per Second”來看，這款芯片使用的并不是其DSP core，而是內置了其2015年收購的Vivante的GPU core。按照VSI的說法，VIP8000在16nm FinFET工藝下的計算力超過3 TMAC/s，能效高于1.5 GMAC/s/mW。

• DNPU-Deep Neural-Network Processing Unit。DNPU來自于KAIST在ISSCC2017上發(fā)表的一篇文章。我把DNPU當做是NPU的一種別名，畢竟現在業(yè)內做的支持神經網絡計算的芯片沒有只支持“非深度”神經網絡的。關于DNPU可以參考“從ISSCC Deep Learning處理器論文到人臉識別產品”。

• Eyeriss。MIT的神經網絡項目，針對CNN的進行高能效的計算加速設計。

• Thinker。清華微電子所設計的一款可重構多模態(tài)神經計算芯片，可以平衡CNN和RNN在計算和帶寬之間的資源沖突。

Neural/Neuromorphic Processing Unit

神經/神經形態(tài)處理器。這和上面的神經網絡處理器還有所不同。而且，一般也不以“處理器”的名字出現，更多的時候被稱為“神經形態(tài)芯片（Neuromorphic Chip）”或者是“類腦芯片（Brain-Inspired Chip）”。這類AI芯片不是用CNN、DNN等網絡形式來做計算，而是以更類似于腦神經組成結構的SNN（Spiking Neural Network）的形式來進行計算。隨便列幾個，都不是“xPU”的命名方式。

• Qualcomm的Zeroth。高通幾年前將Zeroth定義為一款NPU，配合以軟件，可以方便的實現SNN的計算。但是，NPU似乎不見了蹤影，現在只剩下了同名的機器學習引擎Zeroth SDK。

• IBM的TrueNorth。IBM2014年公布的TrueNorth。在一顆芯片上集成了4096個并行的core，每個core包含了256個可編程的神經元neurons，一共1百萬個神經元。每個神經元有256個突觸synapses，共256 Mlillion。TrueNorth使用了三星的28nm的工藝，共5.4 billion個晶體管。

• BrainChip的SNAP（Spiking Neuron Adaptive Processor ）。已經有了賭場的應用。

• GeneralVision的CM1K、NM500 chip，以及NeuroMem IP。這家公司的CM1K芯片有1k個神經元，每個神經元對應256Byte存儲。雖然無法和強大的TrueNorth相提并論，但是已有客戶應用。并且，提供BrainCard，上面有FPGA，并且可以直接和Arduino以及Raspberry Pi連接。

• Knowm。這家start-up在憶阻器（memristor）技術基礎上做“processing in memory”的AI芯片研發(fā)。不過，與前面提到的Mythic（IPU部分）不同的是，Known做的是類腦芯片。Knowm所用的關鍵技術是一種稱為熱力學內存(kT-RAM)的memory，是根據AHaH理論(Anti-Hebbian and Hebbian)發(fā)展而來。

• Koniku。成立于2014年的start-up，要利用生物神經元來做計算，”Biological neurons on a chip”。

15、OPU

Optical-Flow Processing Unit。光流處理器。有需要用專門的芯片來實現光流算法嗎？

不知道，但是，用ASIC IP來做加速應該是要的。

16、PPU

Physical Processing Unit

物理處理器。要先解釋一下物理運算，就知道物理處理器是做什么的了。物理計算，就是模擬一個物體在真實世界中應該符合的物理定律。具體的說，可以使虛擬世界中的物體運動符合真實世界的物理定律，可以使游戲中的物體行為更加真實，例如布料模擬、毛發(fā)模擬、碰撞偵測、流體力學模擬等。開發(fā)物理計算引擎的公司有那么幾家，使用CPU來完成物理計算，支持多種平臺。

Ageia應該是唯一一個使用專用芯片來加速物理計算的公司。Ageia于2006年發(fā)布了PPU芯片PhysX，還發(fā)布了基于PPU的物理加速卡，同時提供SDK給游戲開發(fā)者。2008年被NVIDIA收購后，PhysX加速卡產品被逐漸取消，現在物理計算的加速功能由NVIDIA的GPU實現，PhysX SDK被NVIDIA重新打造。

17、QPU

Quantum Processing Unit

量子處理器。量子計算機也是近幾年比較火的研究方向。作者承認在這方面所知甚少。可以關注這家成立于1999年的公司D-Wave System。DWave大概每兩年可以將其QPU上的量子位個數翻倍一次。

18、RPU

Resistive Processing Unit

阻抗處理單元RPU。這是IBM Watson Research Center的研究人員提出的概念，真的是個處理單元，而不是處理器。RPU可以同時實現存儲和計算。利用RPU陣列，IBM研究人員可以實現80TOPS/s/W的性能。

Ray-tracing Processing Unit

光線追蹤處理器。Ray tracing是計算機圖形學中的一種渲染算法，RPU是為加速其中的數據計算而開發(fā)的加速器?，F在這些計算都是GPU的事情了。

19、SPU

Streaming Processing Unit

流處理器。流處理器的概念比較早了，是用于處理視頻數據流的單元，一開始出現在顯卡芯片的結構里?？梢哉f，GPU就是一種流處理器。甚至，還曾經存在過一家名字為“Streaming Processor Inc”的公司，2004年創(chuàng)立，2009年，隨著創(chuàng)始人兼董事長被挖去NVIDIA當首席科學家，SPI關閉。

Speech-Recognition Processing Unit

語音識別處理器，SPU或SRPU。這個縮寫還沒有公司拿來使用。現在的語音識別和語義理解主要是在云端實現的，比如科大訊飛?？拼笥嶏w最近推出了一個翻譯機，可以將語音傳回云端，做實時翻譯，內部硬件沒有去專門了解。和語音識別相關的芯片如下：

• 啟英泰倫（chipintelli）。于2015年11月在成都成立。該公司的CI1006是一款集成了神經網絡加速硬件來做語音識別的芯片，可實現單芯片本地離線大詞匯量識別。

• MIT項目。今年年初媒體爆過MIT的一款黑科技芯片，其實就是MIT在ISSCC2017上發(fā)表的paper里的芯片，也是可以實現單芯片離線識別上k個單詞?？梢詤⒖奸喿x“分析一下MIT的智能語音識別芯片”。

• 云知聲（UniSound）。云知聲是一家專攻智能語音識別技術的公司，成立于2012年6月，總部在北京。云知聲獲得了3億人民幣戰(zhàn)略投資，其中一部分將用來研發(fā)其稍早公布的AI芯片計劃，命名“UniOne”。據官方透漏，UniOne將內置DNN處理單元，兼容多麥克風、多操作系統(tǒng)。并且，芯片將以模組的形式提供給客戶，讓客戶直接擁有一整套云端芯的服務。

20、TPU

Tensor Processing Unit

Google的張量處理器。TPU項目開始于2014年。2016年AlphaGo打敗李世石，2017年AlphaGo打敗柯潔，兩次人工智能催化事件給芯片行業(yè)帶來的沖擊無疑就是TPU的出現和解密。

Google在2017年5月的開發(fā)者I/O大會上正式公布了TPU2，又稱Cloud TPU。相比于TPU v1，TPU v2既可以用于training，又可以用于inference。TPU v3是在TPU v2的基礎上做了進一步的性能提升，可參考下圖。

具體可以看這篇知乎文章淺談Google TPU。

21、UPU

暫無

22、VPU

Vision Processing Unit

視覺處理器VPU也有希望成為通用名詞。作為現今最火熱的AI應用領域，計算機視覺的發(fā)展的確能給用戶帶來前所未有的體驗。為了處理計算機視覺應用中遇到的超大計算量，多家公司正在為此設計專門的VPU。 

• Movidius（已被Intel收購）。Movidius成立于2006年，總部位于硅谷的San Mateo，創(chuàng)始人是兩個愛爾蘭人，所以在愛爾蘭有分部。Movidius早期做的是將舊電影轉為3D電影的業(yè)務，后期開始研發(fā)應用于3D渲染的芯片，并開始應用于計算機視覺應用領域（這說明：1，芯片行業(yè)才是高技術含量、高門檻、高價值的行業(yè)；2，初創(chuàng)公司要隨著發(fā)展調整自己的戰(zhàn)略）。Movidius開發(fā)的Myriad系列VPU專門為計算機視覺進行優(yōu)化，可以用于 3D 掃描建模、室內導航、360°全景視頻等更前沿的計算機視覺用途。例如，2014年，谷歌的Project Tango項目用 Myriad 1幫助打造室內三維地圖；2016年，大疆的“精靈4”和“御”都采用了Movidius 的 Myriad 2芯片。采用TSMC 28nm工藝的Myriad2中集成了12個向量處理器SHAVE (Streaming Hybrid Architecture Vector Engine)。按照Movidius的說法，SHAVE是一種混合型流處理器，集成了GPU、 DSP和RISC的優(yōu)點，支持8/16/32 bit定點和16/32 bit浮點計算，而且硬件上支持稀疏數據結構。此外，Myriad2中有兩個RISC核以及video硬件加速器，可以同時處理多個視頻流。2017年8月28日，Movidius宣布推出新一代VPU：Myriad X。與上一代Myriad2比，Myriad X將集成DNN加速器：神經計算引擎（Neural Compute Engine），支持浮點16bit和定點8bit。據稱，DNN推理吞吐量能達到1TOPS，而理論運算量能達到4+ TOPS。Myriad X有四個128位VLIW矢量處理器，支持最新的LPDDR4，并且支持4K硬件編碼，支持USB3.1和PCIe3.0。工藝上，使用TSMC 16nm。

• Inuitive。一家以色列公司，提供3D圖像和視覺處理方案，用于AR/VR、無人機等應用場景。Inuitive的下一代視覺處理器NU4000采用28nm工藝，選擇使用CEVA的XM4 DSP，并集成了深度學習處理器和深度處理引擎等硬件加速器。

• DeepVision。一家總部位于Palo Alto的start-up，為嵌入式設備設計和開發(fā)低功耗VPU，以支持深度學習、CNN以及傳統(tǒng)的視覺算法，同時提供實時處理軟件。

Visual Processing Unit

這里是visual，不是vision。ATI一開始稱自家顯卡上的芯片為VPU，后來見賢思齊，都改叫GPU了。

Video Processing Unit

視頻處理器。處理動態(tài)視頻而不是圖像，例如進行實時編解碼。

Vector Processing Unit

向量處理器。標量處理器、向量處理器、張量處理器，這是以處理器處理的數據類型進行的劃分?，F在的CPU已經不再是單純的標量處理器，很多CPU都集成了向量指令，最典型的就是SIMD。向量處理器在超級計算機和高性能計算中，扮演著重要角色?；谙蛄刻幚砥餮邪l(fā)AI領域的專用芯片，也是很多公司的選項。例如，前面剛提到Movidius的Myriad2中，就包含了12個向量處理器。

Vision DSP

針對AI中的計算機視覺應用，各家DSP公司都發(fā)布了DSP的Vision系列IP。簡單羅列如下：

• CEVA的XM4，最新的XM6 DSP。除了可以連接支持自家的硬件加速器HWA（CEVA Deep Neural Network Hardware Accelerator )，也可以支持第三方開發(fā)的HWA。前面提到的Inuitive使用了XM4?？梢詤⒖肌疤幚砥鱅P廠商的機器學習方案 – CEVA”。

• Tensilica（2013年被Cadence以3.8億美元收購）的P5、P6，以及最新的C5 DSP。一個最大的特色就是可以用TIE語言來定制指令。前面微軟的HPU中使用他家的DSP?？梢詤⒖肌吧窠浘W絡DSP核的一桌麻將終于湊齊了”。

• Synopsys的EV5x和EV6x系列DSP。可以參考“處理器IP廠商的機器學習方案 – Synopsys”。

• Videantis的v-MP4系列。Videantis成立于1997年，總部位于德國漢諾頓。v-MP4雖然能做很多機器視覺的任務，但還是傳統(tǒng)DSP增強設計，并沒有針對神經網絡做特殊設計。

23、WPU

Wearable Processing Unit

一家印度公司Ineda Systems在2014年大肆宣傳了一下他們針對IOT市場推出的WPU概念，獲得了高通和三星的注資。Ineda Systems研發(fā)的這款“Dhanush WPU”分為四個級別，可適應普通級別到高端級別的可穿戴設備的運算需求，可以讓可穿戴設備的電池達到30天的持續(xù)續(xù)航、減少10x倍的能耗。但是，一切似乎在2015年戛然而止，沒有了任何消息。只在主頁的最下端有文字顯示，Ineda將WPU申請了注冊商標。有關WPU的信息只有大概結構，哦，對了，還有一個美國專利。

Wisdom Processing Unit

智慧處理器。這個WPU聽起來比較高大上，拿去用，不謝。不過，有點“腦白金”的味道。

24、XPU

2017年，在加州Hot Chips大會上，百度發(fā)布了XPU，這是一款256核、基于FPGA的云計算加速芯片。百度自研了AI芯片“昆侖”，瞄準云計算和邊緣用例。該芯片采用三星的14nm制程，內存帶寬為512GBps，每秒可運行260Tops，功率為100瓦，是百度為云計算、邊緣計算和人工智能的設計的神經處理器架構XPU，它支持處理自然語言的預訓練模型Ernie，相對傳統(tǒng)的GPU/FPGA模型，推理速度可以加快3倍。

百度在自研深度學習平臺Paddle（飛槳）上下了血本。目前Paddle Lite已支持百度XPU在x86和arm服務器（例如飛騰 FT-2000+/64）上進行預測部署。詳情可查看Paddle Lite使用百度XPU預測部署。

25、YPU

暫無

26、ZPU

Zylin CPU

挪威公司Zylin的CPU的名字。為了在資源有限的FPGA上能擁有一個靈活的微處理器，Zylin開發(fā)了ZPU。ZPU是一種stack machine（堆棧結構機器），指令沒有操作數，代碼量很小，并有GCC工具鏈支持，被稱為“The worlds smallest 32 bit CPU with GCC toolchain”。Zylin在2008年將ZPU在opencores上開源。有組織還將Arduino的開發(fā)環(huán)境進行了修改給ZPU用。

結束語

AI芯片廠商雖然推出了各式各樣的自家產品，但是大廠的資金實力和技術積淀還是更勝一籌，所謂的獨角獸也只是在融資上站穩(wěn)腳跟，能否扭轉盈虧還是要靠實際的產品說話。再過若干年，上述“xPU”還能存活多少都猶未可知。