三位深度學習之父共獲2019年圖靈獎

　　2019年3月27日 ——ACM宣布，深度學習的三位創(chuàng)造者Yoshua Bengio， Yann LeCun， 以及Geoffrey Hinton獲得了2019年的圖靈獎。

　　今天，深度學習已經(jīng)成為了人工智能技術領域最重要的技術之一。在最近數(shù)年中，計算機視覺、語音識別、自然語言處理和機器人取得的爆炸性進展都離不開深度學習。

　　三位科學家發(fā)明了深度學習的基本概念，在實驗中發(fā)現(xiàn)了驚人的結果，也在工程領域做出了重要突破，幫助深度神經(jīng)網(wǎng)絡獲得實際應用。

　　在ACM的公告中，Hinton最重要的貢獻來自他1986年發(fā)明反向傳播的論文“Learning Internal Representations by Error Propagation”，1983年發(fā)明的玻爾茲曼機(Boltzmann Machines)，以及2012年對卷積神經(jīng)網(wǎng)絡的改進。Hinton和他的學生Alex Krizhevsky以及Ilya Sutskever 通過Rectified Linear Neurons和 Dropout Regularization改進了卷積神經(jīng)網(wǎng)絡，并在著名的ImageNet評測中取得了很好的成績，在計算機視覺領域掀起一場革命。

　　Bengio的貢獻主要在1990年代發(fā)明的Probabilistic models of sequences。他把神經(jīng)網(wǎng)絡和概率模型(例如隱馬爾可夫模型)結合在一起，并和AT&T公司合作，用新技術識別手寫的支票。現(xiàn)代深度學習技術中的語音識別也是這些概念的擴展。此外Bengio還于2000年還發(fā)表了劃時代的論文“A Neural Probabilistic Language Model”，使用高維詞向量來表征自然語言。他的團隊還引入了注意力機制，讓機器翻譯獲得突破，也成為了讓深度學習處理序列的重要技術。

　　Yann LeCun的代表貢獻之一是卷積神經(jīng)網(wǎng)絡。1980年代，LeCun發(fā)明了卷積神經(jīng)網(wǎng)絡，現(xiàn)在已經(jīng)成為了機器學習領域的基礎技術之一，也讓深度學習效率更高。1980年代末期，Yan LeCun在多倫多大學和貝爾實驗室工作期間，首次將卷積神經(jīng)網(wǎng)絡用于手寫數(shù)字識別。今天，卷積神經(jīng)網(wǎng)絡已經(jīng)成為了業(yè)界標準技術，廣泛用于計算機視覺、語音識別、語音合成、圖片合成，以及自然語言處理等學術方向，以及自動駕駛、醫(yī)學圖片識別、語音助手、信息過濾等工業(yè)應用方向。LeCun的第二個重要貢獻是改進了反向傳播算法。他提出了一個早期的反向傳播算法backprop，也根據(jù)變分原理給出了一個簡潔的推導。他的工作讓反向傳播算法更快，比如描述了兩個簡單的方法可以減少學習時間。LeCun第三個貢獻是拓展了神經(jīng)網(wǎng)絡的應用范圍。他把神經(jīng)網(wǎng)絡變成了一個可以完成大量不同任務的計算模型。他早期引進的一些工作現(xiàn)在已經(jīng)成為了人工智能的基礎概念。例如，在圖片識別領域，他研究了如何讓神經(jīng)網(wǎng)絡學習層次特征，這一方法現(xiàn)在已經(jīng)用于很多日常的識別任務。他們還提出了可以操作結構數(shù)據(jù)(例如圖數(shù)據(jù))的深度學習架構。

　　圖靈獎由ACM于1966年設置，設立目的之一是紀念著名的計算機科學先驅艾倫·圖靈。圖靈獎是計算機科學領域的最高獎。獲獎者必須在計算機領域具有持久重大的先進性技術貢獻。人工智能領域的先驅馬文·明斯基(Marvin Lee Minsky)、約翰·麥卡錫(John McCarthy)、艾倫·紐厄爾(Allen Newell)和司馬賀(Herbert Alexander Simon)等人都曾經(jīng)獲獎。華人科學家姚期智2000年因為偽隨機數(shù)生成等計算領域的重要貢獻獲獎。