這三個被遺忘的問題沒解決 談什么人工智能

　　按：姚新，現(xiàn)為英國伯明翰大學計算機學院講座教授，計算智能及其應(yīng)用卓越研究中心主任，IEEE Fellow(院士)，IEEE 計算智能學會杰出講座教授。2003 - 2008年任IEEE 進化計算學報主編，2014-2015年任IEEE進化計算學會主席。他的主要研究領(lǐng)域包括進化計算和集成學習及其應(yīng)用，特別是在軟件工程中的應(yīng)用。他的論文曾獲2001年 IEEE Donald G. Fink獎優(yōu)秀論文獎、2010和2015年IEEE 進化計算學報杰出論文獎、2010年BT Gordon Radley 最佳創(chuàng)新作者獎、2011年IEEE 神經(jīng)網(wǎng)絡(luò)學報杰出論文獎、以及其他一些最佳論文獎。2012年他榮獲久負盛名的英國皇家學會沃爾夫森(Wolfson)研究功勛獎，2013年榮獲IEEE計算智能學會先驅(qū)獎。

　　姚新教授在2016人工智能湖南論壇上報告

　　在類腦研究中究竟有哪些重要的科學問題呢? 姚新教授就此討論了3 個似乎已被許多類腦計算研究者所忽視的問題。

　　第一個是關(guān)于進化的問題。所有生物腦都是進化的，然而時下的類腦計算研究計劃很少涉及進化的作用。在類腦計算研究中應(yīng)當考慮進化嗎?

　　第二個是關(guān)于類腦計算系統(tǒng)的運行環(huán)境問題。環(huán)境在類腦計算研究中的作用是什么?

　　第三個是關(guān)于身體的作用或腦體相互作用問題。在生物界不存在沒有身體的大腦。時下的大腦研究計劃很少提及身體的作用，好像含有身體的大腦研究沒有什么是要做的一樣。事情果真是這樣的嗎?

　　對上述問題，姚新教授沒有提供確切的答案，只是謙虛地表示希望通過這 3 個問題起到拋磚引玉的作用。

　　沒有答案，先提問題

　　這三個問題跟產(chǎn)業(yè)界的關(guān)系不那么密切，但是做相關(guān)產(chǎn)業(yè)的話也必須要考慮到這些問題。這個背景很簡單，大家在開幕式的時候可能已經(jīng)感到現(xiàn)在人工智能是相當紅火，不但在科研界、學校比較紅火，在產(chǎn)業(yè)界也非常的紅火。各位領(lǐng)導也說了湖南省長沙市包括雨花區(qū)都喜歡引進人工智能有關(guān)的產(chǎn)業(yè)，最好是智能機器人，而不是一般的工業(yè)機器人。

　　從研究的角度來說，人工智能又跟人腦的研究又掛上鉤了。按照這個計劃來說，歐盟有專門的人腦研究計劃;美國也有類似的人腦研究計劃，也不叫人腦，是叫大腦，包括人腦和機器腦，也是通過奧巴馬總統(tǒng)宣布的;在 IEEE 協(xié)會里面也有大腦研究計劃，就是促進國際上的合作;國內(nèi)也有很多，包括科學院或者是國家層面都想研究這個大腦。

　　那么，怎么理解大腦是一方面，另外一方面是怎么把對大腦的理解真正運用到工程中。作為人工智能推進的作用，我今天講的這些東西倒不是說要在大腦研究或者是人工智能研究當中找到什么答案，我沒有答案，但是我有問題，問題也不多，有三個問題，這三個問題跟我的研究背景有關(guān)系。

　　第一個問題——創(chuàng)造還是演化

　　大家在談到人工智能或者人腦的時候，總是喜歡說做了一個人工智能的東西，但是我做工程或者是科學的人想過沒有，所有的大腦都是演化來的，沒有一個是人造出來的?，F(xiàn)在我們是想人造一個大腦出來，當然這沒有什么問題，唯一問題稍微帶有一點哲學性。比如說，現(xiàn)在想做一個人工智能的系統(tǒng)，靠人來造，而且現(xiàn)在要做腦計劃，想要做一個人工腦，同時又說要從自然腦里面找到啟發(fā)性的東西，自然的大腦都是演化出來的，不是造出來的。所以這里面的邏輯好像比較奇怪，雖然對一個產(chǎn)品感興趣，卻忽略了產(chǎn)品是怎么來的。這種方法對不對是一個問題，如果只對產(chǎn)品感興趣，卻不管產(chǎn)品怎么來的，只研究將來要研發(fā)的產(chǎn)品研發(fā)的東西。

　　在神經(jīng)網(wǎng)絡(luò)研究里面，有一種很簡單的神經(jīng)網(wǎng)絡(luò)叫層次網(wǎng)，即一層一層的網(wǎng)絡(luò)。最簡單的三層網(wǎng)，一個輸入網(wǎng)，中間的叫做引層，一個是輸出的層。這個網(wǎng)絡(luò)像所有的科學家那樣可以做很聰明的事情，每個輸入要么是 0 要么是 1，網(wǎng)絡(luò)學習能夠判斷 0101 這串數(shù)字是偶數(shù)還是奇數(shù)。這個事情說起來很簡單，但是如果你只能給計算機一個例子，通過學習，將來的輸入只要是偶數(shù)就給1，只要是奇數(shù)就給0。既然這個問題比較難，研究人員就想用設(shè)計人工神經(jīng)網(wǎng)絡(luò)來完成這個工作。的確，這是人設(shè)計出來的神經(jīng)網(wǎng)絡(luò)，非常的規(guī)則。而且非常好理解它，因為只有三層。這里面是八個輸入，然后中間還設(shè)計了八個神經(jīng)網(wǎng)絡(luò)的結(jié)點，輸出的判斷就是 0101。所以人設(shè)計的東西規(guī)整性很好，也很好理解。但是，假定不靠設(shè)計神經(jīng)網(wǎng)絡(luò)，而用人工演化的方式。讓其自己演化出一個人工神經(jīng)網(wǎng)絡(luò)，結(jié)果和人工設(shè)計出來的結(jié)果有什么一樣和不一樣的地方呢?這個演化的結(jié)果是九個輸入，而不是八個輸入，跟之前的結(jié)果不太一樣，因為層次不是特別的明確，沒有直接的連接。

　　通過演化計算發(fā)現(xiàn)，一個神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和人算出來的網(wǎng)絡(luò)結(jié)構(gòu)實際上有很大的不同，可以總結(jié)成幾點：

　　第一點可以演化計算得到的網(wǎng)絡(luò)非常緊湊，即這個輸入不是真正的神經(jīng)源，真正的神經(jīng)源就用了四個，中間設(shè)計的神經(jīng)源個數(shù)總是要跟我輸入的個數(shù)一樣，所以這個神經(jīng)網(wǎng)絡(luò)特別大，這是真正演化發(fā)現(xiàn)出來的問題。

　　第二點事通過自動演化發(fā)現(xiàn)的神經(jīng)網(wǎng)絡(luò)，程序會比較多一點，而不像人工那么規(guī)整，除了中間這一層就沒有了。

　　第三點是這個結(jié)構(gòu)出來以后，有一點雜亂無章，所以左邊和右邊是不對稱的，不好理解，這里的問題就比較有意思了，人設(shè)計出來的所謂人工神經(jīng)網(wǎng)絡(luò)和真正演化出來的人工神經(jīng)網(wǎng)絡(luò)都解決同樣的難題，但結(jié)構(gòu)不一樣。這就帶來了一個新問題，假定很幼稚地看成所謂小大腦，這個小大腦完成了測算的問題，但是這里面沒有結(jié)構(gòu)，矛盾在哪里?這很奇怪，這里做研究就有趣了，怎么探討這個問題呢?可以看到，現(xiàn)在所謂人工智能或者是類腦計算、人工神經(jīng)網(wǎng)絡(luò)做的東西，可以下象棋或者是下圍棋，拿世界第一。過兩天又看到人工智能可以人工識別圖像，幾百萬的圖像也可以找到。這些事情跟人要做的事情是兩碼事，一個大腦負責處理所有事情，而目前的所有神經(jīng)網(wǎng)絡(luò)系統(tǒng)只專注一件事情。Alpha Go 只會下象棋，不能識別圖像。這個是非常奇妙的現(xiàn)象，大家都說要做智能，但是從人這里找到的靈感，一到人工智能這個世界就變了味道?，F(xiàn)在的人工智能系統(tǒng)或者是人工神經(jīng)網(wǎng)絡(luò)中，一個系統(tǒng)就做一件事，做的非常好，非常專。但是一個大腦要做多件事，所以如果一個系統(tǒng)要做多件事，結(jié)構(gòu)會有什么影響?這就和大腦模塊要干什么事情有關(guān)系，靜態(tài)環(huán)境還是動態(tài)環(huán)境又不一樣，這里又引到我想講的第二個問題了。

　　第二個問題——人工智能還是人工智能系統(tǒng)

　　很多研究者雖然對人工智能或者是類腦計算感興趣，但是很少考慮這個人工智能系統(tǒng)能干什么。光講人工智能，不講人工智能系統(tǒng)能干什么，是缺了某些東西的。人工智能和人工智能系統(tǒng)之間還是有區(qū)別的。

　　原來想講的一個細節(jié)跟第一個問題一樣，大家至少在學校里面先做個小實驗。建立起一個人工網(wǎng)絡(luò)的系統(tǒng)，就讓它學一件事情，可以是圖像識別或者是其他的。只讓它做這一件事，然后讓同樣的神經(jīng)網(wǎng)絡(luò)系統(tǒng)同時學兩件事，再觀察同樣的初始狀態(tài)，最后學出來神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)有什么不一樣，會有非常有趣的發(fā)現(xiàn)。這個實驗可以重復進行，一個神經(jīng)網(wǎng)絡(luò)在完成多項工作后，模塊化結(jié)構(gòu)就會很明顯地顯示出來。無論是用什么標準去衡量模塊，如果你讓一個神經(jīng)網(wǎng)絡(luò)完成一項工作的話，某些模塊功能并沒有完全發(fā)揮出來。這就是說在構(gòu)造人工智能系統(tǒng)的時候不能光講系統(tǒng)，一定要講這個系統(tǒng)要干什么，以及干一件事還是兩件事，是在靜態(tài)環(huán)境里面還是在動態(tài)的環(huán)境里面。

　　第三個問題——人工智能的載體

　　這個實際上更簡單，就是身體的問題。這個問題也很特別，所有講人工智能的人，經(jīng)常不講人工智能系統(tǒng)最后放在什么地方。但是所有的大腦都是在身體上面的，所以身體實際上是蠻重要的。研究當中，四肢和六肢對大腦是有影響的。為什么研究人工智能的時候往往只研究人腦，而不研究身體呢，主要是因為我們做人工智能的研究的時候的確需要特別發(fā)達的大腦。

　　我們做過一個人工實驗，就是人工造一個可以游泳的線蟲，這個線蟲是一節(jié)一節(jié)的，然后每一節(jié)的結(jié)構(gòu)也非常簡單，每個小圓圈就代表一個神經(jīng)源。這個神經(jīng)源有一些是來控制運動的，肌肉可以收縮可以伸展。然后線蟲會怎樣運動呢?可以想象線蟲像波浪型往前游，就是靠一邊肌肉收縮，一邊肌肉收縮。一個時間段后，收縮的地方就伸展，伸展的地方就收縮，慢慢往前游。然后讓這個人工系統(tǒng)直線游，從右邊游到左邊，游的越快越好，但是不是從人的思維角度去設(shè)計，就是把線蟲放在水里面自己去游，每一次游的快慢有一個反饋，記錄單位時間里面游了多少厘米。我想觀察的是我給這個線蟲不同的任務(wù)和不同的體態(tài)時，這個神經(jīng)網(wǎng)絡(luò)會怎么出現(xiàn)，所以給這個線蟲分配了兩個任務(wù)。

　　第一個任務(wù)就是讓這個線蟲沿直線從A游到B，游的越快越好。設(shè)計神經(jīng)網(wǎng)絡(luò)控制器時，要使這個線蟲游得越快越好，實際上的控制器非常簡單。畫出來的幾個小圓圈相當于神經(jīng)源，神經(jīng)源的位置是可以調(diào)的。神經(jīng)源的位置調(diào)的不一樣，每一次收縮和伸展的力量也不一樣。我們研究神經(jīng)的結(jié)構(gòu)是什么樣的，這只是其中一節(jié)，右上角好像一個小數(shù)字，0、10、200、300 到 1190，這是我表示用這個算法來演化人工神經(jīng)網(wǎng)絡(luò)的時候多少代，第 0 代表示初始化，初始化不知道怎么設(shè)計，所以所有神經(jīng)源的位置在這個圖上面都是隨便放的。到了第 10 代的時候，結(jié)構(gòu)開始有點出現(xiàn)了，因為發(fā)現(xiàn)神經(jīng)源的連接會發(fā)展兩大體，左邊的神經(jīng)源也有連接，右邊的神經(jīng)源也有連接。到了 30 代、200 代、300 代的時候，你就發(fā)現(xiàn)有一定的規(guī)律出來，神經(jīng)源之間，左邊會連起來，右邊連起來，這之間沒有直接的聯(lián)系。這個不是人想出來的，是人研發(fā)出來的，到了 1190 代的時候，非常規(guī)整對稱的結(jié)構(gòu)就出來了，就是這兩邊的小距離幾乎是一樣的，這也不是人設(shè)計出來的，而是發(fā)現(xiàn)出來的。所以這蠻有趣的，剛開始沒有給演化算法任何的指示，只是給定了這樣的線蟲結(jié)構(gòu)，最后出現(xiàn)的神經(jīng)網(wǎng)絡(luò)卻是非常對稱的一個神經(jīng)網(wǎng)絡(luò)。

　　第二個任務(wù)是想研究這種情況下，神經(jīng)網(wǎng)絡(luò)和體態(tài)的關(guān)系。把線蟲的體態(tài)限制住，但任務(wù)還是要直著往上面走，從A到B。大家就可以想像，平常要這樣子波浪形往前走的話，在這種體態(tài)下是做不到的。因為這樣走就走右邊去了，不會往前走。但是我做實驗的時候，不告訴它這個算法，只告訴它這是現(xiàn)在的身體結(jié)構(gòu)有個地方被限制了。身體要往一邊歪的話，短的一面收縮，長的一面伸長，肯定不是對稱的。如果是對稱的，就不會順著頭的方向往前走。這是很明顯的一個小例子，說明設(shè)計一個人工神經(jīng)網(wǎng)絡(luò)或者是一般性探索智能系統(tǒng)，實際上是跟物理的體態(tài)有密切關(guān)系。

　　最根本的一點就是研究人工神經(jīng)網(wǎng)絡(luò)的時候，一定要考慮最后這個神經(jīng)網(wǎng)絡(luò)是放到什么樣的物理系統(tǒng)。比如說，你要研究這個機器人本身，同時又要設(shè)計控制這個機器人的系統(tǒng)，那么這個機器人的體態(tài)跟控制是有密切關(guān)系的，不能分開考慮。

　　總結(jié)

　　這三個問題總結(jié)起來就是三句話：

　　一是所有生物界的大腦都是演化而來的，不是上帝造出來的?，F(xiàn)在要設(shè)計人工大腦的時候，是不是應(yīng)該多考慮一點演化的過程，從演化的過程中應(yīng)該可以學到一點東西。

　　二是至少在自然界里面，人腦要能夠完成多項工作，而且這是在動態(tài)環(huán)境或者是不確定性環(huán)境里面進行的。而現(xiàn)在做的很多的人工智能系統(tǒng)都是把定義定在非常窄、非常具體的某個功能上，比如識別圖像或者是下棋之類的，這兩者實際上對將來真正設(shè)計的人工智能系統(tǒng)有著非常不一樣的影響，這個問題值得我們好好考慮。

　　三是所有的大腦在生物界都有一個載體，那就是身體，不存在光有大腦沒有身體的東西。這對于我們將來構(gòu)造智能又提出一個新的挑戰(zhàn)，就是在設(shè)計人工智能系統(tǒng)的時候要把載體考慮進去。