通用人工智能的四大基本問(wèn)題
《返樸》重新出發(fā),我的人工智能(AI)專(zhuān)欄也繼續(xù)搭載。和以前的做法一樣,我會(huì)把AI作為一個(gè)科學(xué)問(wèn)題(而非技術(shù)或商業(yè)問(wèn)題)來(lái)討論,力圖提煉智能、認(rèn)知、思維、意識(shí)等現(xiàn)象中的一般規(guī)律,或者說(shuō)探索在什么意義下計(jì)算機(jī)可以和人腦相提并論。和一般的科普不同,我寫(xiě)的更像是自己的“探險(xiǎn)筆記”,因?yàn)檫@個(gè)領(lǐng)域仍處于百家爭(zhēng)鳴時(shí)期,尚未有很多公認(rèn)的“科學(xué)”結(jié)論來(lái)被“普及”。如果讀者發(fā)覺(jué)我的“妄議”(或者“王議”)和別處看到的不同,可以想想哪種說(shuō)法更有道理,而不是哪種更流行。由于很多話題彼此交織,我會(huì)引用我以前寫(xiě)過(guò)的文字以避免重復(fù)。至于這個(gè)專(zhuān)欄的名稱(chēng),自然不是說(shuō)AI像《水滸》里的牛二,“滿城人見(jiàn)那廝來(lái)都躲了”。這事以后會(huì)交代。今天以基本問(wèn)題開(kāi)篇,就是先把招牌掛出來(lái),后面再陸續(xù)上貨
本文引用地址:http://butianyuan.cn/article/201903/398477.htm——王培
像很多其它研究領(lǐng)域一樣,人工智能的基本問(wèn)題可以提煉成四個(gè):“做什么?” “能做嗎?” “怎么做?” “該做嗎?” 下面是我對(duì)這些問(wèn)題的簡(jiǎn)略分析。
研 究 目 標(biāo)
我在《當(dāng)你談?wù)?a class="contentlabel" href="http://butianyuan.cn/news/listbylabel/label/人工智能">人工智能時(shí),到底在談?wù)撌裁?》(點(diǎn)擊文末“閱讀原文”查看,下同)中已經(jīng)列舉了“人工智能”名下五類(lèi)不同的研究目標(biāo),而目前流行的“人工智能就是用計(jì)算機(jī)解決那些以前只有人腦才能解決的問(wèn)題”就是其中的“能力派”。這一派的優(yōu)勢(shì)是通俗易懂,直接見(jiàn)效,但缺點(diǎn)是圈畫(huà)得太大,以至于以前叫“自動(dòng)化”“計(jì)算機(jī)應(yīng)用”的工作現(xiàn)在都趕時(shí)髦改叫“人工智能”了。由于這種界定使得AI涵蓋了大量完全不同的系統(tǒng),在此范圍內(nèi)建立一個(gè)統(tǒng)一的人工智能理論的可能性甚微。
在《人工智能迷途:計(jì)算機(jī)的高技能等于高智能嗎?》中,我介紹了“通用人工智能”的觀念及其在歷史中的浮沉。時(shí)至今日,這個(gè)詞越來(lái)越多地出現(xiàn)在各種討論中,但對(duì)其意義的理解仍有很多誤區(qū)。比如一個(gè)常見(jiàn)的說(shuō)法是把通用系統(tǒng)叫做“強(qiáng)人工智能”,而把專(zhuān)用系統(tǒng)叫做“弱人工智能”。這個(gè)區(qū)分不無(wú)道理(因?yàn)榍罢叩哪繕?biāo)遠(yuǎn)高于后者),但二者的區(qū)別其實(shí)不是能力的強(qiáng)弱(專(zhuān)用系統(tǒng)在能力上往往已經(jīng)遠(yuǎn)勝于人),而是應(yīng)用范圍和工作原理,所以這種稱(chēng)呼會(huì)使人將二者間“質(zhì)”的差別誤判為“量”的差別,以為把各種專(zhuān)用系統(tǒng)整合在一起就是通用系統(tǒng)了。
即便在當(dāng)前的通用人工智能研究者之中,對(duì)研究目的的確切設(shè)定也各有不同。有些人企圖盡可能忠實(shí)地模擬腦結(jié)構(gòu),有些人企圖在盡可能多的領(lǐng)域中取代人,有些人(包括我)企圖讓計(jì)算機(jī)遵循和人基本相同的“思維規(guī)律”。
有些讀者可能會(huì)想,連基本概念和目標(biāo)都沒(méi)弄清還怎么研究,殊不知對(duì)很多復(fù)雜現(xiàn)象的準(zhǔn)確刻畫(huà)不可能發(fā)生在研究的開(kāi)始,而會(huì)是研究結(jié)果的一部分,所以先“統(tǒng)一思想”是不現(xiàn)實(shí)的。另一方面,那種認(rèn)為無(wú)需爭(zhēng)辯“智能”定義,只需跟著直覺(jué)用法走就好的看法恰恰是目前這個(gè)領(lǐng)域中觀念混亂的重要原因,也是不可取的。人工智能研究中的很多爭(zhēng)論都可以回溯到對(duì)智能的不同理解,而這個(gè)問(wèn)題又不能靠字典、權(quán)威或民意測(cè)驗(yàn)來(lái)解決。如果研究目標(biāo)不一樣,對(duì)其它相關(guān)問(wèn)題的回答自然也就不會(huì)一樣。在這一議題上尚無(wú)共識(shí),恰恰更意味著我們應(yīng)注意辨識(shí)不同的研究目標(biāo),而避免籠統(tǒng)地?cái)嘌浴叭斯ぶ悄堋比绾稳绾巍?/p>
成 功 可 能
從“人工智能”“思維機(jī)器”等成為研究對(duì)象時(shí)起,這種努力的成功可能性就一直是有爭(zhēng)議的。隨著深度學(xué)習(xí)等技術(shù)的成功,目前流行話語(yǔ)中的人工智能(在某個(gè)具體問(wèn)題的解決能力上達(dá)到或超過(guò)人類(lèi))的可能性不再是問(wèn)題,但通用人工智能的可能性仍是受到廣泛懷疑的。
對(duì)這個(gè)問(wèn)題的肯定性論證即使在學(xué)術(shù)界認(rèn)為大功告成之后的很長(zhǎng)時(shí)間內(nèi)仍不會(huì)被公眾普遍接受,比如有人會(huì)堅(jiān)持說(shuō)它沒(méi)有“靈魂”,不管它做到了什么。因此,我下面只簡(jiǎn)單說(shuō)明為什么現(xiàn)有的否定性論證都是不能成立的。這里有幾種不同的情況。
一類(lèi)“人工智能不可能”的斷言是出于對(duì)這個(gè)領(lǐng)域的研究目標(biāo)的誤解,因而是在攻擊一個(gè)稻草人。持這種態(tài)度的人往往以為這個(gè)領(lǐng)域的目標(biāo)是制造在所有方面都和人一摸一樣的計(jì)算機(jī)。找些證據(jù)說(shuō)明這不可能并不難,但問(wèn)題是,我還不知道任何研究者真是沖著那個(gè)目標(biāo)去的。實(shí)際上,所有研究人工智能(包括通用人工智能)的人都只是認(rèn)為計(jì)算機(jī)可以在某些方面和某種程度上和人腦相類(lèi)似。很多研究者認(rèn)為在“人類(lèi)智能”的諸多現(xiàn)象之中存在一個(gè)更一般的“智能”機(jī)制,而“人工智能”是這個(gè)機(jī)制的另一種實(shí)現(xiàn)方式。按照這種觀點(diǎn),即使人工智能完全實(shí)現(xiàn),也不會(huì)和人類(lèi)智能在外部表現(xiàn)上完全相同。因此,這種“人工智能不可能”的論斷不會(huì)對(duì)這個(gè)領(lǐng)域中的研究有任何影響。
相比之下,另一類(lèi)“人工智能不可能”的論證是值得重視的,因?yàn)樗鼈兪侵敝溉斯ぶ悄芗夹g(shù)的某些“死穴”。比較常見(jiàn)的包括“計(jì)算機(jī)必須遵循程序,因此不可能有靈活性和創(chuàng)造性”“計(jì)算機(jī)只能根據(jù)形式來(lái)使用符號(hào),但無(wú)法獲得其意義”“有些真理人能發(fā)現(xiàn),但計(jì)算機(jī)永遠(yuǎn)不能”。在這里,我不具體討論它們(參見(jiàn)我以前的文章),只是指出它們的一個(gè)共同問(wèn)題:其實(shí)這里每個(gè)論證都是針對(duì)一個(gè)具體的智能技術(shù)或計(jì)算機(jī)用法,但結(jié)論卻往往是“人工智能”如何如何、“計(jì)算機(jī)”怎樣怎樣,其結(jié)果是夸大了其結(jié)論的適用范圍。這些討論對(duì)人工智能的發(fā)展是有益的,因?yàn)樗鼈儚姆疵鏋樾吕碚?、新技術(shù)的研發(fā)提供了借鑒。遺憾的是,至今仍有不少人以為它們限定了所有人工智能研究所能達(dá)到的高度。
具有諷刺意味的是,在近期對(duì)人工智能的限度的討論中,很多形如“人工智能永遠(yuǎn)也無(wú)法……”的斷言反而是出自“人工智能專(zhuān)家”之口。這其實(shí)也源于主流人工智能在歷經(jīng)挫敗后對(duì)“大問(wèn)題”的回避。很多人研究多年“人工智能”,但只是注重于對(duì)某個(gè)別功能的實(shí)現(xiàn)和某個(gè)別問(wèn)題的解決,因此在他們說(shuō)“沒(méi)人知道如何實(shí)現(xiàn)通用智能”時(shí),他們實(shí)際上說(shuō)的是“我不知道怎么做,而且我所追隨的那些名人也不知道怎么做。其它人的工作不值得注意,因?yàn)榉凑麄円策€沒(méi)做出來(lái)呢”。由于有理由認(rèn)為通用智能系統(tǒng)和專(zhuān)用系統(tǒng)是非常不同的領(lǐng)域,在后者的研究中成名的人物對(duì)前者發(fā)言時(shí)權(quán)威性其實(shí)是很有限的,而且“現(xiàn)在還沒(méi)做出來(lái)”和“永遠(yuǎn)也不能做出來(lái)”顯然不是一回事。
總之,通用人工智能目前起碼應(yīng)被看作是可能的,因?yàn)闆](méi)有足夠強(qiáng)的反面理由。
實(shí) 現(xiàn) 途 徑
由于專(zhuān)用系統(tǒng)的實(shí)現(xiàn)途徑因問(wèn)題而異,在這里我只討論通用人工智能,而且只集中分析幾種常見(jiàn)的觀點(diǎn),而把對(duì)我自己的研究進(jìn)路的介紹留給其它文章。
在相信通用人工智能可能實(shí)現(xiàn)的人們當(dāng)中,目前最被看好的技術(shù)自然非深度學(xué)習(xí)莫屬。每當(dāng)深度學(xué)習(xí)的一個(gè)新用途出現(xiàn),總會(huì)有人說(shuō) “這標(biāo)志著又向通用人工智能前進(jìn)了一步”,似乎在這個(gè)方向上走下去就是了。在《深度神經(jīng)網(wǎng)絡(luò)會(huì)產(chǎn)生人這樣的智能嗎?》中,我已經(jīng)說(shuō)明了通過(guò)深度學(xué)習(xí)以及相關(guān)的機(jī)器學(xué)習(xí)技術(shù)實(shí)現(xiàn)通用智能的困難。這里要補(bǔ)充的一點(diǎn)是:有人認(rèn)為深度學(xué)習(xí)已經(jīng)是“通用”的了,因?yàn)檫@個(gè)技術(shù)可以被應(yīng)用于很多不同的領(lǐng)域。但這不是“通用人工智能”的意思。深度神經(jīng)網(wǎng)絡(luò)的確既能被訓(xùn)練下圍棋,也能識(shí)別照片,但同一個(gè)網(wǎng)絡(luò)不能同時(shí)做這兩件事。由于以往的機(jī)器學(xué)習(xí)研究基本上都是以“逼近單一函數(shù)”為指向的,把它們推廣到多目標(biāo)(尤其是設(shè)計(jì)時(shí)沒(méi)有考慮過(guò)的目標(biāo))絕不是個(gè)容易的事,因?yàn)樗笳麄€(gè)研究規(guī)范的根本改變。時(shí)至今日,尚沒(méi)有一個(gè)用深度學(xué)習(xí)實(shí)現(xiàn)通用人工智能的完整路線圖,而相信這個(gè)可能性的人往往是從已有的成果做簡(jiǎn)單外推。
另一個(gè)想法是整合各種專(zhuān)用“模塊”于一個(gè)“構(gòu)架”之中,以讓它們分工協(xié)作,成為一個(gè)通用系統(tǒng)。這是個(gè)很自然的想法,也有不少人在試。但是這條路遠(yuǎn)不如看上去那么理所當(dāng)然。隨便找一本人工智能教科書(shū),其中提到的算法或設(shè)計(jì)就得有幾百個(gè),各有不同的用途。把它們都實(shí)現(xiàn)在同一個(gè)計(jì)算機(jī)系統(tǒng)中在原則上是可能的,但決定在什么時(shí)候用哪個(gè)工具,這本身大概就需要通用智能了,更不要說(shuō)這些工具各自的理論預(yù)設(shè)往往是互相沖突的,因此無(wú)法互相協(xié)調(diào)。另一個(gè)大問(wèn)題是諸認(rèn)知功能的劃分大致上是沿用心理學(xué)的傳統(tǒng)(如推理、學(xué)習(xí)、記憶、聯(lián)想、感知、運(yùn)動(dòng)、語(yǔ)言、情緒、意識(shí)等等),盡管它們之間的聯(lián)系顯然非常密切。如果智能的確是“橫看成嶺側(cè)成峰”,那么從不同角度和距離描繪不同的“嶺”和“峰”自然可以,但如果目的是給廬山造個(gè)模型,那么分別構(gòu)造這些“嶺”和“峰”,然后再把它們“組裝”起來(lái),這就不對(duì)了,因?yàn)檫@些“構(gòu)件”更應(yīng)被看作同一個(gè)對(duì)象的不同側(cè)面,而非不同部分。
有人試圖通過(guò)構(gòu)造更“忠實(shí)于人腦”的模型來(lái)達(dá)到各認(rèn)知功能的統(tǒng)一再現(xiàn)。像我在《深度神經(jīng)網(wǎng)絡(luò)會(huì)產(chǎn)生人這樣的智能嗎?》中所說(shuō)的,這條途徑的最大問(wèn)題不是其難度,而是其必要性。如果我們把智能看成一種有不同實(shí)現(xiàn)方式的認(rèn)知機(jī)制,那就沒(méi)有理由認(rèn)為人腦是唯一能實(shí)現(xiàn)它的方式,盡管它的確是我們最熟悉的方式。和人腦在實(shí)現(xiàn)細(xì)節(jié)上最接近的模型未必是人工智能最合適的模型,盡管這種模型對(duì)腦科學(xué)而言很有價(jià)值。
總之,在實(shí)現(xiàn)其它目的時(shí)有效的技術(shù)未必對(duì)通用人工智能有很大貢獻(xiàn),因?yàn)檫@里的目標(biāo)和制約條件非常不一樣。在選擇技術(shù)路線時(shí)應(yīng)當(dāng)從智能的特征出發(fā),同時(shí)考慮計(jì)算機(jī)系統(tǒng)的現(xiàn)實(shí)條件。
倫 理 抉 擇
最后,即使我們發(fā)現(xiàn)了建造思維機(jī)器的途徑,那也不一定意味著我們真要把它做出來(lái)。已經(jīng)有很多名人大聲疾呼地要求人工智能慢下來(lái)甚至停下來(lái)了,因?yàn)樗麄兒ε氯祟?lèi)失去“萬(wàn)物之靈”的地位及其后果。關(guān)于這種詰難,我已經(jīng)寫(xiě)了《人工智能危險(xiǎn)嗎?》來(lái)回應(yīng),而這里只是再加些補(bǔ)充。
首先,很多“人工智能專(zhuān)家”對(duì)AI安全性所做的保證往往只涉及他們所構(gòu)建或能夠設(shè)想的系統(tǒng),其中完全沒(méi)有適應(yīng)性、靈活性、自主性、創(chuàng)造性等通用人工智能系統(tǒng)才可能具有的特征,因此說(shuō)的基本就是另外一個(gè)問(wèn)題。由于這些特征,通用人工智能帶來(lái)的倫理道德問(wèn)題和傳統(tǒng)技術(shù)有根本的不同,因此要求不同的應(yīng)對(duì)方案。
作為適應(yīng)性系統(tǒng),通用人工智能最大的特點(diǎn)之一就是其行為不僅僅取決于設(shè)計(jì)(先天因素),而更加依賴于經(jīng)驗(yàn)(后天因素),因此對(duì)這種系統(tǒng)的控制需要通過(guò)影響它的經(jīng)驗(yàn)來(lái)實(shí)現(xiàn),就像社會(huì)對(duì)個(gè)人的制約那樣。因此,不能指望人工智能工作者可以設(shè)計(jì)出永不犯錯(cuò)的系統(tǒng),也不能奢望對(duì)人工智能安全性的研究可以預(yù)先排除掉所有危險(xiǎn)。而在另一方面,在這種系統(tǒng)上進(jìn)行的研究可以極大豐富我們對(duì)適應(yīng)性系統(tǒng)(包括人和動(dòng)物)的認(rèn)識(shí),將教育學(xué)和社會(huì)學(xué)(甚至經(jīng)濟(jì)學(xué)和法學(xué))的研究范圍擴(kuò)展至包括智能機(jī)器在內(nèi)。
和其它問(wèn)題一樣,對(duì)人工智能的恐懼常常來(lái)自對(duì)其研究目標(biāo)的誤解。很多人以為“通用人工智能”會(huì)是在一切領(lǐng)域超過(guò)人類(lèi),以至于近乎全知全能的存在,所以這種系統(tǒng)的出現(xiàn)會(huì)在人類(lèi)歷史上造成一個(gè)“奇點(diǎn)”,此后的發(fā)展便不在我們的掌控甚至理解范圍之內(nèi)了。至今為止,我還沒(méi)有看到足以使我相信這一結(jié)論的證據(jù)。我認(rèn)為通用人工智能完全可以造出來(lái),而這種系統(tǒng)會(huì)有和人非常類(lèi)似的認(rèn)知功能。但是,這不意味著計(jì)算機(jī)可以全面達(dá)到以至超越人的解決問(wèn)題能力,因?yàn)檫m應(yīng)系統(tǒng)的行為依賴于其經(jīng)驗(yàn),而一個(gè)人工智能系統(tǒng)是不會(huì)擁有和人完全相同的經(jīng)驗(yàn)的。因此,人和機(jī)器的具體能力會(huì)有重合,但仍會(huì)有人能解決但機(jī)器不能解決的問(wèn)題。像我在《人工智能迷途:計(jì)算機(jī)的高技能等于高智能嗎?》中所解釋的,通用的“智能”和專(zhuān)用的“技能”不是一回事。不同形式的智能,不論是人類(lèi)還是人造的,在前一方面都類(lèi)似,而在后一方面未必可比,就像沒(méi)法說(shuō)諸葛亮、達(dá)芬奇、莫扎特誰(shuí)更聰明。這也說(shuō)明通用人工智能的工作原理仍是我們可以理解的,其行為也是可以通過(guò)對(duì)其經(jīng)驗(yàn)加以影響來(lái)控制的,盡管它的運(yùn)算速度可能很快,存儲(chǔ)量可能很大,經(jīng)驗(yàn)可能和我們非常不同,因此它的具體行為可能不是那么容易解釋或預(yù)測(cè)。
總之,人工智能研究的正當(dāng)性既來(lái)自人類(lèi)認(rèn)識(shí)思維一般規(guī)律的長(zhǎng)期渴望,也來(lái)自社會(huì)發(fā)展對(duì)復(fù)雜信息加工的實(shí)際需求。這項(xiàng)研究同時(shí)也帶來(lái)了新的挑戰(zhàn),對(duì)此我們絕不能掉以輕心,但也不該盲目恐懼。要避免AI造成的危險(xiǎn),起碼要把AI是怎么回事搞對(duì)吧?那些“AI必然導(dǎo)致災(zāi)難”的斷言在這一方面往往都不及格,其結(jié)果是和風(fēng)車(chē)作戰(zhàn),反而對(duì)可能性大很多的危險(xiǎn)毫無(wú)提防。除非我們有足夠的證據(jù)認(rèn)為某項(xiàng)技術(shù)(包括各種意義下的人工智能)的確會(huì)是弊大于利,我們還是有充分理由來(lái)繼續(xù)這項(xiàng)探索,同時(shí)拒絕廉價(jià)的保票,準(zhǔn)備好對(duì)該技術(shù)的各種后果進(jìn)行盡可能恰當(dāng)?shù)膽?yīng)對(duì)。
評(píng)論