霍金的告誡:當(dāng)心人工智能的反噬
在《未來(lái)戰(zhàn)士》《二十二世紀(jì)殺人網(wǎng)絡(luò)》等電影里,有機(jī)器人滿世界追打人類的鏡頭。相信當(dāng)時(shí)看過(guò)這些電影情節(jié)的人,內(nèi)心的感受是復(fù)雜的。不過(guò),緣于那些情節(jié)與現(xiàn)實(shí)生活還存在著相當(dāng)大的差距,因而人們所持的基本上都是不置可否的態(tài)度。然而,隨著人工智能技術(shù)的不斷突破,機(jī)器人已由當(dāng)初極其有限的“領(lǐng)悟力”轉(zhuǎn)變?yōu)槟軌蜃R(shí)別人類面部表情并與人進(jìn)行情感交流的一個(gè)“活體”。本來(lái),機(jī)器人面世后,就因?yàn)樗鼈兺ǔ6际悄骋环矫娴男袨閷<?,具有人類個(gè)體所不能企及的特長(zhǎng)而讓人類刮目相看。現(xiàn)在,機(jī)器人具有了“情感”,具備了思索能力,那么,在將來(lái)的某一天,它們就會(huì)像人類一樣,自我設(shè)計(jì),自我制造,以致驅(qū)逐和殺戮人類,最終終結(jié)人類。
本文引用地址:http://butianyuan.cn/article/201808/390266.htm那么,會(huì)不會(huì)出現(xiàn)人工智能反噬人類的情形呢?這是現(xiàn)代人杞人憂天呢,還是有些人的故意危言聳聽呢?可以說(shuō),一切都未定論。在當(dāng)今科技領(lǐng)域,包括一些頂尖人工智能專家都認(rèn)為,人工智能會(huì)反噬人類,人類發(fā)展人工智能,將會(huì)讓人類踏上不歸路。享譽(yù)世界的英國(guó)天體物理學(xué)家、英國(guó)劍橋大學(xué)著名教授史蒂芬·威廉·霍金就是持這種觀點(diǎn)的人員之一。他發(fā)出警告道:“完美人工智能的開發(fā),便意味著人類的終結(jié)!”
2015年10月初,在Reddit網(wǎng)站舉行的“問(wèn)我任何問(wèn)題”(Ask Me Anything)活動(dòng)環(huán)節(jié)中,霍金教授在回復(fù)提問(wèn)時(shí),再次重申了他一直堅(jiān)持的關(guān)于人工智能的觀點(diǎn):“人工智能技術(shù),未來(lái)必將對(duì)人類構(gòu)成威脅。”不過(guò),他同時(shí)強(qiáng)調(diào),這其中最大的危險(xiǎn)不是機(jī)器人會(huì)有計(jì)劃地摧毀人類,而是它們完全拋棄了人類,具有了自主決策的能力。他認(rèn)為,機(jī)器人不可能會(huì)產(chǎn)生與人類敵對(duì)的意識(shí),但它們?cè)谧非笞陨碓O(shè)定的目標(biāo)時(shí),會(huì)對(duì)人類的利益造成傷害。他說(shuō):“真正的風(fēng)險(xiǎn)不在于敵意,而在于能力。超級(jí)人工智能機(jī)器人將極善于達(dá)成自己所設(shè)定的目標(biāo),而如果它所設(shè)定的目標(biāo)與我們的目標(biāo)并不相互吻合,那么我們就有麻煩了。舉個(gè)例子,你有時(shí)候踩死一些螞蟻,但這并非出于你對(duì)螞蟻的主觀惡意,但如果你恰好準(zhǔn)備在某個(gè)地區(qū)修建一個(gè)水電站,而那片地區(qū)正好有一個(gè)蟻穴,那么對(duì)于螞蟻來(lái)說(shuō),這可真是個(gè)壞消息?!币簿褪钦f(shuō),機(jī)器人帶給人類的傷害,很大程度上屬于無(wú)意傷害。這也就意味著人類由地球上萬(wàn)物之靈長(zhǎng)的位置上跌落下來(lái),淪落為由自己一手制造出來(lái)的機(jī)器人占主導(dǎo)地位之下的二等公民。因而,霍金揭示道:“不要把我們?nèi)祟愖约悍诺侥切┪浵伒奈恢蒙先??!?/p>
霍金認(rèn)為,人工智能機(jī)器人因具有了情感,最終會(huì)進(jìn)化出對(duì)生存的渴望。他為此說(shuō)道:“未來(lái)一臺(tái)高度先進(jìn)的人工智能設(shè)備將逐漸發(fā)展出求生的本能,并將努力獲取實(shí)現(xiàn)其自身所設(shè)定目標(biāo)所需要的資源。因?yàn)樯嫦聛?lái)并獲取更多資源將能夠增加其實(shí)現(xiàn)其他目標(biāo)的機(jī)會(huì)。對(duì)于人類而言這將導(dǎo)致生存問(wèn)題的發(fā)生,因?yàn)槲覀兊馁Y源將會(huì)被掠奪?!彼赋?,隨著人工智能技術(shù)的發(fā)展,智能機(jī)器人具備了人類一樣的生存能力,它們就會(huì)不再依賴人類,而是會(huì)自主進(jìn)行自我完善和自我升級(jí)。這時(shí),機(jī)器人世界就會(huì)出現(xiàn)“技術(shù)大爆炸”。最終,機(jī)器人的技術(shù)能力就會(huì)遠(yuǎn)遠(yuǎn)超越人類,終至把人類越甩越遠(yuǎn),就如同現(xiàn)階段人類的技術(shù)能力遠(yuǎn)遠(yuǎn)超越蝸牛一樣。
不過(guò),霍金同時(shí)也表示,就目前人工智能技術(shù)發(fā)展現(xiàn)狀來(lái)說(shuō),與研制出和人腦功能相當(dāng)或遠(yuǎn)超人腦功能的機(jī)器的要求還存在著相當(dāng)遙遠(yuǎn)的差距。他說(shuō):“當(dāng)這件事最終發(fā)生時(shí),那或許將成為人類歷史上發(fā)生過(guò)的最好或是最壞的事,因此把這個(gè)問(wèn)題弄清楚將具有極大的價(jià)值。我們或許將花上幾十年的時(shí)間才能找出問(wèn)題的答案,那么就讓我們從今天開始啟動(dòng)這項(xiàng)研究,而不是拖到超級(jí)機(jī)器人即將被啟動(dòng)的前一天晚上?!?/p>
霍金參與Reddit網(wǎng)站舉行的“問(wèn)我任何問(wèn)題”活動(dòng),一共獲得超過(guò)9000條的提問(wèn)和評(píng)論,成為該網(wǎng)站舉行的這類活動(dòng)中關(guān)注度較高的一次。緣于工作和身體的原因,他在四個(gè)月之后才有時(shí)間回復(fù)網(wǎng)民的提問(wèn)。在回復(fù)的問(wèn)題中,大部分問(wèn)題都涉及人工智能領(lǐng)域,而在回復(fù)中他頻繁地表示了自己的擔(dān)憂。在此次活動(dòng)前,他曾與幾位頂尖科學(xué)家和美國(guó)企業(yè)家埃隆·馬斯克簽署了一份公開信,同樣表達(dá)了對(duì)未來(lái)人工智能對(duì)人類構(gòu)成威脅的擔(dān)憂。他稱,在下個(gè)世紀(jì),人類的能力將會(huì)被機(jī)器人超越。因而,科學(xué)家務(wù)必要確保人工智能的未來(lái)目標(biāo)是與人類的發(fā)展目標(biāo)相一致的。
可以想象,機(jī)器人掌握了人類的心理和應(yīng)對(duì)模式之后,就可以輕易控制和塑造人類情感。屆時(shí),在機(jī)器人高人一等的優(yōu)越感面前,具有強(qiáng)烈自尊的人類會(huì)不會(huì)感到無(wú)地自容而整體消亡呢?好在一切都還為時(shí)過(guò)早,也就有了與霍金相反的觀點(diǎn)。這些觀點(diǎn)認(rèn)為,人工智能只是人的身體、智力的一種工具性延伸,它所不斷增強(qiáng)的也只是這種工具性的能力,而不是像人類那樣具有無(wú)中生有的發(fā)明創(chuàng)造能力?,F(xiàn)今出現(xiàn)的機(jī)器人戰(zhàn)勝人類的各種能力,棋藝也好,自動(dòng)駕駛技能也好,都是在人類現(xiàn)有能力基礎(chǔ)上,對(duì)人類知識(shí)、信息處理方式所總結(jié)出的一種優(yōu)化處理方式。即使是所謂的情感機(jī)器人,也只是對(duì)人類的表情和語(yǔ)言特征進(jìn)行程序化應(yīng)對(duì),并不表明機(jī)器人擁有了同人類一樣的情感。因而,人工智能就好比戰(zhàn)士手中的武器,它具有人類肉身所不能取得的功效,但武器本身并不具備奪取生命的主動(dòng)權(quán),而是完全聽命于掌控它的使用者。
從技術(shù)和現(xiàn)實(shí)兩個(gè)層面來(lái)看,人工智能所放大的只是人類現(xiàn)有的能力。受到特質(zhì)條件的限制,它不可能具備大規(guī)模自我批量升級(jí)和進(jìn)化的能力。因此,我們也就不用擔(dān)心它們會(huì)自己建廠,自我加工,自我提升腦力,自我升級(jí)。從人類開發(fā)的動(dòng)機(jī)的目的性上來(lái)說(shuō),人工智能也不具備不可控性。
綜合各方觀點(diǎn),無(wú)論是霍金的反噬論,還是相反的人工智能可控論,人工智能最終是天使還是魔鬼,完全取決于開發(fā)和應(yīng)用技術(shù)的人。只要人類自身能約束好自己,未來(lái)的人工智能就一定會(huì)沿著服務(wù)于人類的方向前行。
評(píng)論