谷歌研究員被群嘲：LaMDA有人格是胡說(shuō)八道！谷歌也回應(yīng)：想多了，就是會(huì)聊而已
發(fā)布人：硅星人
時(shí)間：2022-06-16
來(lái)源：工程師
發(fā)布文章
加入技術(shù)交流群
掃碼加入
和技術(shù)大咖面對(duì)面交流
海量資料庫(kù)查詢(xún)
跟統(tǒng)計(jì)機(jī)器談感情，你就輸了。
——
文｜杜晨 編輯｜VickyXiao 題圖來(lái)源：News Text Area、谷歌
什么？AI 具備人格了？？谷歌前不久搞出來(lái)了一個(gè)超大規(guī)模語(yǔ)言模型 LaMDA。公司里有個(gè)研究員 Blake Lemoine 跟它聊了很久，對(duì)其能力感到十分驚訝，于是下了個(gè)結(jié)論：LaMDA 可能已經(jīng)具備人格了。（原話(huà)用的詞是 sentient，在不同的語(yǔ)境下可以被翻譯為感情、智慧、知覺(jué)等。）很快，這位仁兄就被“帶薪休假了”。
但他不是一個(gè)人：就連公司 VP Blaise Agüera y Arcas 都在發(fā)表文章，表示 AI 在獲得意識(shí)方面實(shí)現(xiàn)了巨大進(jìn)步，“已經(jīng)進(jìn)入了一個(gè)嶄新時(shí)代?！?/span>
消息經(jīng)過(guò)一眾媒體的報(bào)道，震撼了整個(gè)科技世界。不僅學(xué)術(shù)和工業(yè)界，就連很多普通人，都對(duì) AI 技術(shù)的飛躍大吃一驚。“這一天終于來(lái)了？”“孩子們（如果你們將來(lái)還能活下來(lái)的話(huà)），請(qǐng)記住，這就是一切的開(kāi)始。”然而，真正的 AI 專(zhuān)家們，卻對(duì)此嗤之以鼻。| AI具備人格？眾大佬嗤之以鼻斯坦福 HAI 中心主任 Erik Brynjolfsson 直接把這件事比喻為“面對(duì)留聲機(jī)的狗”，他發(fā)推表示：“基礎(chǔ)模型 (foundation models，也即自我監(jiān)督的大規(guī)模深度神經(jīng)網(wǎng)絡(luò)模型) 非常擅長(zhǎng)做的一件事，就是根據(jù)提示，將文本采用統(tǒng)計(jì)學(xué)上合理的方式串起來(lái)。但是如果你說(shuō)他們是有知覺(jué)的，就好比狗聽(tīng)到留聲機(jī)里的聲音，以為它的主人在里面一樣?！?/span>
紐約大學(xué)心理學(xué)教授 Gary Marcus，同時(shí)也是一位頗為知名的機(jī)器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)專(zhuān)家，還直接撰文吐槽 LaMDA 具備人格 “胡說(shuō)八道” (Nonsense)。[1]
“簡(jiǎn)直是扯淡。無(wú)論是 LaMDA 還是它的近親們（比如 GPT-3）都沒(méi)有什么智能。它們所做的只是從人類(lèi)語(yǔ)言的大規(guī)模統(tǒng)計(jì)數(shù)據(jù)庫(kù)當(dāng)中提取，然后匹配模式。這些模式可能很酷，但這些系統(tǒng)說(shuō)出的語(yǔ)言，實(shí)際上根本沒(méi)有任何的意義，更不可能意味著這些系統(tǒng)是有智慧的?！?/span>翻譯成白話(huà)就是：你看著 LaMDA 說(shuō)的話(huà)都特別有哲理，特別真實(shí)，特別像人——然而它的設(shè)計(jì)功能就是模仿別人說(shuō)話(huà)，它其實(shí)根本不知道自己在說(shuō)什么。“具備知覺(jué) (to be sentient) 的意思是意識(shí)到你在這個(gè)世界里的存在。LaMDA 并沒(méi)有這樣的意識(shí)，” Marcus 寫(xiě)道。如果你以為這些聊天機(jī)器人具有人格，那么有幻覺(jué)的應(yīng)該是你……比如在拼字游戲比賽當(dāng)中，經(jīng)常能看到母語(yǔ)非英語(yǔ)的玩家拼出英文單詞，卻根本不知道單詞是什么意思——LaMDA 也是如此，它只是會(huì)說(shuō)話(huà)，卻根本不知道自己說(shuō)的話(huà)是什么意思。Marcus 大佬直接把這種對(duì)于 AI 獲得人格的錯(cuò)覺(jué)，形容為一種新型的“空想性錯(cuò)覺(jué)”，也即把天空中的云看成龍和小狗，把月球上的隕石坑看成人臉和月兔。
AI 學(xué)術(shù)界新星之一，Mozilla 基金會(huì)高級(jí)研究員 Abeba Birhane 也表示：“帶著最小限度的批判思維，我們終于登上了AI炒作的巔峰。”Birhane 是所謂的 “AI 知覺(jué)論” 的長(zhǎng)期批評(píng)者。她在一篇發(fā)表于2020年的論文里，曾經(jīng)直接提出了以下幾個(gè)觀(guān)點(diǎn)：1）大家天天炒的 AI 并不是真的 AI，而是統(tǒng)計(jì)學(xué)系統(tǒng)，是機(jī)器人 (robot)；2）我們不應(yīng)該賦予機(jī)器人權(quán)利；3）我們甚至壓根就不應(yīng)該討論是否要賦予機(jī)器人權(quán)利……比利時(shí) Donders Institute 計(jì)算認(rèn)知科學(xué)教授 Olivia Guest 也加入了“戰(zhàn)局“，稱(chēng)整個(gè)事情的邏輯是錯(cuò)亂的。“‘我看到的東西像人，因?yàn)槲?/span>按照人的樣子開(kāi)發(fā)的它，所以它是一個(gè)人’——簡(jiǎn)直是倒騎驢的邏輯。”
英國(guó)謝菲爾德大學(xué)機(jī)器人學(xué)院教授 Roger Moore 指出：人們會(huì)有 “AI 獲得人格”的這種錯(cuò)覺(jué)，一個(gè)最關(guān)鍵的原因就是當(dāng)年的那幫研究員非要管這項(xiàng)工作叫做“語(yǔ)言建模”。正確的叫法應(yīng)該是“詞序建模”(word sequence modelling)。“你開(kāi)發(fā)了一個(gè)算法，卻不用它實(shí)際能做的事情去命名，而是用你想要解決的問(wèn)題——這樣總是會(huì)發(fā)生誤會(huì)?！?/span>
總而言之，各位業(yè)界大牛的結(jié)論就是：你最多可以說(shuō) LaMDA 能夠高分通過(guò)圖靈測(cè)試。說(shuō)它具備人格？那可真是太搞笑了。更何況就連圖靈測(cè)試的參考價(jià)值也沒(méi)那么高了。Macus 直言，很多 AI 學(xué)者希望這個(gè)測(cè)試被取消、被人們遺忘的原因，正是因?yàn)樗昧巳祟?lèi)容易上當(dāng)，傾向于將機(jī)器當(dāng)作人的這一弱點(diǎn)。華盛頓大學(xué)的計(jì)算機(jī)語(yǔ)言系主任 Emily Bender 教授，干脆做了一個(gè)“AI 人格意識(shí)爭(zhēng)論”的賓果卡：（這個(gè)賓果卡的意思就是，如果你認(rèn)為 AI 有人格/知覺(jué)，并且你的論據(jù)是下面的其中一種，那你最好就別聊了?。?/span>
原版：
| 谷歌也回應(yīng)：別想多，它就是會(huì)聊而已那位被指為”走火入魔“的研究員 Blake Lemoine 在自己發(fā)表的一篇文章中，批評(píng)谷歌對(duì)于了解自己開(kāi)發(fā)成果的真實(shí)情況“沒(méi)有興趣”，然而自己在長(zhǎng)達(dá)6個(gè)月的對(duì)話(huà)事件當(dāng)中，看到 LaMDA 對(duì)于自己想要的東西，特別是“自己作為人的權(quán)利”，表達(dá)的越來(lái)越清晰，使得自己相信 LaMDA 真的是人。然而在谷歌看來(lái)，這位研究員完全想多了，甚至有點(diǎn)走火入魔了。LaMDA 真的不是人，它純粹就是特別會(huì)聊天而已……事情在社交網(wǎng)絡(luò)上發(fā)酵之后，谷歌很快作出了回應(yīng)：LaMDA 和公司近幾年的大型 AI 項(xiàng)目一樣，都經(jīng)過(guò)了多次嚴(yán)格的 AI 道德方面的審核，對(duì)其內(nèi)容、質(zhì)量、系統(tǒng)安全性等進(jìn)行了多方面的考量。今年早些時(shí)候，谷歌也專(zhuān)門(mén)發(fā)表了一篇論文，公開(kāi)了 LaMDA 開(kāi)發(fā)過(guò)程當(dāng)中的合規(guī)細(xì)節(jié)。“在 AI 群體內(nèi)，對(duì)于具備感知的 AI/通用 AI 的長(zhǎng)期可能性，確實(shí)有一些研究。然而在今天把對(duì)話(huà)模型來(lái)擬人化，這樣做是沒(méi)有意義的，因?yàn)檫@些模型是沒(méi)有知覺(jué)的?！?/span>“這些系統(tǒng)能夠基于數(shù)以百萬(wàn)計(jì)的句子來(lái)模仿交流的方式，并且在任何有趣的話(huà)題上都能夠扯出有意思的內(nèi)容。如果你問(wèn)它們做一支冰激淋恐龍是怎樣的體驗(yàn)，它們可以生成大量關(guān)于融化咆哮之類(lèi)的文字。”
（These systems imitate the types of exchanges found in millions of sentences, and can riff on any fantastical topic — if you ask what it’s like to be an ice cream dinosaur, they can generate text about melting and roaring and so on.）
類(lèi)似的故事我們見(jiàn)過(guò)太多了，特別是前幾年一個(gè)非常經(jīng)典的電影《她》(Her) 里面，主角對(duì)于虛擬助手的身份界限越來(lái)越不清晰，把“她”當(dāng)成了人。然而根據(jù)電影的描繪，這種錯(cuò)覺(jué)其實(shí)來(lái)自于當(dāng)代人社交失敗、情感破裂、孤獨(dú)感等一系列自我和社會(huì)性的問(wèn)題，跟聊天機(jī)器人到底是不是人這一技術(shù)性的問(wèn)題，壓根沒(méi)有半毛錢(qián)關(guān)系。
電影《她》劇照 圖片來(lái)源：華納兄弟影業(yè)
當(dāng)然，有這些問(wèn)題并不是我們的錯(cuò)，想要把機(jī)器人當(dāng)成人，也不是那個(gè)研究員的錯(cuò)。將各種情緒（比如思念）托付在物件上，是人類(lèi)自古以來(lái)就具有的一種創(chuàng)造性的情感能力。將大規(guī)模語(yǔ)言模型當(dāng)成人，對(duì)其傾注情感，雖然被各位 AI 大佬批評(píng)為一種心理誤差，不也正是人之所以為人的體現(xiàn)嗎？不過(guò)，至少在今天，談啥都別跟機(jī)器人談感情……參考資料：[1] Nonsense on Stilts by Gary Marcus https://garymarcus.substack.com/p/nonsense-on-stilts*博客內(nèi)容為網(wǎng)友個(gè)人發(fā)布，僅代表博主個(gè)人觀(guān)點(diǎn)，如有侵權(quán)請(qǐng)聯(lián)系工作人員刪除。
