有知識(shí)、有情感、懂幽默的社交機(jī)器人來了？與機(jī)器人談情說愛，真的不遠(yuǎn)了嗎？
發(fā)布人：大數(shù)據(jù)文摘
時(shí)間：2022-12-23
來源：工程師
發(fā)布文章
加入技術(shù)交流群
掃碼加入
和技術(shù)大咖面對(duì)面交流
海量資料庫查詢
隨著人工智能對(duì)人類認(rèn)知能力模仿水平的提升，智能機(jī)器人能否產(chǎn)生自我意識(shí)和情感的問題已從遠(yuǎn)慮逐漸變成近憂。
最近一段時(shí)間，人工智能和機(jī)器人領(lǐng)域最火的話題莫過于智能對(duì)話系統(tǒng)“生成式預(yù)訓(xùn)練模型聊天機(jī)器人”ChatGPT。該聊天機(jī)器人讓許多人感受到了技術(shù)對(duì)于生活可能的改變。
ChatGPT該系統(tǒng)不僅支持包括中文在內(nèi)的多語聊天，而且還能夠扮演角色，甚至執(zhí)行編程。對(duì)于人類或詼諧或嚴(yán)肅的提問，它的表現(xiàn)令人感到驚艷：相當(dāng)多的知識(shí)內(nèi)容正確，語言表達(dá)更是流暢，并且還支持多輪連續(xù)聊天。網(wǎng)友感慨，該智能系統(tǒng)如果應(yīng)用在機(jī)器人上，人類與機(jī)器人的社交或許成為了一種新可能。
對(duì)智能機(jī)器人自我意識(shí)問題的深切關(guān)注，當(dāng)然也反映了人們對(duì)智能機(jī)器人失控的憂懼。不少人感慨“自己已經(jīng)沉迷于和它對(duì)話”“讓它替我編程、寫稿，效率提升”，甚至有人用它生成了某行業(yè)的咨詢報(bào)告，通過對(duì)話引導(dǎo)它生成的書也在亞馬遜線上出版，也有人開始提出，這是否意味著未來更大范圍的失業(yè)問題以及社會(huì)倫理問題。
中國社科網(wǎng)的一篇社論認(rèn)為，消除這種認(rèn)知和憂懼的最佳方式，就是深刻認(rèn)識(shí)和把握其原理與本質(zhì)，打開智能機(jī)器人自我意識(shí)的黑箱，并推動(dòng)其向善發(fā)展。那么ChatGPT代表的人工智能聊天機(jī)器人的本質(zhì)到底是什么？該類聊天機(jī)器人技術(shù)真的值得人們這么擔(dān)憂和恐懼嗎？
不同路徑的意義與嘗試
不可否認(rèn)，技術(shù)的進(jìn)步與應(yīng)用在為人們的生活帶來便利的同時(shí)，也讓人們?cè)谝欢ǔ潭壬袭a(chǎn)生了恐懼。這種技術(shù)恐懼源于技術(shù)自身的復(fù)雜性和不確定性，尤其是對(duì)于可能產(chǎn)生自我意識(shí)的智能機(jī)器人，會(huì)做出什么事情人類很難預(yù)知。
例如有觀點(diǎn)認(rèn)為，社交機(jī)器人可能會(huì)通過編程接口搜索特定的社交網(wǎng)絡(luò)或討論會(huì)，作為虛擬對(duì)話參與者影響公眾意見與話題走向。其可以在社交平臺(tái)中模仿人類用戶的言論習(xí)慣生產(chǎn)和傳播信息，背后的利益方則利用這一特點(diǎn)不斷復(fù)制傳播特定關(guān)鍵詞和主題標(biāo)簽，輔以社交網(wǎng)絡(luò)算法控制性能將指定內(nèi)容炒作為熱點(diǎn)，此前關(guān)于推特操作輿論的話題在國外一直被人熱議且警惕。
又例如在近日ChatGPT竟寫出毀滅人類計(jì)劃書Python代碼。這是在一位工程師的多種方法誘導(dǎo)下，ChatGPT竟詳細(xì)寫出了毀滅人類的策劃方案，步驟詳細(xì)到入侵各國計(jì)算機(jī)系統(tǒng)、控制武器、破壞通訊、交通系統(tǒng)等等。
但如果體驗(yàn)過ChatGPT相關(guān)程序（https://openai.com/blog/chatgpt/）會(huì)發(fā)現(xiàn)，其本質(zhì)上依然是工具，而非獨(dú)立的機(jī)器人智能體。
按照人工智能學(xué)界的劃分，目前有可能產(chǎn)生自我意識(shí)的智能機(jī)器人，是一種高級(jí)人工智能，主要具有互動(dòng)性、自主性與自適應(yīng)性等特征。但許多測(cè)試中發(fā)現(xiàn)，在ChatGPT流暢交談的表面下，其主要根據(jù)數(shù)據(jù)庫進(jìn)行相關(guān)內(nèi)容輸出，且有時(shí)候?qū)θ祟愔R(shí)的理解和掌握仍不可靠。
隨著測(cè)試的增加，開始有越來越多的人感慨它“常常一本正經(jīng)地胡說八道”。
由于錯(cuò)誤信息以純熟的語言表達(dá)出來，加上信息不對(duì)等，因而更加隱蔽，讓人們更加難以察覺，但這難免會(huì)造成一些誤解和困擾。
從人類聊天對(duì)話的原理來說，人類自我意識(shí)的產(chǎn)生主要有兩種方式，一是自我激發(fā)，二是他人認(rèn)同，這兩種方法也常被學(xué)界用來訓(xùn)練人工智能。因?yàn)槿斯ぶ悄芩嫒蝿?wù)眾多，語言智能卻越來越成為方法、技術(shù)、應(yīng)用方面的領(lǐng)先領(lǐng)域。
正如ChatGPT對(duì)自己的介紹：“我是一個(gè)語言模型。”由此可以發(fā)現(xiàn)，該系統(tǒng)主要借助駕馭極其廣泛的知識(shí)內(nèi)容，來自對(duì)互聯(lián)網(wǎng)文本內(nèi)容的獲取和“理解”，進(jìn)而形成了自己的“知識(shí)體系”，這其實(shí)也是人工智能訓(xùn)練的一種常用技巧。
有人辯駁認(rèn)為，ChatGPT的內(nèi)容輸出下，并不單純只有對(duì)于知識(shí)的整理，同時(shí)也有自己的理解和表達(dá)。但問題在于，自我意識(shí)與自我認(rèn)同往往不可分割，因?yàn)樽晕艺J(rèn)同離不開群體中他人的認(rèn)同，所以，此類自我意識(shí)通常在獲得社會(huì)其他成員的認(rèn)同中產(chǎn)生，而非獨(dú)立的思考（意識(shí)）。
意識(shí)的獨(dú)立性與可能性
有了對(duì)于意識(shí)的自主性認(rèn)知，我們可以再去看ChatGPT本身的運(yùn)行邏輯。
曾經(jīng)在探索智能機(jī)器人自我意識(shí)時(shí)，有研究學(xué)者就針對(duì)這兩種路徑各自進(jìn)行了嘗試，并取得了不同的進(jìn)展。按照技術(shù)發(fā)展路徑，智能機(jī)器人目前已經(jīng)主要分為數(shù)據(jù)智能和類腦智能，二者自我意識(shí)產(chǎn)生分別采用了他人認(rèn)同路徑和自我激發(fā)路徑，其本質(zhì)也不相同。
一是數(shù)據(jù)智能機(jī)器人“設(shè)計(jì)”出自我意識(shí)，即他人認(rèn)同路徑。這一路徑通過算法設(shè)計(jì)和大數(shù)據(jù)支持，讓機(jī)器人表現(xiàn)得具有“自我意識(shí)”。無論是數(shù)字計(jì)算機(jī)，還是量子計(jì)算機(jī)，其產(chǎn)生自我意識(shí)的途徑都屬于數(shù)據(jù)智能路徑。
ChatGPT其中所涉技術(shù)如果拆解開其實(shí)并不算十分復(fù)雜，但它的成功無疑以十分直觀的方式向我們展示了語言、知識(shí)積累于人類思維和邏輯的重要性。
這一路徑存在數(shù)據(jù)兼容和溢出的風(fēng)險(xiǎn)。人工智能的核心在于知識(shí)的獲取、表示和運(yùn)用，語言無疑是其中關(guān)鍵。教科書上“語言是人類最重要的思維工具”“人類九成的知識(shí)由語言承載”的論斷在人工智能系統(tǒng)的應(yīng)用上得到了淋漓盡致的展現(xiàn)。因此可以得到很明顯的結(jié)論就是，這一路徑產(chǎn)生的“自我意識(shí)”是環(huán)境中的設(shè)計(jì)者和使用者賦予智能機(jī)器人的，認(rèn)知主體是人體而非機(jī)體。
知識(shí)和思維的承載物是語言，因而也賦予語言無可替代的資源屬性。智能技術(shù)的發(fā)展和落地，頻繁向傳統(tǒng)語言學(xué)的教育和研究發(fā)出信號(hào)：構(gòu)建語言資源、挖掘語言中的知識(shí)、探索語言知識(shí)的形式表達(dá)，是最切中數(shù)字社會(huì)命脈的發(fā)展方向。
更深層次來看，與聊天系統(tǒng)強(qiáng)大的語言生成能力不匹配的是它對(duì)知識(shí)的真正掌握程度。大量模棱兩可乃至錯(cuò)誤的信息混雜在流暢的對(duì)話中，反而令其更加難以被發(fā)現(xiàn)。
誠如清華大學(xué)馬少平教授所說：“人工智能最大的問題是不知道自己不知道什么，也不知道自己真知道什么，什么問題都能回答，結(jié)果如何就不得而知了。”
在一般性知識(shí)極易獲取，復(fù)雜知識(shí)參差不齊的背景下，其實(shí)人類專家、作者的專業(yè)判斷力和經(jīng)過思考加工的準(zhǔn)確回答，更顯彌足珍貴。人工智能諸多技術(shù)“黑箱”帶來的不確定性，終究還需要人類專業(yè)、全局判斷來化解。從這個(gè)層面上講，“自知”的人類永遠(yuǎn)不可或缺。
更深層次的探索
當(dāng)然也有學(xué)者指出，除了大量的聊天對(duì)話訓(xùn)練之外，更正確的方法其實(shí)是類腦智能機(jī)器人“生長”出自我意識(shí)，即自我激發(fā)路徑。
這一路徑通過類腦技術(shù)支持，讓機(jī)器人擁有能感知的“身體”，形成獨(dú)立的“自我意識(shí)”。
隨著數(shù)字技術(shù)的進(jìn)一步發(fā)展，社交機(jī)器人正在不斷深入?yún)⑴c人類社會(huì)生活，已廣泛應(yīng)用于服務(wù)、教育、醫(yī)療等行業(yè)，在許多新興的交叉領(lǐng)域發(fā)揮了積極作用。這類需求在情感機(jī)器人或社交機(jī)器人中尤為常見，但由于社交機(jī)器人作為一種擬人化機(jī)器人，難免帶來了人與機(jī)器人之間的混淆問題。
社交類智能機(jī)器人的使用者，往往會(huì)在與其長期相處中產(chǎn)生機(jī)器人也有情感和自我意識(shí)的錯(cuò)覺。心理學(xué)上將這種現(xiàn)象稱為共情效應(yīng)。通常情況下，能產(chǎn)生越強(qiáng)共情效應(yīng)的機(jī)器人往往越受消費(fèi)者歡迎。而社交機(jī)器人帶來的人機(jī)互動(dòng)、人與機(jī)器人的混淆問題也誘發(fā)了更深層次的情感依戀風(fēng)險(xiǎn)。
許多人寄希望于聊天機(jī)器人能夠帶來未來社交機(jī)器人更進(jìn)一步的情感方面優(yōu)化，但通過考察情感或自我意識(shí)內(nèi)在的真實(shí)內(nèi)容及其規(guī)律性就會(huì)發(fā)現(xiàn)，這只是特定情境中的使用者認(rèn)為機(jī)器人已彰顯出自我意識(shí)和情感。因此，并不能說明ChatGPT這類機(jī)器人能夠自我激發(fā)產(chǎn)生自我意識(shí)或情感。
更本質(zhì)而言，這里的“自我意識(shí)”雖然源自機(jī)體，但卻是承載生物芯片的有機(jī)體，因此無論是技術(shù)悲觀派還是樂觀派都不能否認(rèn)其產(chǎn)生自我意識(shí)的可能性。例如曾毅團(tuán)隊(duì)在認(rèn)知神經(jīng)科學(xué)家的實(shí)驗(yàn)基礎(chǔ)上，用自主研發(fā)的類腦機(jī)器人成功挑戰(zhàn)了自我意識(shí)鏡像實(shí)驗(yàn)，為機(jī)器人自我意識(shí)建立了受生物激發(fā)的模型，結(jié)果不言而喻。
雖然鏡像實(shí)驗(yàn)只能作為機(jī)器人自我意識(shí)驗(yàn)證的一個(gè)視角，但我們可以據(jù)此展望未來，制造出生物性質(zhì)的類人自我意識(shí)的智能機(jī)器人并不是天方夜譚。這一路徑存在生物芯片信息難以掌控的風(fēng)險(xiǎn)。目前大多數(shù)相關(guān)研究都局限于實(shí)驗(yàn)室內(nèi)，而已臨床使用的僅是針對(duì)腦部疾病的腦機(jī)接口技術(shù)，并且這種技術(shù)的使用需要患者提前進(jìn)行訓(xùn)練，也就是要通過人的協(xié)助才能展現(xiàn)出智能。
探索人機(jī)融合
僅今年一年就相繼出現(xiàn)了Dall-E、Imagen、Stable Fusion、Midjourney、Lambda、Imagen Video、ChatGPT等突破性的AI，國內(nèi)也有有科大訊飛、泰比特、巴巴騰、icasevan、小i智能、優(yōu)必選、騰訊態(tài)客、麥咭、阿爾法蛋和智伴等企業(yè)將相關(guān)技術(shù)與應(yīng)用進(jìn)行結(jié)合，社交機(jī)器人越來越聰明成為一種新趨勢(shì)。
這讓許多圍觀路人產(chǎn)生了恐懼，有專家提出，因?yàn)闄C(jī)器人所具有的虛擬對(duì)話、信息把關(guān)、輿論操縱等多重功能，社交智能機(jī)器人自我意識(shí)的產(chǎn)生可能增加人類對(duì)其失控的憂懼。
而學(xué)界也有樂觀、中立的不同立場。因?yàn)榧夹g(shù)恰恰有“黑箱”的存在，為引導(dǎo)向善發(fā)展，規(guī)避不良社會(huì)影響，需要人類主動(dòng)回應(yīng)和采取措施。為保證新的智能機(jī)器人產(chǎn)品的向善導(dǎo)向，人類可以不斷從自身、從技術(shù)去尋求可靠、可信的技術(shù)和技術(shù)使用方式。例如必須在研發(fā)和使用中進(jìn)行監(jiān)管，又例如采取人機(jī)融合發(fā)展的手段，降低這種危害的可能性。
人機(jī)融合智能是充分利用人和機(jī)器各自的長處形成的新型智能形式，大數(shù)據(jù)人工智能、互聯(lián)網(wǎng)群體智能、感知和跨媒體智能、人機(jī)混合智能、自主智能系統(tǒng)等是目前主要的五類人機(jī)融合智能。
以人為主導(dǎo)的人機(jī)協(xié)同演化關(guān)系主要將底線原則與情境學(xué)習(xí)相結(jié)合，從而才能保證智能機(jī)器人的安全可控。例如讓機(jī)器人擁有一定的道德判斷能力，這意味人可以決定機(jī)器人“能夠做什么”和“應(yīng)該做什么”，保證人工智能產(chǎn)品按照人的價(jià)值理念演化，從而掌握協(xié)同演化的主動(dòng)權(quán)，實(shí)現(xiàn)智能機(jī)器人向善發(fā)展的目標(biāo)。
同時(shí)，以人為主導(dǎo)才能促使人類主動(dòng)承擔(dān)協(xié)同演化中的過失責(zé)任。人是責(zé)任的承擔(dān)者。人的責(zé)任不僅包括在風(fēng)險(xiǎn)預(yù)防階段做好價(jià)值敏感設(shè)計(jì)，也包括在風(fēng)險(xiǎn)產(chǎn)生后通過制度構(gòu)建來降低損失。
可信的人工智能、可信計(jì)算成為融合技術(shù)、倫理的重要領(lǐng)域，并受到越來越多的重視，更宏觀的人工智能倫理和治理工作也早已被納入科技管理的視野。
挽救“失足系統(tǒng)”，矯正“智能體歧視”也許不再是比喻，而將成為使用者、從業(yè)者和治理者都必須面對(duì)的問題。
*博客內(nèi)容為網(wǎng)友個(gè)人發(fā)布，僅代表博主個(gè)人觀點(diǎn)，如有侵權(quán)請(qǐng)聯(lián)系工作人員刪除。
