AI是否可以讓我們躺平？數(shù)字技術能否帶來數(shù)字文明？

5 人類還被需要嗎？人機關系應該是怎樣的？

主持人：從另一個層面去考慮：我們可不可以躺平了？現(xiàn)在比較流行的兩個關鍵詞：無人，自主。機器越來越自主了，接下來我們人類越來越不被需要了。過去我們的手不需要了——大吊車代替了我們的手；接下來腿也少需要、不需要了，因為有了代步工具——汽車、飛機等；我們整個的器官都被替代了；接下來有了大模型以后，我們的思想甚至也被替代了——現(xiàn)在很多文秘工作可以用大模型來做了。那么在這個時代，我們人還被需要嗎？這有點靈魂質問了。在新的數(shù)字文明時代，人機關系應該是怎樣的？

吳國盛（清華科學史）：未來人還有人的用處。這是維納（1894-1964，美國）的一句問題，是非常好的問題。數(shù)字文明是信息驅動的（注：過去的文明有物質驅動的，有能量驅動的），信息驅動的本質是計算/ 信息處理，而計算的背后是控制，這很重要，意味著現(xiàn)代科學、數(shù)字化的目標是為了控制自然。不過，現(xiàn)在的數(shù)字技術不僅是控制自然，還控制社會，這就引發(fā)了一個非常深刻的問題：數(shù)字技術本質上是一種權力重新洗牌的技術。在洗牌過程中，公平、正義、善的問題就出現(xiàn)了。

過去就存在這個問題，例如有刀、鐵劍的民族，相比沒有的民族，力量會逆轉。蒸汽動力也是一樣，它把工人淪為非?？蓱z的角色?，F(xiàn)在的數(shù)字時代，是不是所有人被卷入了？例如是否會用一個軟件有很大的差別（例如在疫情期間，有些老人不會用智能手機的打車軟件，叫出租車都很麻煩），這是非?，F(xiàn)實的一個問題。

數(shù)字技術的智能化特征是控制論特征。因為智能很大一部分是控制。智能特征進一步把人的問題又提出來了：什么是人？過去說人有智能。那么現(xiàn)在機器也有智能，是不是機器也是人？實際上，計算機產業(yè)過分放大了人的智能部分。人有知、情、意三部分，除了有智能之外，人還有脾氣、審美等。例如有人認為游戲是一種非功利行為，所以游戲這件事情很有意思，現(xiàn)在有游戲產業(yè)，游戲能成為產業(yè)，不僅是里面的智能行為，更多的是里面的審美行為、娛樂行為。所以從這個意義上看，吳國盛老師（清華科學史）并不像很多人那么悲觀，覺得機器出來以后就怎么著了，因為知情意里的情和意的部分，現(xiàn)在機器恐怕是沒法做到的。

主持人：AI正在走向知、情、意的全面合一。

吳國盛（清華科學史）：知情意里的情和意的知化，即希望通過知的方式把情和意給消解掉。你說你有脾氣嗎？其實你也沒什么脾氣，無非就是你體內某些元素的發(fā)作，用元素替代一下，你就沒脾氣了。這實際上還是一種唯知論的傳統(tǒng)，而且這是比較危險的一種行為。

所以我們還是要在數(shù)字文明時代弘揚更人性化。何謂更人性化？就是非知部分的意義和重要性。這部分我們始終要記住。因為如果沒有這部分，就不知道智能產業(yè)將向哪個方向發(fā)展，因為產業(yè)的發(fā)展首先要合乎人性本身的需要。

人性有什么需要？單憑大數(shù)據(jù)能不能做得到？局部是可以的，但是否能完全分析出來，還很難預判。

吳飛（浙大AI）：補充兩個方面。這是一個辯證的問題。不可否認，AI 現(xiàn)在已經(jīng)極大地提升了人類生產、生活和學習的能力和效率。但是AI還有很多無法解決的問題，例如因為AI 的無能所引發(fā)的倫理問題，還有隱私泄漏、大數(shù)據(jù)殺熟等危害。這些不是AI 故意在作惡，而是AI 技術水平現(xiàn)在還無法滿足倫理和道德要求。所以發(fā)明一個機器或AI 系統(tǒng)出來，并不是想要人類來奴役人類，而是讓人類的生產生活效率更高效。這是從正面來看AI。

同時，AI 確實也造成了一些困擾，我們也不能對這些熟視無睹。所以我們又必須要制定相應的法律法規(guī)和道德制度，約束AI 可能產生的不良后果。

所以并不是我們需要去躺平。此次CNCC大會上，趙春江院士談了在用機器摘果子[2]，盡管如此，人類還是有很多行為是AI 機器無法模擬的，人類絕對不能躺平。人有人的作用，我們應該發(fā)揮主動力，來把AI 改善和提高得更好，以更好地推動我們人類社會的進步。

6 從社會治理角度，人類應該發(fā)揮哪些作用？

主持人：從社會治理的角度來看，我們人應該發(fā)揮哪些作用？

翟志勇（北航法學）：剛才主持人提出了一個問題，就是誰的數(shù)字文明？從兩個層面來回答。

●   第一個層面應該是我們的共識：這一定是人的數(shù)字文明。例如10 月28 日上午論壇第一位講者——斯坦福大學終身名譽教授James Landay講的以人為核心的AI向善。

所以從這個意義上看，主持人擔心人會躺平。如果說躺平僅僅是指我們可以不去做那些重復、無意義的勞動，躺平也很好，人們都歡迎這種躺平。

但是主持人可能更關心的是另外的問題，就是人會不會被機器所取代、異化，人會不會喪失自主性、認知能力？這確實是我們所要關心的第一個層面：如何在數(shù)字文明發(fā)展過程中，始終能夠堅守人的自主性、以人為中心的地位。

●   另一個層面去回答誰的數(shù)字文明，會涉及剛才段偉文老師（社科院哲學）提到的問題：誰來去定義這樣一個文明？誰來給它設定標準？誰來評價它？這里會存在一個問題，像主持人提到的，我們更多的是從倫理、法律的角度去關注，可能更多的是去講：數(shù)字文明首先應該是弱者、弱勢地位人的文明。

提到科技向善、科技不作惡，弱勢群體可能遭受數(shù)字文明帶來的損害更大。例如機器人摘蘋果會導致大量人失業(yè)，而失業(yè)的大部分人可能是處于社會底層的，他們無法成為技術的受益者?，F(xiàn)在大模型的出現(xiàn)造成的不是體力勞動者的失業(yè)，而是一些腦力勞動者的失業(yè)。為此，一些國家和地區(qū)的政府、當局采取了干預措施，例如印尼、馬來西亞、印度等國禁止直播帶貨，原因之一是擔心破壞大量小企業(yè)主/ 小商戶的經(jīng)營，由此導致大量失業(yè)。因為買家都去直播帶貨那里去買了，利潤變成了主播、直播帶貨公司的利潤，小企業(yè)主/ 小商戶等經(jīng)營者怎么辦？社會必須要為底層人士提供最基本的生活保障和就業(yè)權利。

當然，如果從消費者角度看，我們可能歡迎直播帶貨，它給我們帶來了更好的商品展示，可能以更低的物價、更方便地進行購物，有更好的購物體驗。但從政策制定、學者研究的角度來看，它可能會導致大量人的失業(yè)，或者大量人因此遭受到無法掌控的損害。

所以從這個意義上看，在第二個層面中去關注“誰的數(shù)字文明”，應該成為弱者的數(shù)字文明，弱者能夠從中受益，不會遭受不可控的侵害，這更為重要。

段偉文（社科院哲學）：人和計算機/AI 的差別，就是AI負責計算，人類負責判斷和決策?，F(xiàn)在的問題是AI的計算能力越來越強大，反過來對人的判斷力和決策力提出了更高的要求，這可能是人類在數(shù)字文明時代面臨的重大挑戰(zhàn)。

主持人：這可能為人類提出了更高的要求。但是我們人可能還是傾向于懶惰的生活?？档拢?724—1804，德國）曾經(jīng)在啟蒙運動思想里有句重要的話：如果有個領袖來替我去思考，我是不是自己還會去思考問題？他那時還沒有預測到現(xiàn)在的機器時代，套用這句話就是：如果有一個機器替我思考……這個話題扯得太遠了。剛剛翟志勇老師（北航法學）提到了誰的數(shù)字文明的時候，是從社會結構上來講，希望最終技術應該是能夠賦能社會底層，但目前的情況恰恰有可能帶來的是“強者越強，弱者越弱”的大失業(yè)。

在CNCC2023大會上，來自北大的經(jīng)濟學家張維迎教授做了一個報告，講到企業(yè)家精神和數(shù)字經(jīng)濟，按照張老師的觀點，數(shù)字經(jīng)濟本身應該是資源自由競爭的，因為它有不確定性。翟志勇老師（北航法學）也反對壟斷。

但是另一方面，從數(shù)字經(jīng)濟、整個平臺經(jīng)濟的發(fā)展來看，實際上它帶來一個很大的問題：數(shù)字壟斷由一部分人掌握了，例如一些大平臺越來越多地滲透到生活的各個方面，收集了大量的數(shù)據(jù)，然后因為今天所有的AI（科學、農業(yè)等）都是要靠數(shù)字來喂的，大模型也要靠數(shù)字，帶來了數(shù)字牽引。這樣一來，這是不是就有點悖論：一方面我們要自由競爭；但另一方面還是需要政策、法律的干預，而不能完全自由。是不是這個意思？

翟志勇（北航法學）：數(shù)字文明應該是弱者的數(shù)字文明，但這并不是反對強者或者反對技術，而是技術或數(shù)字文明的發(fā)展應該是在保障弱者基本權益的基礎之上去展開競爭和發(fā)展的。一方面?zhèn)惱韺W家、法學家或公共政策制定者提出一系列的要求、指標；另一方面，技術專家通過技術可以實現(xiàn)這些目標?？赡苓@里缺少二者聯(lián)通的管道，法律上叫正當程序。實際上是以最終的一個程序去保證最終的結果。在技術領域中探討這個問題也是這樣，應該有一個公平的程序來實現(xiàn)技術的正當程序。在這個過程中，使得倫理學者、公共政策的制定者、技術專家、企業(yè)等能夠在這樣一個公平的程序里去展開討論，并且制定出有效的技術標準、公共政策的標準等，而不是任何一方給予對方一個必須要接受的東西。所以要有正當程序這樣一個管道，使得所有的相關利益方都能參與進去。

7 小結

吳飛（浙大AI）：信息技術和AI 的發(fā)展是人類從農耕時代、工業(yè)文明時代累積起來的文明，這必然會成為馬克思所言的普遍智能，為我們每個人所用，這也是數(shù)字文明追求的目標之一。

段偉文（社科院哲學）：數(shù)字文明延續(xù)了計算機控制論，是把人類和機器當成一個行為者的的思路。換句話，數(shù)字文明時代最重要的一點是出現(xiàn)了計算機作為社會的行動者，作為一個第三者，就好像出租車司機和乘客之間有導航一樣，所以我們將來要面對這種AI 體，它跟人類怎樣相處？它會不會成為我們的導師、偶像或精神上的權威？這里有太多需要思考的地方。

翟志勇（北航法學）：ChatGPT 橫空出世之后，美國國會對安全等一系列問題非常關注，所以ChatGPT之父——OpenAI 的CEO山姆·阿爾特曼(Sam Altman)也去國會作證，他作為大模型技術領先者，呼吁政府對大模型進行監(jiān)管。不僅是美國國會，他呼吁全世界都要對它進行監(jiān)管。由此想到，數(shù)字文明可能更需要技術開發(fā)者、技術企業(yè)來參與到倫理、標準、法律公共政策的制定中，這樣才能從公共政策的角度制定出更適合技術發(fā)展、技術向善、不做惡的法律與公共政策。因此希望技術人員能夠加入到這個領域里，而不僅僅是社科人員走到技術人員的領域里。

古天龍（暨大可信AI）：希望技術融入人文社科來進行社會治理，即法律、倫理、道德、技術多管齊下，呼吁重視技術治理維度。希望加強數(shù)字技術治理，提升全民素質素養(yǎng)，促進數(shù)字文明建設。

吳國盛（清華科學史）：技術不是中性的，數(shù)字技術也不是中性的。任何一項技術的大規(guī)模深入發(fā)展，必然帶來文明新形態(tài)的產生。在今天數(shù)字技術正在方興未艾地發(fā)展，我們提前提出數(shù)字文明的概念，以此來規(guī)范數(shù)字技術的發(fā)展，使之朝著有利于人類福祉、健康和幸福生活的方向發(fā)展這一概念，是特別值得稱道的。

主持人：CNCC 大會主要是討論數(shù)字技術的，參與者可能更多地盯在器物層面。但是大會主席在確定這個題目的時候，站到了更高的層面，來從整個人類發(fā)展的歷史和文明形態(tài)的變更上來去考慮這樣的問題。數(shù)字技術不等于數(shù)字文明，建設數(shù)字文明，不僅需要技術，還需要相應的所有上層建筑的一起參與。

參考文獻：

[1] 王瑩.如何做好工業(yè)IT和OT的融合.EEPW,2023(12):20-27.

[2] 迎九.院士觀察:我國智慧農業(yè)的現(xiàn)狀與展望. EEPW,2024(1-2):56-59.

（本文來源于《EEPW》2024.3）