75歲Hinton中國大會最新演講「通往智能的兩種道路」，最后感慨：我已經(jīng)老了，未來交給年輕人（1）

「但我已經(jīng)老了，我所希望的是像你們這樣的年輕有為的研究人員，去想出我們?nèi)绾文軌驌碛羞@些超級智能，使我們的生活變得更好，而不是被它們控制。」

6 月 10 日，在 2023 北京智源大會的閉幕式演講中，在談到如何防止超級智能欺騙、控制人類的話題時，今年 75 歲的圖靈獎得主 Geoffrey Hinton 不無感慨地說道。

Hinton 本次的演講題目為「通往智能的兩種道路」（Two Paths to Intelligence），即以數(shù)字形式執(zhí)行的不朽計算和依賴于硬件的可朽計算，它們的代表分別是數(shù)字計算機和人類大腦。演講最后，他重點談到了大型語言模型（LLM）為他帶來的對超級智能威脅的擔(dān)憂，對于這個涉及人類文明未來的主題，他非常直白地展現(xiàn)了自己的悲觀態(tài)度。

演講一開始，Hinton 便宣稱，超級智能（superintelligence）誕生的時間可能會比他曾經(jīng)想象的早得多。這一觀察引出了兩大問題：（1）人工神經(jīng)網(wǎng)絡(luò)的智能水平將會很快超越真實神經(jīng)網(wǎng)絡(luò)嗎？（2）人類是否能保證對超級 AI 的控制？在大會演講中，他詳細討論了第一個問題；針對第二個問題，Hinton 在演講的最后表示：超級智能可能將很快到來。

首先，讓我們來看看傳統(tǒng)的計算方式。計算機的設(shè)計原則是要能精準地執(zhí)行指令，也就是說如果我們在不同的硬件上運行相同的程序（不管是不是神經(jīng)網(wǎng)絡(luò)），那么效果應(yīng)該是一樣的。這就意味著程序中包含的知識（如神經(jīng)網(wǎng)絡(luò)的權(quán)重）是不朽的，與具體的硬件沒有關(guān)系。

為了實現(xiàn)知識的不朽，我們的做法是以高功率運行晶體管，使其能以數(shù)字化（digital）的方式可靠運行。但這樣做的同時，我們就相當(dāng)于拋棄了硬件其它一些性質(zhì)，比如豐富的模擬性（analog）和高度的可變性。

傳統(tǒng)計算機之所以采用那樣的設(shè)計模式，是因為傳統(tǒng)計算運行的程序都是人類編寫的。現(xiàn)在隨著機器學(xué)習(xí)技術(shù)的發(fā)展，計算機有了另一種獲取程序和任務(wù)目標(biāo)的方法：基于樣本的學(xué)習(xí)。

這種新范式讓我們可以放棄之前計算機系統(tǒng)設(shè)計的一項最基本原則，即軟件設(shè)計與硬件分離；轉(zhuǎn)而進行軟件與硬件的協(xié)同設(shè)計。

軟硬件分離設(shè)計的優(yōu)點是能將同一程序運行在許多不同的硬件上，同時我們在設(shè)計程序時也能只看軟件，不管硬件 —— 這也是計算機科學(xué)系與電子工程系能夠分開設(shè)立的原因。

而對于軟硬件協(xié)同設(shè)計，Hinton 提出了一個新概念：Mortal Computation。對應(yīng)于前面提到不朽形式的軟件，我們這里將其譯為「可朽計算」。

可朽計算是什么？

可朽計算放棄了可在不同硬件上運行同一軟件的不朽性，轉(zhuǎn)而采納了新的設(shè)計思路：知識與硬件的具體物理細節(jié)密不可分。這種新思路自然也有優(yōu)有劣。其中主要的優(yōu)勢包括節(jié)省能源和低硬件成本。

在節(jié)能方面可以參考人腦，人腦就是一種典型的可朽計算裝置。雖然人腦中也依然有一個比特的數(shù)字計算，即神經(jīng)元要么****要么不****，但整體來說，人腦的絕大多數(shù)計算都是模擬計算，功耗非常低。

可朽計算也可以使用更低成本的硬件。相較于現(xiàn)如今以二維模式高精度生產(chǎn)的處理器，可朽計算的硬件能以三維模式「生長」出來，因為我們不需要明確知道硬件的連接方式以及每個部件的確切功能。很顯然，為了實現(xiàn)計算硬件的「生長」，我們需要很多新型納米技術(shù)或?qū)ι锷窠?jīng)元進行基因改造的能力。改造生物神經(jīng)元的方法可能更容易實現(xiàn)，因為我們已經(jīng)知道生物神經(jīng)元大致能夠完成我們想要的任務(wù)。

為了展示模擬計算的高效能力，Hinton 給出了一個示例：計算一個神經(jīng)活動向量與一個權(quán)重矩陣的積（神經(jīng)網(wǎng)絡(luò)的大部分工作都是此類計算）。

對于該任務(wù)，當(dāng)前計算機的做法是使用高功耗的晶體管將數(shù)值表示成數(shù)字化的比特形式，然后執(zhí)行 O (n2) 數(shù)字運算將兩個 n 比特的數(shù)值相乘。雖然這只是計算機上的單個運算，但卻是 n2 個比特的運算。

而如果使用模擬計算呢？我們可以將神經(jīng)活動視為電壓，將權(quán)重視為電導(dǎo)；那么每一單位時間里，電壓乘以電導(dǎo)可得到電荷，電荷可以疊加。這種工作方式的能效會高很多，而且其實現(xiàn)在已經(jīng)存在這樣工作的芯片了。但很不幸，Hinton 表示，現(xiàn)在人們還是要使用非常昂貴的轉(zhuǎn)換器將模擬形式的結(jié)果轉(zhuǎn)換成數(shù)字形式。他希望以后我們能在模擬領(lǐng)域完成整個計算過程。

可朽計算也面臨著一些問題，其中最主要的是難以保證結(jié)果的一致性，即在不同硬件上的計算結(jié)果可能會有所差別。另外，在反向傳播不可用的情況下，我們還需要找到新方法。