馬克·麥卡錫：機(jī)器學(xué)習(xí)算法中的政治

　　公元前1200年左右，殷商時(shí)期的中國(guó)就發(fā)展出了工廠制，鑄造出成千上萬(wàn)尊大型青銅器皿供日常生活和典禮儀式使用。在這個(gè)關(guān)于大規(guī)模生產(chǎn)的古代案例中，需要事先制定精細(xì)的計(jì)劃，對(duì)大批工人進(jìn)行分組協(xié)調(diào)，確保每組工人按部就班地逐項(xiàng)執(zhí)行任務(wù)，才能鑄造出青銅器。

　　一千年以后，中國(guó)迎來(lái)了首位皇帝秦始皇，他著名的兵馬俑軍隊(duì)也是通過(guò)同樣復(fù)雜的流程制造出來(lái)的。舊金山亞洲藝術(shù)博物館的資料顯示，兵馬俑雕像是“通過(guò)一套裝配生產(chǎn)體系塑造燒制而成，這一體系為后世的大規(guī)模商業(yè)生產(chǎn)鋪平了道路。”

　　有學(xué)者推測(cè)，這些早期的規(guī)范性操作技術(shù)對(duì)塑造中國(guó)社會(huì)發(fā)揮了重要作用，例如使人們更容易接受官僚機(jī)構(gòu)及其背后那套強(qiáng)調(diào)等級(jí)的社會(huì)哲學(xué)，接受“只有一種正確的行事方式”的觀念。

　　19世紀(jì)，當(dāng)工業(yè)廠房最初出現(xiàn)在歐洲時(shí)，即使連恩格斯等資本主義的嚴(yán)厲批評(píng)者也承認(rèn)，無(wú)論采用資本主義還是社會(huì)主義經(jīng)濟(jì)體系，大規(guī)模生產(chǎn)都會(huì)使中央集權(quán)成為必需。在20世紀(jì)，蘭登·溫納(Langdon Winner)等理論家將這一思路擴(kuò)展到其他技術(shù)領(lǐng)域。例如，他認(rèn)為原子彈應(yīng)被視為一種“具有內(nèi)生政治屬性的人工制品”，因?yàn)槠洹案叨戎旅詻Q定了它應(yīng)該由集權(quán)式、嚴(yán)格層級(jí)化的指揮鏈來(lái)控制”。

　　今天，我們可以把這個(gè)思路再往前推進(jìn)一步。機(jī)器學(xué)習(xí)算法(machine-learning algorithms)已成為當(dāng)今最重要的通用技術(shù)，這些算法利用真實(shí)世界中的范例來(lái)模擬人類認(rèn)知能力，已經(jīng)在現(xiàn)實(shí)工作場(chǎng)所中廣為應(yīng)用。然而，為了充分利用這些技術(shù)，發(fā)揮算法的優(yōu)勢(shì)，各類組織必須將人工任務(wù)重新定義為預(yù)測(cè)任務(wù)(prediction task)。

　　機(jī)器學(xué)習(xí)算法的關(guān)鍵特征之一是，其性能會(huì)隨著數(shù)據(jù)量增加而提高。因此，應(yīng)用算法本身就會(huì)產(chǎn)生一種技術(shù)動(dòng)力：將人的各類信息視為可記錄、可訪問(wèn)的數(shù)據(jù)。就像大規(guī)模生產(chǎn)體系一樣，這些數(shù)據(jù)也“具有內(nèi)生政治屬性”，因?yàn)槠浜诵墓δ軆A向于肯定某些社會(huì)實(shí)踐，否定另一些行為，尤其與人類個(gè)體維護(hù)隱私的意愿直接沖突。

　　在美國(guó)社會(huì)學(xué)家阿米塔伊·埃茨昂尼(Amitai Etzioni)等社群主義者的眼里，建立在社群成員信息公開(kāi)化基礎(chǔ)之上的體系似乎是經(jīng)得起檢視的。對(duì)他們而言，對(duì)隱私的種種限制只是執(zhí)行社會(huì)規(guī)范的一種手段。但計(jì)算機(jī)算法與社群主義者不同，它不關(guān)心社會(huì)規(guī)范，只關(guān)心如何通過(guò)將人類生活轉(zhuǎn)化為可供開(kāi)采的數(shù)據(jù)集，并基于此更準(zhǔn)確地做預(yù)測(cè)。

　　科技勢(shì)在必行的力量在不經(jīng)意間把信奉個(gè)人主義的西方人轉(zhuǎn)變?yōu)樯缛褐髁x者，使他們更仰賴于以算法評(píng)估為基礎(chǔ)的賢能主義體制。無(wú)論是在工作、學(xué)習(xí)，還是約會(huì)類應(yīng)用程序中，我們都已經(jīng)習(xí)慣于使用不具人格的工具來(lái)評(píng)估人們的資格，并為我們?cè)趯蛹?jí)結(jié)構(gòu)中分配位置。

　　可以肯定的是，算法評(píng)估不是什么新鮮的概念。一代人以前，奧斯卡·甘迪(Oscar H. Gandy)等學(xué)者就曾告誡人們：社會(huì)正在轉(zhuǎn)向“得分+排名”模式，我們需要建立責(zé)任和補(bǔ)償機(jī)制來(lái)彌補(bǔ)由技術(shù)造成的錯(cuò)誤。與今天的機(jī)器學(xué)習(xí)算法不同，當(dāng)時(shí)的評(píng)估工具比較容易理解，它們是根據(jù)相關(guān)規(guī)范性和經(jīng)驗(yàn)性因素來(lái)做決策的，例如，拖欠信用卡賬單導(dǎo)致債臺(tái)高筑會(huì)損害一個(gè)人的信用度——這不是什么秘密。

　　與此相對(duì)，新的機(jī)器學(xué)習(xí)技術(shù)則致力于深度挖掘大型數(shù)據(jù)集，以期發(fā)現(xiàn)人們可預(yù)測(cè)但無(wú)法完全理解的某些相關(guān)性。在工作場(chǎng)所，算法能夠監(jiān)測(cè)員工的對(duì)話，了解他們?cè)谀某晕顼?，在電腦前、電話上和會(huì)議中分別花了多少時(shí)間，再通過(guò)這些數(shù)據(jù)搭建出復(fù)雜的生產(chǎn)效率模型，遠(yuǎn)超人類基于常識(shí)的直覺(jué)。在基于算法的賢能主義體制中，模型得出的結(jié)論就是我們追求卓越的新標(biāo)準(zhǔn)。

　　這并不等于技術(shù)宿命論。我們要趕在技術(shù)塑造人類之前塑造技術(shù)。商業(yè)領(lǐng)袖和政策制定者可以根據(jù)自身機(jī)構(gòu)的需求，有選擇性地開(kāi)發(fā)和部署他們想要的技術(shù)。我們有能力在人類生活的敏感領(lǐng)域布置隱私防護(hù)網(wǎng)，防止數(shù)據(jù)被用來(lái)制造傷害，并要求算法設(shè)計(jì)要在預(yù)測(cè)準(zhǔn)確性與公平性、責(zé)任制和透明度之間取得平衡。

　　如果我們遵循算法的自然邏輯，文化將無(wú)可避免地朝賢能主義和社群主義的方向發(fā)展。這種平穩(wěn)的轉(zhuǎn)型將對(duì)西方的民主制度和政治結(jié)構(gòu)產(chǎn)生深遠(yuǎn)的影響。正如研究中國(guó)的學(xué)者貝淡寧和張維為所指出的那樣，中國(guó)不斷發(fā)展的社群主義體制為西方自由主義民主傳統(tǒng)提供了主要的替代性政治選擇。

　　中國(guó)體制允許公民參與地方選舉，而國(guó)家領(lǐng)導(dǎo)人則通過(guò)賢能政治程序來(lái)選拔。領(lǐng)導(dǎo)人被認(rèn)為是人民福祉的監(jiān)護(hù)者。自由民主國(guó)家不太可能完全采取這樣的政治體制。但如果商業(yè)和消費(fèi)文化按目前的趨勢(shì)發(fā)展下去，西方可能越來(lái)越多地轉(zhuǎn)向中國(guó)式的賢能主義和社群主義傳統(tǒng)，逐漸遠(yuǎn)離個(gè)人主義和自由民主的歷史傳統(tǒng)。而如果要避免這一轉(zhuǎn)向，我們必須把政治置于技術(shù)之上。