歐洲科學(xué)院王東明院士：AI安全的機(jī)遇與挑戰(zhàn)

人工智能威脅論在網(wǎng)絡(luò)上長(zhǎng)久不衰，AI是否安全可控，一直是人們關(guān)心的話(huà)題。在此次安全峰會(huì)上，歐洲科學(xué)院院士王東明帶來(lái)的主題思考《AI人工智能：安全的機(jī)遇與挑戰(zhàn)》，從人工智能和網(wǎng)絡(luò)安全的關(guān)系出發(fā)，理性的分析人工智能帶來(lái)的機(jī)遇與挑戰(zhàn)。

人工智能使生活變得安全了嗎？

與20年前相比，我們現(xiàn)在更安全了嗎？我們信息更安全了嗎？我們網(wǎng)絡(luò)更安全了嗎？我們存在銀行里面的錢(qián)更安全了嗎？好像沒(méi)有。我們?nèi)匀槐痪W(wǎng)絡(luò)病毒、垃圾郵件、虛假?gòu)V告、商業(yè)欺詐所困擾。

人工智能來(lái)了，我們會(huì)更安全嗎？還是更威脅？深度機(jī)器學(xué)習(xí)與智能搜索是否會(huì)挑戰(zhàn)我們現(xiàn)在的安全機(jī)制？欺詐會(huì)不會(huì)更加智能，攻擊能否穿越萬(wàn)物互聯(lián)的時(shí)空？虛擬語(yǔ)音合成、關(guān)聯(lián)知識(shí)推理、超級(jí)群體智能可否讓機(jī)器博古通今，招搖撞騙？

我們?yōu)槭裁葱枰斯ぶ悄埽?/strong>

在人類(lèi)文明發(fā)展幾千年歷史過(guò)程中，我們擁有大量的數(shù)據(jù)，大量的信息，留到現(xiàn)在最重要的是什么？是知識(shí)。是我們把握這個(gè)社會(huì)資源的能力，所以是智能，沒(méi)有智能我們社會(huì)就會(huì)變得蒼白。

什么是人工智能？

人工智能是數(shù)學(xué)科學(xué)、信息科學(xué)與其他應(yīng)用科學(xué)的交叉學(xué)科，主要研究設(shè)計(jì)構(gòu)造應(yīng)用可以模仿人類(lèi)智能的機(jī)器，包括硬件設(shè)備和軟件系統(tǒng)。

人工智能的發(fā)展從上世紀(jì)50年代開(kāi)始，已經(jīng)有60多年的歷史。機(jī)器翻譯、機(jī)器博弈、機(jī)器定理證明都是人工智能里面最經(jīng)典的研究課題，因?yàn)檫@些都是需要很高的智能。

1959年美籍華人王浩先生在704計(jì)算機(jī)用9分鐘時(shí)間，證明了著名的《數(shù)學(xué)原理》中的百余條數(shù)理邏輯定理，成為人工智能里程碑。

1976年著名的四定理借助計(jì)算機(jī)獲得證明，震撼世界。

1978年吳文俊先生提出幾何定理機(jī)器證明的高效方法。

1990－2010年兩十年平穩(wěn)發(fā)展，人工智能現(xiàn)在重新興旺就是阿爾法狗誕生在2010年。

2015年對(duì)與國(guó)家來(lái)說(shuō)人工智能非常不平凡一年，2015年7月人工智能寫(xiě)入國(guó)務(wù)院《關(guān)于積極推進(jìn)黃連＋行動(dòng)的指導(dǎo)意見(jiàn)》。

2016年3月人工智能寫(xiě)入十三五規(guī)劃綱要。

2016年5月國(guó)家發(fā)改委等四部委發(fā)布互聯(lián)網(wǎng)＋人工智能三年行動(dòng)方案。

2018年10月科技部創(chuàng)新2030重大項(xiàng)目設(shè)立人工智能專(zhuān)項(xiàng)。

新一代人工智能，基于大數(shù)據(jù)、云平臺(tái)、網(wǎng)絡(luò)并行計(jì)算、智能芯片等信息技術(shù)和基礎(chǔ)設(shè)施的建設(shè)為人工智能的進(jìn)一步發(fā)展提供了保障。深度學(xué)習(xí)的理論和方法，信息化的應(yīng)用需求，國(guó)家和企業(yè)的高投入為人工智能發(fā)展注入了強(qiáng)勁的動(dòng)力，所以人工智能現(xiàn)在處在歷史性的發(fā)展機(jī)遇。

人工智能與網(wǎng)絡(luò)安全是什么關(guān)系？

網(wǎng)絡(luò)信息安全，信息網(wǎng)絡(luò)的廣泛使用使其安全性，包括兩個(gè)方面，Safety／secunity。這也是與人們生活、工作密切相關(guān)而又難以解決的問(wèn)題。對(duì)網(wǎng)絡(luò)高度依賴(lài)使得人們對(duì)其穩(wěn)定性、可靠性、壟斷性，對(duì)信息存儲(chǔ)的傳輸和安全性都有極高的要求。從某種意義上講，我們的生活，我們的工作并未隨著技術(shù)的進(jìn)步和網(wǎng)絡(luò)普及而得到很大的改善。

但在某種意義上趨于惡化的趨勢(shì)。隱私信息泄露、銀行卡盜刷、商業(yè)網(wǎng)絡(luò)欺詐，遠(yuǎn)程病毒攻擊不停在擾亂我們的生活。以前沒(méi)有病毒，后來(lái)有病毒，以前沒(méi)有欺詐，現(xiàn)在有欺詐，所以很多問(wèn)題值得思考和解決。

通過(guò)保障網(wǎng)絡(luò)安全，增強(qiáng)網(wǎng)絡(luò)系統(tǒng)的物理性能和運(yùn)行可靠性，需要提高抗攻擊能力，要使用區(qū)塊鏈等新技術(shù)記錄多方參與的信息活動(dòng)，使交易信息部得單方面修改，信息價(jià)值可以通過(guò)技術(shù)手段進(jìn)行轉(zhuǎn)移。網(wǎng)絡(luò)安全教育尤為重要，然后是法制和網(wǎng)絡(luò)技術(shù)，標(biāo)準(zhǔn)化、規(guī)范化有助于改善網(wǎng)絡(luò)的安全性。

人工智能與安全的關(guān)系是相互作用，相互影響。信息網(wǎng)絡(luò)安全是人工智能廣泛應(yīng)用的基本保障，沒(méi)有數(shù)據(jù)，沒(méi)有信息，沒(méi)有安全，就沒(méi)法來(lái)討論人工智能。另一方面，人工智能方法可以用于網(wǎng)絡(luò)安全隱患的檢測(cè)和網(wǎng)絡(luò)安全機(jī)制的建立、優(yōu)化和分析。

人工智能VS網(wǎng)絡(luò)安全

挑戰(zhàn)？

人工智能給安全帶來(lái)了很多的挑戰(zhàn)，基于機(jī)器學(xué)習(xí)和深度搜索的人工智能方法會(huì)提升攻擊網(wǎng)絡(luò)和信息安全的能力，對(duì)全天候跟蹤網(wǎng)絡(luò)行為獲取的大數(shù)據(jù)進(jìn)行人工智能分析，有可能自動(dòng)檢測(cè)出運(yùn)行網(wǎng)絡(luò)出現(xiàn)物理異常和安全性低下的時(shí)段與內(nèi)外部環(huán)境，從而可以制定更有效的攻擊機(jī)制和策略。人工智能方法對(duì)網(wǎng)絡(luò)安全的挑戰(zhàn)將會(huì)增加網(wǎng)絡(luò)安全的保障成本。

人工智能＋是給安全的很大威脅。深度搜索向?qū)挾人阉?、廣度搜索擴(kuò)展，威脅基于通用知識(shí)的安全保障機(jī)制。機(jī)器學(xué)習(xí)從蠻力型、普適型向知識(shí)型延伸，這將威脅基于專(zhuān)業(yè)知識(shí)的安全機(jī)制。萬(wàn)物互聯(lián)使全局安全受制于局部安全，巴黎城門(mén)失火，可以殃及天府池魚(yú)。

5G云端：虛擬現(xiàn)實(shí)、穿越時(shí)空，數(shù)據(jù)傳輸、價(jià)值轉(zhuǎn)移、網(wǎng)絡(luò)攻擊都有可能在0秒內(nèi)完成。還有很多的物理手段，比如說(shuō)衛(wèi)星定位、雷達(dá)跟蹤、聲波探測(cè)、視頻監(jiān)控，我們一言一行盡在數(shù)據(jù)中。還有非計(jì)算智能，超越人類(lèi)智能的生物感知、動(dòng)物智能是否可以用來(lái)為虎添翼。有很多動(dòng)物智能很強(qiáng)，比如狗的嗅覺(jué)比人強(qiáng)，狗的嗅覺(jué)可以智能化放到機(jī)器上，那么它們感知能力就會(huì)比我們強(qiáng)很多。

機(jī)遇？

人工智能對(duì)于安全的挑戰(zhàn)，給安全發(fā)展帶來(lái)機(jī)遇。我們要重新審視、分析蠻力型、普適型安全機(jī)制的安全性和可靠性，建立基于元智能的高智型安全機(jī)制 ，并構(gòu)建復(fù)合型多重安全保障體系，保證安全攸關(guān)信息網(wǎng)絡(luò)的絕對(duì)安全。

網(wǎng)絡(luò)的安全威脅將會(huì)隨著網(wǎng)絡(luò)使用力的加大而加大。對(duì)于網(wǎng)絡(luò)實(shí)施多方位、智能化協(xié)同攻擊會(huì)變得越來(lái)越容易。深度群體智能密碼分析會(huì)提出對(duì)密碼的攻擊能力。比如說(shuō)我們的計(jì)算可以通過(guò)網(wǎng)絡(luò)，可以在一億部手機(jī)上實(shí)現(xiàn)簡(jiǎn)單的操作，這項(xiàng)能力，強(qiáng)度會(huì)比以前大很多。網(wǎng)絡(luò)設(shè)施建設(shè)將會(huì)繼續(xù)，網(wǎng)絡(luò)安全性將會(huì)不斷提高，但是我們需要教育，需要自律、法律加強(qiáng)與完善網(wǎng)絡(luò)安全。

道高一尺 魔高一丈

人工智能VS網(wǎng)絡(luò)安全中既有挑戰(zhàn)又有機(jī)遇。一句話(huà)，我們要道德、法規(guī)、科技、智能。傳道承德、建規(guī)立法、創(chuàng)新科技、智能保安。其中網(wǎng)絡(luò)道德安全教育尤為重要。

我們花很多錢(qián)很多技術(shù)希望變得安全，但是最終沒(méi)有達(dá)到想要的結(jié)果。我們能做到的是本質(zhì)加密加鎖，小人難盜，善行善舉，君子不竊。君子都來(lái)攻擊，那么安全很難保障。我們需要教育，需要改善人們對(duì)社會(huì)，對(duì)現(xiàn)代文化的認(rèn)識(shí)，這是非常重要的。我們花這么多的精力做這么多事情，達(dá)到什么效果呢？效果就是促進(jìn)科技的進(jìn)步，將造福人類(lèi)。

人工智能真的那么可怕嗎？

舉一個(gè)例子，核能和智能，這二者不可或缺。我們研究核能，造原子彈、氫彈、核武器是為了要保護(hù)自己。我們?cè)斐鰜?lái)之后我們并沒(méi)有使用核武器，但是沒(méi)有核武器有可能遭到別人攻擊，有了核武器別人不來(lái)攻擊我們，我們也不攻擊別人。反而核武器成為科技進(jìn)步的表現(xiàn)，從而造福人類(lèi)。比如說(shuō)發(fā)電、核潛艇。在法國(guó)80％電都是靠核能，所以核能發(fā)揮著重要的作用。

人工智能存在威脅，但怎么會(huì)比核能更可怕呢？人與汽車(chē)，誰(shuí)跑得更快？誰(shuí)更有智能？這是顯然的問(wèn)題，汽車(chē)只能在公路上跑得快，還需要人來(lái)駕駛。而我們?nèi)丝梢宰擢?dú)木橋，可以穿小胡同，可以獨(dú)上高樓，可以另辟蹊徑。

人工引發(fā)的智能可以非常強(qiáng)大，但是仍然無(wú)法超越人類(lèi)自身的元智能，因?yàn)槿藙?chuàng)造的能力是無(wú)限的。我們制造的東西，我們研究的東西，我們一定要讓它在我們的控制之下。人工智能是機(jī)器智能，是算法智能，人智能的科學(xué)基礎(chǔ)是數(shù)學(xué)。