人工智能正在持續(xù)進步 缺點不斷暴露

　　試想一下，在你與客戶見面前，他們給了你一份確認函以及見面地的地圖，并且在地圖上標注了方位。這一切似乎看起來很正常，但事實是，整條信息都由一個惡意軟件模仿客戶的語言習慣寫成，而且在地圖上附著了病毒。

　　這樣的事聽起來似乎離我們很遠，但其實它就發(fā)生在眼下。作為Darktrace網絡安全公司的技術總監(jiān)，Dave Palmer認為黑客和網絡安全公司的技術能力競爭正越來越激烈。

　　今年九月份，在倫敦舉行的《金融時報》網絡安全峰會上，Dave Palmer提出：隨著人工智能變得越來越精密，它難免會變成惡意軟件，對企業(yè)和個人造成潛在的巨大威脅，而這一點恰恰是黑客所看中的價值。

　　我們必須牢記，Dave Palmer不僅是一位網絡安全維護者，同時也是一個商人。他的工作就是大肆宣揚和夸大所出現(xiàn)的威脅(不論是現(xiàn)在已經出現(xiàn)的，還是未來可能出現(xiàn)的)，并宣稱只有Darktrace才能解決這一問題，以此來安撫用戶。

　　Darktrace是一家市值5億美元(4.01億英鎊)的英國公司，主要采用人工智能方式來保障網絡安全。該公司為用戶建立了一個“免疫系統(tǒng)”，以監(jiān)督潛在的非法商業(yè)操作。從這一點來看，Dave Palmer作為一家年輕的人工智能領域公司的技術總監(jiān)，對網絡安全的未來發(fā)展提出了新見解。

　　智能病毒將“綁架”工業(yè)設備

　　目前，勒索軟件非常普遍。這款惡意軟件會對受害者的電腦或者網絡進行編碼，只有提供一個比特幣才能解碼。如果沒有在規(guī)定時間內上交比特幣，那么數(shù)據(jù)將會永久丟失。

　　如果惡意軟件擁有人工智能特性，則將具有自我組織性，其殺傷力將會更大。而且它具有不斷生成性，這對于制造者來說將更有利可圖。

　　Dave Palmer說：“我們對惡意軟件產生的連鎖反應有一定預見。在突然大規(guī)模爆發(fā)前，它們一定會事先潛伏在網絡的許多區(qū)域，以便形成連續(xù)效應。我確信，一定會出現(xiàn)對資產和數(shù)據(jù)的網絡敲詐。第一，在工廠的設備，醫(yī)院的核磁共振掃描儀和自動販賣機損壞時，為了不影響到日常工作，你需要及時修復它們，以避免網絡敲詐。第二，你需要備份數(shù)據(jù)，以便在機器損壞時，也不必把錢浪費在數(shù)據(jù)恢復上。

　　惡意軟件將模仿熟悉的人

　　不論是充滿噱頭的關于病毒的小道消息，還是英國衛(wèi)報的社論專版，都提到過人工智能軟件將根據(jù)用戶經常使用的神經網絡來學習并模仿寫作模式。DavePalmer提到：在不久的將來，惡意軟件將會從用戶的通信中學習并模仿與他人的交流方式，以達到其他目的。

　　他舉例道：“有一個叫納迪亞的女孩，她在手提電腦里安裝了一個軟件，該軟件可以閱讀她所有的信件、信息和日程，而且能模仿她的語氣進行回復。所以，僅從信件判斷，你會覺得她是一個很粗魯、不時開玩笑的人。但實際上，她非常有禮貌。此外，該軟件也可發(fā)送病毒。根據(jù)她的日程表，她會發(fā)給你一封郵件，可能內含有地圖，上面標注著你們見面的地點。但當你打開郵件時，也會激活附著在地圖上的病毒?！?/p>

　　還有一種更復雜騙人手段，被稱作“CFO郵件”騙局或者“信任攻擊”。這些騙子的目標是公司職員，通過發(fā)送郵件要求他們轉移資金。在過去三年里，F(xiàn)BI查處了23億美元(18.4億英鎊)的被騙資金。

　　最好的黑客是最受矚目的

　　2015年12月，烏克蘭一家發(fā)電站遭受到了史無前例的黑客攻擊，造成8萬戶家庭斷電，人們認為那些受國家支持的黑客應對此負責。這件事很好地證明了當今世界易受黑客攻擊，但DavePalmer從長遠角度出發(fā)，認為那些技藝高超且破壞性極強的黑客將隱藏得更深。

　　Dave Palmer表示：“如果你想損壞一個石油鉆塔，很容易就會被人們發(fā)現(xiàn)，而且每個人都會想辦法修復它。但你真的想搞垮一個石油或者天然氣開采公司，則不如開發(fā)一個擁有自主尋找、定位和攻擊的惡意軟件，使其入侵到對方的系統(tǒng)里，更改他們想獲得開采權地區(qū)的地理數(shù)據(jù)。一段時間以后，你可以根據(jù)油井儲量并不不如預想的豐富這一點，確認他們開采的地點是錯誤的。而此時該公司的利益已受到了嚴重損害，但他們并不會有所懷疑和注意，而且無法應對?！?/p>

　　他補充道：“你可能會想‘這確實是個好主意，我們應該看看我們的數(shù)據(jù)看，找找是否存在有趣的軟件。’但在未來，惡意軟件的攻擊可能存在于物聯(lián)網傳感器中，它們的深層危害和掃描設備都將在第一時間爆發(fā)，預祝你能成功避開攻擊?！?/p>

　　人工智能改革的陰暗面

　　那么，它發(fā)展的時間表到底是什么樣的呢?Dave Palmer說：“我認為，你可以在接下來的一年時間里創(chuàng)建自己的神經網絡，使其形成基礎的智能應對策略(實現(xiàn)信任攻擊)。而在接下來的幾年里，你將會看到人工智能使用更自然的語言，比如谷歌的Deep Mind?！?/p>

　　這項技術正在持續(xù)進步，缺點也在不斷暴露。