無人駕駛真正絆腳石是黑客 自動化造成失業(yè)恐惹眾怒

　　據(jù)MIT Technology Review報道，在無人駕駛卡車和出租車上路之前，制造商們需要解決一個比防撞和導(dǎo)航復(fù)雜得多的問題。這些車輛將不得不預(yù)見并抵御惡意攻擊者的侵?jǐn)_，這些人同時使用傳統(tǒng)網(wǎng)絡(luò)攻擊手段和基于所謂“對抗性機器學(xué)習(xí)”的新式攻擊方法。隨著越來越多的人一致認(rèn)為，無人駕駛汽車只需要幾年時間就會出現(xiàn)在城市里(比如機器人出租車)和高速公路上，以緩解長途卡車司機的無聊感。然而，這種攻擊風(fēng)險在很大程度上卻在鋪天蓋地的覆蓋報道中被忽略。

　　這不禁讓我想起了上世紀(jì)90年代早期推廣電子郵件的大量文章，當(dāng)時這種新興電子通訊領(lǐng)域還未被垃圾郵件所充斥。那時，機器學(xué)習(xí)被看作是解決世界垃圾郵件問題的方案之一。事實上，今天的垃圾郵件問題在很大程度上已被解決，但我們花了幾十年的時間才實現(xiàn)這個目標(biāo)。

　　目前還沒有黑客針對無人駕駛汽車發(fā)動襲擊的報道。但具有諷刺意味的是，這的確是一個問題。在20世紀(jì)90年代，互聯(lián)網(wǎng)初創(chuàng)公司開發(fā)了首批電子商務(wù)平臺時，也沒有惡意攻擊者。在第一輪電子商務(wù)黑客襲擊發(fā)生之后，比爾·蓋茨(Bill Gates)給微軟寫了一份備忘錄，要求公司認(rèn)真對待安全問題。結(jié)果，如今的Windows成為世界上最安全的操作系統(tǒng)之一，微軟每年在網(wǎng)絡(luò)安全上的花費超過10億美元。盡管如此，黑客還是不斷發(fā)現(xiàn)Windows操作系統(tǒng)、網(wǎng)絡(luò)瀏覽器和應(yīng)用程序的漏洞。

　　汽車公司很可能也會經(jīng)歷類似的過程。20世紀(jì)80年代設(shè)計的“CAN總線”(CAN bus)未能考慮安全性問題，這個失敗讓人們普遍感到尷尬，因為當(dāng)時還沒有驗證的概念，現(xiàn)在他們似乎在關(guān)注此事。當(dāng)黑客們證明，道路上的車輛很容易受到幾個特定安全威脅的影響時，汽車制造商只能通過召回并升級數(shù)百萬輛汽車的固件應(yīng)對。去年7月份，通用汽車公司首席執(zhí)行官瑪麗?巴拉(Mary Barra)表示，保護(hù)汽車免受網(wǎng)絡(luò)襲擊的影響“事關(guān)公共安全”。

　　但迄今為止所做的努力可能正錯過下一個安全趨勢。無人駕駛汽車的開發(fā)依賴于復(fù)雜的機器學(xué)習(xí)算法，但計算機視覺和防撞系統(tǒng)卻沒有被很好地理解。去年，美國卡內(nèi)基-梅隆大學(xué)的研究人員證明，使用一副透明的眼鏡，并在鏡框上印上時髦的圖案，就可以擊敗最先進(jìn)的人臉識別算法。

　　關(guān)于這個模式的某些東西以正確方式欺騙了算法，讓其以為自己看到了不存在的東西。首席研究員馬穆德·謝里夫(Mahmood Sharif)在電子郵件中稱：“我們已經(jīng)證明，通過模仿目標(biāo)人物或簡單的識別錯誤，攻擊者都可以逃避基于神經(jīng)網(wǎng)絡(luò)開發(fā)的最先進(jìn)人臉識別算法。”

　　2016年，美國南卡羅來納大學(xué)、中國浙江大學(xué)以及中國網(wǎng)絡(luò)安全公司奇虎360(Qihoo 360)的研究人員證明，他們可以在特斯拉S上干擾各種傳感器，使其導(dǎo)航系統(tǒng)看不到物體。

　　最近許多關(guān)于無人駕駛的文章，甚至忽略了可能會有積極的、有適應(yīng)能力的惡意競爭對手存在，他們可能試圖讓無人駕駛車輛發(fā)生重大事故。在接受《麻省理工技術(shù)評論》采訪時，美國國家運輸安全委員會(National Transportation Safety Board)主席克里斯托弗?哈特(Christopher Hart)表示，他“非常樂觀”地認(rèn)為，無人駕駛汽車將減少美國道路上的事故數(shù)量。而在討論安全問題時，哈特把重點放在了讓車輛進(jìn)行道德決策的必要性上。例如，當(dāng)重達(dá)36噸的卡車突然擋住汽車的路時，會發(fā)生什么?

　　為什么在明知會導(dǎo)致死亡的情況，依然有人想要攻擊無人駕駛汽車?其中一個原因是，無人駕駛汽車的廣泛部署將導(dǎo)致大量人員失業(yè)，其中有些人將會對此感到憤怒。2016年8月，福特公司首席執(zhí)行官馬克·菲爾茲(Mark Fields)表示，他計劃在2021年之前在城市中推出全自動駕駛出租車。谷歌、日產(chǎn)和其他公司也計劃最早于2020年前推出類似的無人駕駛汽車。這些無人駕駛的出租車或運載工具可能很容易被失業(yè)的卡車司機(或Uber司機)用高功率激光指示器弄得暈頭轉(zhuǎn)向。

　　當(dāng)被問及如何應(yīng)對競爭對手的機器學(xué)習(xí)威脅計劃時，Uber發(fā)言人莎拉?阿伯德(Sarah Abboud)回應(yīng)道:“我們的安全專家團隊不斷探索無人駕駛車輛的未來防御技術(shù)，包括數(shù)據(jù)完整性和濫用檢測。然而，隨著無人駕駛技術(shù)的發(fā)展，威脅模型也在進(jìn)化，這意味著今天的一些安全問題可能與真正無人駕駛環(huán)境中所處理的問題有所不同?！?/p>