波音空難背后：人類應該在何種程度上信任AI？

　　隨便舉個例子。比如判定一個人是不是禿頂，這個標準其實就很模糊。假如他確實一根頭發(fā)都沒有，那么事情就清楚明白了，無論是AI還是普通人，都會認為他就是禿頂。但假如他只有一根頭發(fā)呢?在AI看來，哪怕它只有一根頭發(fā)，他也已經(jīng)不是禿頂了，但在普通人的習慣性認知里，他依然是個禿頂。那么，如果要給AI設(shè)計一個程序，到底這個量級應該設(shè)置在多少呢?一根頭發(fā)?兩根頭發(fā)?還是一萬根頭發(fā)?這是一個界限很模糊的事情，在AI的認知中極難判定，但在人類的認知中這幾乎不是什么難題。

　　AI是有漏洞的，它處理問題過于剛性，有時候會釀出慘禍。因此在西方科學界，很多大咖都提醒人類，對待AI要慎重，這是一把雙刃劍，它的副作用必須引起警示。

　　自動駕駛技術(shù)也是這樣。在飛機上，當然應該裝自動駕駛系統(tǒng)，但是在最后決定權(quán)的歸屬上，一般默認人類應該有超越AI的權(quán)限。

　　為什么在最終抉擇時，人類選擇相信自己呢?這也是一個頗有爭議性的話題。

　　眾所周知的事實是，人類存在一大堆弱點。人類自身的計算能力遠沒有機器精準，軀體遠沒有機械強悍，在保持客觀理性的判斷力上，人類也乏善可陳，很多時候人類都是憑情感來做選擇的。

　　那么，人類憑什么這么自信呢?

　　這也許只是源于人類的盲目自信，甚至是自大，但可能更大的原因在于，人類知道純粹的剛性思維往往會帶來極其嚴重的社會后果，比如算法歧視、規(guī)則排他性等等。一旦AI掌握游戲規(guī)則的最終裁定權(quán)，很可能會產(chǎn)生一個讓人類絕望的AI暴政時代。設(shè)想一下，假如AI計算后認為，只有某類人才有生存的價值，那么一場大屠殺就要開始了，那可能比納粹更離譜。

　　AI不會自我修正，但人類可以，反省精神可能是人類優(yōu)于AI的一個方面。

　　已故科學巨匠霍金一直對AI保持警惕的態(tài)度。

　　2016年10月19日，霍金劍橋大學發(fā)表演講。他在演講中批評了人工智能的無節(jié)制發(fā)展，他認為，人工智能技術(shù)的確有希望帶來巨大的福利，比如根除疾病和貧困，但是它同樣也可能帶來危險，比如強大的自主式武器，或者幫助少數(shù)人壓迫多數(shù)人。

　　2017年3月，霍金在接受《泰晤士報》采訪時再次發(fā)出警告，“人類需要控制以人工智能為代表的新興科技，以防止它們在未來可能對人類生存帶來的毀滅性威脅。”他還說，“自從人類文明開始以來，侵略便一直存在，往往出現(xiàn)在相對具有生存能力優(yōu)勢的不同群體之間，而未來人工智能進一步發(fā)展便可能具備這種‘優(yōu)勢’。他們本身也是生根于達爾文的進化論之中。因此人類需要利用邏輯和理性去控制未來可能發(fā)生的威脅?！?/p>

　　在歐美國家，對于人工智能的立場分為截然不同的很多派別。不過即便是最樂觀的派系，也遠不及我們身邊的大多數(shù)人對于AI技術(shù)的樂觀。

　　目前我所能查到的國內(nèi)有關(guān)民航無人駕駛系統(tǒng)應用的論文，對于AI技術(shù)的態(tài)度都是持高度肯定和樂觀態(tài)度的，甚至很多文章通篇洋溢著浪漫主義的情懷。至于媒體的報道則更是如此，比如前幾年關(guān)于波音、空客民航大客機做飛行表演時的報道，很多媒體對于AI控制系統(tǒng)成為飛機的實際控制者的消息歡欣鼓舞。在大多數(shù)人看來，AI技術(shù)只要做好防范黑客攻擊這一道關(guān)，其他方面都不是問題。

　　其他領(lǐng)域也是一樣，比如關(guān)于機器換人的新聞，基本上都持高度肯定及贊賞的態(tài)度，金融資本圈對于AI技術(shù)、大數(shù)據(jù)技術(shù)的追捧同樣是大家有目共睹的。

　　但是，AI技術(shù)對于現(xiàn)實生活的反噬其實已經(jīng)開始顯現(xiàn)。比如，AI技術(shù)的基礎(chǔ)建立于大數(shù)據(jù)之上，而大數(shù)據(jù)非法采集及信息泄露問題，現(xiàn)在層出不窮。但遺憾的是，盡管這個問題已經(jīng)泛濫了好幾年，現(xiàn)在卻依然沒有看到局面改變的跡象，甚至愈演愈烈。

　　算法的歧視問題也越來越嚴重。比如去年IG奪冠，王思聰微博抽獎，113名獲獎者中只有1名男性，隨即有人發(fā)現(xiàn)，幾乎所有的微博抽獎都是女性獲獎，而有人更是深挖出背后的計算邏輯，即系統(tǒng)并不考慮性別，但如果用戶對化妝品之類的商品敏感度高、購買力強，則不會被標注為“垃圾用戶”。今年更曝出猛料，如果某女性在某電商平臺上買了幾條低于128元的裙子，基本上她已經(jīng)失去了被人追求的價值。

　　更令人細思極恐的是，在隱私權(quán)被無視之后，大數(shù)據(jù)和AI技術(shù)實際上是可以獲得你的一切信息的，包括你的容貌、身份信息、指紋、密碼、生活習慣，你在網(wǎng)絡(luò)上留下的任何痕跡都會面臨潛在的非法使用風險。那么如果有一天，AI創(chuàng)造了另外一個你，那么你該如何證明自己才是真實的本主呢?

　　結(jié)語

　　當下我們所處的時代還只是一個初級AI時代，不過阿爾法狗已經(jīng)向人類證明了AI強大的自我學習能力，假以時日，強人工智能時代終將來臨。

　　考慮到硬件的快速發(fā)展和軟件的創(chuàng)新是同時發(fā)生的，強人工智能時代可能比我們預期的更早降臨，因為指數(shù)級增長的開端可能像蝸牛漫步，但是后期會跑的非?？臁?/p>

　　以當下我們身邊很多人對AI技術(shù)的樂觀態(tài)度，未來人類會和與人類智能相當?shù)膹娙斯ぶ悄茈娔X平等快樂地生活在一起?；蛘吒硐胍稽c，一群智能遠超人類的機器人甘愿為人類的幸福默默地奉獻一切。我不知道這種設(shè)想是否正確，但我希望它是真的，畢竟誰不希望未來會更加美好呢?

　　但這個星球上依然有很多人對于AI心存警惕。比如當獅航空難和埃航空難發(fā)生之后，仍然有很多人認為，對于關(guān)乎人類性命的事情，最后的裁決權(quán)依然應該交給人類，而不能交給冰冷的AI，即便它無比強大。