谷歌前CEO：人工智能會給人類帶來“生存風險”

5月25日消息，當?shù)貢r間周三谷歌前首席執(zhí)行官埃里克·施密特（Eric Schmidt）警告稱，人工智能可能會導致很多人“受到傷害或者死亡”（harmed or killed），給人類帶來“生存風險”，政府需要知道如何確保這項技術(shù)不會“被壞人濫用”。

當下，人工智能未來走向已經(jīng)成為技術(shù)專家和政策制定者的討論焦點，他們正在努力探討人工智能的未來發(fā)展趨勢以及該如何進行監(jiān)管。

去年開始走紅的聊天機器人ChatGPT讓人們對人工智能有了更多認識。世界各地的大公司都希望推出有競爭力的人工智能產(chǎn)品，推廣自家在人工智能領(lǐng)域的實力。

施密特周三在倫敦舉行的一次峰會上表示，他擔心人工智能會給人類帶來一種“生存風險”。

施密特說：“生存風險的定義是很多很多人受到傷害或死亡?！?/p>

他解釋說，“在某些情況下，這些系統(tǒng)能夠在網(wǎng)絡(luò)問題中發(fā)現(xiàn)零日漏洞，或者發(fā)現(xiàn)新物種。雖然不是現(xiàn)在，但這種情況很快就會出現(xiàn)。當下這種說法是虛構(gòu)的，但推演結(jié)果很可能是真實存在的。當這種情況發(fā)生時，我們希望能做好準備，知道如何確保這些東西不會被壞人濫用?！?/p>

施密特所說的零日漏洞是黑客在軟件和系統(tǒng)中發(fā)現(xiàn)的安全漏洞。

施密特在2001年至2011年期間擔任谷歌首席執(zhí)行官，雖然他對人工智能應(yīng)該如何監(jiān)管沒有明確的看法，但表示這是一個“更廣泛的社會問題”。他表示，美國不太可能成立一個專門監(jiān)管人工智能的新機構(gòu)。

施密特并不是第一個對人工智能風險發(fā)出警告的科技界大佬。

開發(fā)ChatGPT的OpenAI公司首席執(zhí)行官薩姆·奧爾特曼(Sam Altman)今年3月份就承認，他對人工智能感到“有點害怕”。特斯拉首席執(zhí)行官埃隆·馬斯克（Elon Musk）過去也曾表示，他認為人工智能是人類文明面臨的“最大風險”之一。

谷歌最近推出了自家的人工智能聊天機器人Bard。負責監(jiān)督這項工作的現(xiàn)任首席執(zhí)行官桑德爾·皮查伊（Sundar Pichai）說這項技術(shù)將“影響每家公司的每一件產(chǎn)品”，并認為全社會需要為這些變化做好準備。

如今施密特是美國人工智能國家安全委員會的成員。委員會于2019年開始對人工智能技術(shù)進行審查，包括建立一個潛在的監(jiān)管框架。2021年，委員會發(fā)布了一份評估報告，警告稱美國對人工智能時代的準備不足。