歐盟AI監(jiān)管新規(guī)：公共場(chǎng)合人臉識(shí)別將被限制、甚至禁止！

大數(shù)據(jù)文摘授權(quán)轉(zhuǎn)載自AI科技評(píng)論

作者：陳彩嫻

編輯：劉冰一

繼2018年5月25生效的《歐盟一般數(shù)據(jù)保護(hù)條例》（江湖人稱“GDPR”）后，今年4月21日，歐盟首次發(fā)布了針對(duì)人工智能技術(shù)的監(jiān)管法規(guī)草案（如下），長(zhǎng)達(dá)108頁(yè)，探討了企業(yè)與政府應(yīng)該如何使用人工智能技術(shù)。

鏈接：

https://digital-strategy.ec.europa.eu/en/library/proposal-regulation-laying-down-harmonised-rules-artificial-intelligence-artificial-intelligence

在這項(xiàng)草案中，AI的一系列應(yīng)用范圍都受到了不同程度的限制，包括自動(dòng)駕駛、招聘簡(jiǎn)歷過濾、****貸款、入學(xué)篩選與測(cè)試評(píng)分等等，原因是：可能威脅到公民的人身安全與基本權(quán)利。

其中，計(jì)算機(jī)視覺應(yīng)用最火的人臉識(shí)別技術(shù)，在公共場(chǎng)合的應(yīng)用更是被高度禁止，除非是用于尋找失蹤兒童、防止恐怖活動(dòng)威脅或識(shí)別刑事犯罪人員等特殊情況。即使有特殊情況，在公共場(chǎng)合應(yīng)用人臉識(shí)別技術(shù)，也需要獲得司法機(jī)構(gòu)或其他獨(dú)立機(jī)構(gòu)的授權(quán)，并有時(shí)間、地理范圍和所搜索數(shù)據(jù)庫(kù)的限制。

違反新法規(guī)的公司，可能會(huì)面臨高達(dá)全球銷售額6％（最高2000萬(wàn)歐元）的罰款。

歐盟AI監(jiān)管法規(guī)詳情

根據(jù)歐盟的法規(guī)草案，對(duì)人工智能應(yīng)用的監(jiān)管根據(jù)風(fēng)險(xiǎn)等級(jí)，主要分為絕對(duì)禁止、高風(fēng)險(xiǎn)、較小風(fēng)險(xiǎn)與最小風(fēng)險(xiǎn)等四類。

1、絕對(duì)禁止的風(fēng)險(xiǎn)：對(duì)人類的安全、和權(quán)利構(gòu)成明顯威脅的AI系統(tǒng)將被禁止。這包括操縱人類行為，以違反用戶自由意志的AI系統(tǒng)或應(yīng)用程序，例如通過語(yǔ)音協(xié)助、鼓勵(lì)未成年人進(jìn)行危險(xiǎn)行為的玩具，或供政府進(jìn)行“社交評(píng)分”的系統(tǒng)。

2、高風(fēng)險(xiǎn)：被確定為高風(fēng)險(xiǎn)的AI系統(tǒng)包括有以下應(yīng)用的AI技術(shù)：

• 重要的基礎(chǔ)設(shè)施（例如運(yùn)輸），可能將公民的生命和健康置于危險(xiǎn)中；

• 教育或職業(yè)培訓(xùn)，可能決定人們接受教育和專業(yè)課程（例如考試成績(jī)）；

• 產(chǎn)品的安全組件（例如AI在機(jī)器輔助手術(shù)中的應(yīng)用）;

• 就業(yè)，工人管理和自聘職業(yè)（例如招聘流程中使用的簡(jiǎn)歷分類軟件）;

• 重要的私人和公共服務(wù)（例如信用評(píng)分，剝奪了公民獲得貸款的機(jī)會(huì)）；

• 可能會(huì)侵犯人們基本權(quán)利的執(zhí)法活動(dòng)（例如評(píng)估證據(jù)的可信度）；

• 移民，庇護(hù)和邊境管制管理（例如核實(shí)旅行證件的真實(shí)性）；

• 司法和民主程序的執(zhí)行（例如，將法律應(yīng)用于具體事件）。

高風(fēng)險(xiǎn)的AI系統(tǒng)在投放于市場(chǎng)之前，必須遵守嚴(yán)格的義務(wù)：

• 足夠的風(fēng)險(xiǎn)評(píng)估和紓解系統(tǒng)；

• 提供給系統(tǒng)的高質(zhì)量數(shù)據(jù)集可最大程度地降低風(fēng)險(xiǎn)和歧視；

• 記錄活動(dòng)以確保結(jié)果的可追溯性；

• 詳細(xì)的文件，提供有關(guān)系統(tǒng)及其構(gòu)建目標(biāo)的所有必要信息，以供當(dāng)局評(píng)估其合規(guī)性；

• 向用戶提供清晰、充足的信息；

• 適當(dāng)?shù)娜藶楸O(jiān)督措施，以最大程度地降低風(fēng)險(xiǎn)；

• 高水平的魯棒性、安全性和準(zhǔn)確性。

歐盟新法規(guī)要求，提供高風(fēng)險(xiǎn)人工智能技術(shù)的公司要向監(jiān)管機(jī)構(gòu)提供安全證明文件，包括風(fēng)險(xiǎn)評(píng)估與解釋該技術(shù)如何做決策的文檔。企業(yè)還需要保證人為監(jiān)督系統(tǒng)的創(chuàng)建與使用方法。

需要注意的是，所遠(yuǎn)程生物識(shí)別系統(tǒng)都被認(rèn)為是高風(fēng)險(xiǎn)的，并有嚴(yán)格的要求。原則上，這類系統(tǒng)被禁止在公共場(chǎng)合進(jìn)行執(zhí)法使用，除非是有特殊情況，比如尋找失蹤兒童，防止特定類型的、迫在眉睫的恐怖威脅，或者偵查、定位、識(shí)別或起訴犯有嚴(yán)重刑事罪行的犯罪者或嫌疑人。此類使用需要獲得司法機(jī)構(gòu)或其他獨(dú)立機(jī)構(gòu)的授權(quán)，并受時(shí)間、地理范圍和所搜索數(shù)據(jù)庫(kù)的一定限制。

3、較小風(fēng)險(xiǎn)（如具有透明義務(wù)的AI系統(tǒng)）：在使用聊天機(jī)器人（chatbot）等AI系統(tǒng)時(shí)，用戶應(yīng)意識(shí)到他們是在與機(jī)器交流，以做出繼續(xù)交流或停止交流的決定。

4、最小風(fēng)險(xiǎn)：這條法規(guī)建議允許免費(fèi)使用AI賦能的視頻游戲或垃圾郵件過濾器等應(yīng)用程序。絕大多數(shù)AI系統(tǒng)都屬于這一類。該法規(guī)草案不對(duì)此類AI進(jìn)行干預(yù)，因?yàn)樗鼈儗?duì)公民的權(quán)利或安全所造成的風(fēng)險(xiǎn)極小，或沒有任何風(fēng)險(xiǎn)。

該條例的目的是為了促進(jìn)可信賴人工智能技術(shù)的發(fā)展，提高歐洲人民對(duì)人工智能技術(shù)的信任度。如若通過，該法規(guī)將適用于歐盟所有成員國(guó)。違反新法規(guī)的公司，可能會(huì)面臨高達(dá)全球銷售額6％的罰款。

對(duì)人工智能的警惕并不只局限于歐洲。美國(guó)當(dāng)局也開始考慮對(duì)人工智能進(jìn)行監(jiān)管。比如，當(dāng)?shù)貢r(shí)間4月19日，聯(lián)邦貿(mào)易委員會(huì)（Federal Trade Commission）便發(fā)文警告企業(yè)不要出售使用種族歧視算法，或可能“剝奪人們的就業(yè)，住房，信貸，保險(xiǎn)或其他福利”的人工智能系統(tǒng)。美國(guó)的其他地區(qū)，如馬薩諸塞州，政府已采取措施，對(duì)警察使用面部識(shí)別進(jìn)行限制。

如何看待加強(qiáng)監(jiān)管

這項(xiàng)法規(guī)是全球所有國(guó)家與地區(qū)的首次嘗試。根據(jù)斯坦福大學(xué)發(fā)布的《2021年人工智能指數(shù)報(bào)告》（Artificial Intelligence Index Report 2021）顯示，此前2015年至2020年間發(fā)布了117個(gè)AI倫理道德方面的文件，但只是“原則”層面，而不是“法規(guī)”層面。

根據(jù)《紐約時(shí)報(bào)》的報(bào)道，歐盟法規(guī)草案發(fā)布后，引起了不同的觀點(diǎn)與討論。許多業(yè)界團(tuán)隊(duì)認(rèn)為該法規(guī)沒有進(jìn)一步加強(qiáng)管控，如釋重負(fù)，而民間社會(huì)組織則認(rèn)為對(duì)AI的管控還可以更進(jìn)一步。

許多人擔(dān)心該政策過于寬泛，為企業(yè)與技術(shù)開發(fā)者進(jìn)行自我監(jiān)督留了很大的自由空間。

雖然歐盟將通過質(zhì)量管理和評(píng)估程序嚴(yán)格管控，但一些人工智能技術(shù)供應(yīng)商將被允許進(jìn)行自我合規(guī)測(cè)評(píng)。數(shù)字權(quán)利組織 EDRi 的高級(jí)政策顧問 Sarah Chander 對(duì) Politico 表示：“歐盟委員會(huì)將合規(guī)交給了人工智能供應(yīng)商，這可能會(huì)損害（人們的）基本權(quán)利，甚至可能讓公共當(dāng)局逍遙法外?！?nbsp;

來自倫敦Ada Lovelace研究所（主要研究人工智能倫理）的主任Carly Kind表示：“如果法規(guī)沒有規(guī)定嚴(yán)格的紅線與準(zhǔn)則，也沒有標(biāo)明可接受的界限，那么它會(huì)有很大的解釋空間?！?/p>

一些科技行業(yè)的工作人員則感到寬慰，對(duì)高風(fēng)險(xiǎn)應(yīng)用的合規(guī)要求表示贊許。比如，計(jì)算機(jī)與通信行業(yè)協(xié)會(huì)（Computer & Communications Industry Association）的 Christian Borggreen 對(duì)法新社指出，歐盟委員會(huì)采用了基于風(fēng)險(xiǎn)的評(píng)估方法，這很好。該協(xié)會(huì)代表了包括亞馬遜、Facebook 和谷歌在內(nèi)的多家科技巨頭。

知名人工智能專家與風(fēng)險(xiǎn)投資人Mark Minevich認(rèn)為，強(qiáng)調(diào)監(jiān)管AI是為了提高人類的生活水平，但監(jiān)管不應(yīng)過度限制AI系統(tǒng)的實(shí)驗(yàn)與開發(fā)。

他提到，高風(fēng)險(xiǎn)AI系統(tǒng)應(yīng)該始終配有人為監(jiān)管與控制。而用于與人交互或內(nèi)容生成的AI系統(tǒng)，無論是否屬于高風(fēng)險(xiǎn)，都應(yīng)該遵守透明義務(wù)。

他也認(rèn)為，這項(xiàng)法規(guī)草案會(huì)削弱歐洲的人工智能技術(shù)發(fā)展，而與此同時(shí)，中國(guó)與美國(guó)的人工智能技術(shù)正在飛躍發(fā)展。換言之，這項(xiàng)草案也許會(huì)束縛歐洲在AI方面的落地與創(chuàng)新，使歐洲落后于新的技術(shù)發(fā)展潮流。

Mark Minevich還提出：歐盟對(duì)AI的投資極少，是其在AI競(jìng)賽上輸給美國(guó)與中國(guó)的主要原因。歐盟居住人口4.46億，美國(guó)居住人口3.31億，但在2020年，歐盟對(duì)AI的投入只有20億美元，而美國(guó)達(dá)到了236億美元。歐洲的風(fēng)險(xiǎn)投資模式落后于美國(guó)，導(dǎo)致歐洲許多快速發(fā)展的初創(chuàng)企業(yè)轉(zhuǎn)而依賴于美國(guó)與亞洲的投資者。

大家怎么看？

參考鏈接：

https://www.nytimes.com/2021/04/16/business/artificial-intelligence-regulation.html

https://techcrunch.com/2021/05/15/european-ai-needs-strategic-leadership-not-overregulation/

https://ec.europa.eu/commission/presscorner/detail/en/IP_21_1682

https://www.ftc.gov/news-events/blogs/business-blog/2021/04/aiming-truth-fairness-equity-your-companys-use-ai

https://www.nytimes.com/2021/02/27/technology/Massachusetts-facial-recognition-rules.html