一篇論文使亞馬遜、微軟和IBM暫停面部識(shí)別項(xiàng)目

2018年2月，布拉姆維尼和蒂姆尼特·格布魯發(fā)表了一篇論文，一經(jīng)發(fā)表就在學(xué)術(shù)界和媒體中引起了廣泛反響，而不久前亞馬遜決定對(duì)警方使用其面部識(shí)別技術(shù)實(shí)行一年禁令，更是驗(yàn)證了該論文的預(yù)見性，新一輪熱議就此展開。

該論文名為“性別陰影”，作者通過嚴(yán)謹(jǐn)?shù)臄?shù)據(jù)分析表明，像微軟和IBM這樣的大型公司在人工智能研究和開發(fā)項(xiàng)目上投資了數(shù)十億元，但以人工智能為基礎(chǔ)的面部識(shí)別技術(shù)在女性和膚色較深的人身上卻表現(xiàn)得差強(qiáng)人意。

布拉姆維尼的研究得到了美國公民自由聯(lián)盟的認(rèn)可，他們通過亞馬遜的Rekognition系統(tǒng)對(duì)國會(huì)議員進(jìn)行面部識(shí)別，結(jié)果有28名議員被錯(cuò)誤匹配成了犯罪者的照片。結(jié)論顯而易見：如果國會(huì)議員可能被面部識(shí)別系統(tǒng)誤認(rèn)，那么他們的選民也有同樣的可能。

布拉姆維尼和伊尼盧瓦·德博拉·拉吉繼續(xù)對(duì)此話題進(jìn)行進(jìn)一步研究。在2019年，兩人發(fā)表了名為“可操作的審計(jì)”的研究報(bào)告，此后亞馬遜的面部識(shí)別系統(tǒng)受到審查，因?yàn)樵谔岣呙娌孔R(shí)別對(duì)于有色女性的有效性上，亞馬遜遠(yuǎn)遠(yuǎn)落后于其他公司。

但事情出現(xiàn)了轉(zhuǎn)折。曾經(jīng)為其面部識(shí)別產(chǎn)品辯護(hù)的公司，開始認(rèn)真地重新評(píng)估自己的產(chǎn)品。IBM宣布將不再提供面部識(shí)別技術(shù)；亞馬遜表示將暫停向警方出售面部識(shí)別技術(shù)，時(shí)長為一年；微軟也宣布將不再向警方出售面部識(shí)別技術(shù)，“除非有聯(lián)邦法律規(guī)范該技術(shù)”。據(jù)《華盛頓郵報(bào)》報(bào)道，數(shù)百名微軟員工就要求公司領(lǐng)導(dǎo)重新考慮其執(zhí)法合同。

亞馬遜暫停對(duì)警方出售面部識(shí)別對(duì)于反對(duì)面部識(shí)別的人來說是一場巨大的勝利，該公司此前曾對(duì)其抗議活動(dòng)施加巨大阻力。它發(fā)布了多篇博客文章，試圖質(zhì)疑審核員的工作，阻礙相關(guān)立法的制定。

由此可見，即使是像亞馬遜、IBM和Google這樣的科技巨頭，早先也已決定不提供面部識(shí)別API，他們也不認(rèn)為這項(xiàng)技術(shù)可供警方使用。

布拉姆維尼在推特上寫道：“這不僅是研究人員的共同努力，也是公民自由組織、激進(jìn)人士、員工和股東不斷施加的壓力，再加上喬治·弗洛伊德的不幸，以及公司對(duì)‘#黑人的命也是命’相關(guān)抗議活動(dòng)遲來的認(rèn)同”。

這種勝利在很大程度上是象征性的。但正如激進(jìn)主義者指出的那樣，現(xiàn)在我們有了推動(dòng)人臉識(shí)別立法的機(jī)會(huì)。

莫納什大學(xué)新興技術(shù)實(shí)驗(yàn)室的研究員詹森?薩多夫斯基在推特上寫道：“在我看來，這并不是贏了一場戰(zhàn)役，而是贏得了一個(gè)乘勝追擊的時(shí)機(jī)來大獲全勝。我們所有人都抗擊得很辛苦，只是為了獲得足夠的反擊空間?，F(xiàn)在我終于感到踏實(shí)一點(diǎn)了。”

但請務(wù)必記住，在面部識(shí)別領(lǐng)域，像IBM和Amazon這樣的公司只是冰山一角。在美國，許多警察部門不從大型科技公司購買這些面部識(shí)別產(chǎn)品，而是從一些像NEC、Rank One和Cognitec等小型承包商那里購買聲稱使用了“法醫(yī)”面部識(shí)別算法的產(chǎn)品。

例如，DataWorks Plus開發(fā)了數(shù)據(jù)庫技術(shù)來分析警方存檔的照片和其他面部照片，然后批準(zhǔn)NEC、Rank One和Cognitec使用其面部識(shí)別算法。

NEC將其面部識(shí)別和指紋識(shí)別技術(shù)銷售給包括美國20多個(gè)州在內(nèi)的全球1500多個(gè)執(zhí)法機(jī)構(gòu)。自1983年在美國首次使用指紋識(shí)別技術(shù)以來，該公司就一直與生物識(shí)別技術(shù)的執(zhí)法部門有著合作關(guān)系。

人臉識(shí)別技術(shù)在法律方面的監(jiān)管尚未完善，這些公司利用其漏洞，在加利福尼亞州和馬薩諸塞州部分地區(qū)等完全缺乏聯(lián)邦法規(guī)的地方進(jìn)行銷售。

至于大型科技公司，亞馬遜、微軟、IBM和Google，他們競爭的是人工智能在軍事和云計(jì)算領(lǐng)域的合同。除了IBM以外，所有這些科技公司都對(duì)聯(lián)邦合同保持沉默。亞馬遜還擁有智能門鈴公司Ring，據(jù)稱該公司已與美國1,000個(gè)警察部門建立了合作關(guān)系。

但毫無疑問，這些科技巨頭的舉措意味著，我們向著最終勝利邁出了重要的一步。