AI 監(jiān)視打工人，這個(gè)國家明確說：保護(hù)我方“摸魚權(quán)”！

撰文 | 劉芳

來源 | 學(xué)術(shù)頭條

近日，國美控股集團(tuán)對(duì)員工“摸魚” 的處罰引起了關(guān)于職場中隱私權(quán)的巨大爭議。

事實(shí)上，這一事件并非個(gè)例。如今人工智能（AI）算法在職場中的使用，已經(jīng)涉及到包含隱私權(quán)在內(nèi)的諸多問題。

隨著人工智能在工作場所的使用越來越普遍，老板們到底有沒有權(quán)利監(jiān)視員工的摸魚行為已經(jīng)成為了一個(gè)不可回避的問題。

11 月 11 日，英國議會(huì)調(diào)查小組就人工智能在職場中的使用作出最終報(bào)告，稱無處不在的監(jiān)控和算法自動(dòng)化決策對(duì)員工的身心健康帶來顯著的負(fù)面影響，員工會(huì)因此感受到極大的壓力。

（來源：該報(bào)告）

報(bào)告提出：“人工智能正在改變?nèi)藗兊穆殘錾?，但其發(fā)展速度明顯超過了現(xiàn)有的監(jiān)管制度?！?/p>

這份報(bào)告由英國議會(huì)跨黨派未來工作小組（The All Party Parliamentary Group on the Future of Work，APPG）撰寫，主要目的是調(diào)查前沿科技尤其是人工智能對(duì)人們工作帶來的機(jī)遇和挑戰(zhàn)。

（來源：該報(bào)告）

對(duì)此，調(diào)查小組提出了五點(diǎn)建議，以保障雇主和打工人之間的信任，并防范因算法的不當(dāng)使用帶來的社會(huì)心理風(fēng)險(xiǎn)。

建議一：“算法問責(zé)法案”中的先發(fā)機(jī)制

到目前為止，使用人工智能進(jìn)行職場監(jiān)控的企業(yè)，不需要就算法可能對(duì)員工帶來的影響進(jìn)行任何解釋。這意味著，在對(duì)打工人可能造成重大損害之前，風(fēng)險(xiǎn)一般會(huì)被忽視。

一旦通過“算法問責(zé)法案”（Accountability for Algorithms Act，AAA），英國政府將要求所有企業(yè)和政府部門披露“算法影響評(píng)估”（Algorithmic Impact Assessments，AIA）的細(xì)節(jié)。具體包括：

辨別可能受算法影響的個(gè)人和通信，特別是殘疾人等弱勢群體；

在開發(fā)算法時(shí)進(jìn)行風(fēng)險(xiǎn)分析，盡一切努力防止算法給個(gè)人和社會(huì)帶來的傷害，風(fēng)險(xiǎn)分析應(yīng)采取預(yù)警原則, 借鑒英國研究機(jī)構(gòu) IFOW 推出的 Good Work Charter 標(biāo)準(zhǔn)；

針對(duì)分析結(jié)果對(duì)算法做出調(diào)整?！八惴▎栘?zé)法案”將強(qiáng)制企業(yè)把調(diào)整算法的過程公開化，給打工人一個(gè)交代；

算法影響評(píng)估需要在設(shè)計(jì)初期就被納入到整個(gè) 產(chǎn)品生命周期中，并貫穿在人工智能產(chǎn)品開發(fā)和部署的整個(gè)階段。

調(diào)查小組認(rèn)為，法律強(qiáng)制的“算法影響評(píng)估”是讓人工智能更加公平透明的切實(shí)可行的機(jī)制。在具體實(shí)施中，“算法問責(zé)法案”應(yīng)該闡明算法影響評(píng)估的總體目標(biāo)和基本要求，監(jiān)管部門和行業(yè)機(jī)構(gòu)應(yīng)該協(xié)調(diào)共治，就具體合規(guī)標(biāo)準(zhǔn)給出建議。

建議二：保護(hù)打工人權(quán)益

報(bào)告稱，“算法影響評(píng)估”將提高目前打工人在職場的基本權(quán)益，以應(yīng)對(duì)強(qiáng)大但無形的算法的巨大壓力。

首先，法律需要保障員工的算法解釋權(quán)（right to a full explanation），即雇主需要對(duì)算法的目的、結(jié)果和重大影響進(jìn)行解釋；其次，是參與權(quán)（right to be involved），員工有參與設(shè)計(jì)和使用工作中算法的權(quán)利；此外，還有彈性工作權(quán)（flexible working），也就是在緊急事項(xiàng)之外的偶爾“摸魚”權(quán)，以避免雇主壓榨員工；最后，是“斷網(wǎng)權(quán)”（disconnect），即在法定工作時(shí)間之外不被算法監(jiān)視或被老板打擾的權(quán)利。 

“斷網(wǎng)權(quán)”首先出現(xiàn)在法國。2004 年，法國最高法院確認(rèn)了之前的一項(xiàng)判決，并裁定“在工作時(shí)間以外無法用手機(jī)聯(lián)系到（打工人）的事實(shí)不能被視為不當(dāng)行為”之后，歐洲各國都有類似的相應(yīng)規(guī)定。比如，2017 年意大利第 2233-B 號(hào)參議院法案第 19 條第（1）款規(guī)定了關(guān)于工作協(xié)議的實(shí)施情況，其中包括某種形式的斷網(wǎng)權(quán)。

自新冠疫情以來，越來越多的人主動(dòng)或被動(dòng)地選擇了在家辦公，工作與生活的界限逐漸模糊，一種數(shù)字焦慮開始蔓延。2021 年 11 月 5 日，葡萄牙議會(huì)通過的勞動(dòng)法規(guī)定，雇主在工作時(shí)間以外聯(lián)系員工屬于非法，可能面臨處罰。法律還禁止雇主利用人工智能遠(yuǎn)程監(jiān)控員工，并確保員工必須每兩個(gè)月與雇主會(huì)面一次，以防止被孤立。在歐洲，“斷網(wǎng)權(quán)”正在被越來越多的國家接受成為一種受官方保護(hù)的工作權(quán)益。

（來源：該報(bào)告）

建議三：確保多方共治關(guān)系

未來工作小組認(rèn)為，人工智能在職場中的使用需要采取多方共治的方式，而不能完全依賴法律所保障的個(gè)人權(quán)利。在 AI 時(shí)代協(xié)調(diào)個(gè)人和集體問責(zé)機(jī)制至關(guān)重要。

例如，工會(huì)聯(lián)盟（Trades Union Congress，TUC）和其他非政府機(jī)構(gòu)可作為中間人，協(xié)調(diào)企業(yè)與員工在使用人工智能時(shí)的不同利益，發(fā)展相關(guān)方在人工智能生態(tài)里的合作伙伴關(guān)系。

報(bào)告提出，工會(huì)聯(lián)盟和非政府機(jī)構(gòu)可組織專業(yè)論壇并派駐專門的人工智能技術(shù)代表從事相關(guān)工作。更重要的是，工會(huì)聯(lián)盟和阿蘭·圖靈研究所（Turing Institute）等機(jī)構(gòu)可以在政府的支持下對(duì)整個(gè)勞動(dòng)力市場進(jìn)行培訓(xùn)，以加強(qiáng)人們對(duì)人工智能技術(shù)的理解。

建議四：在實(shí)踐中執(zhí)行

報(bào)告認(rèn)為，英國政府需要厘清各個(gè)機(jī)構(gòu)的監(jiān)管范圍并擴(kuò)大數(shù)字認(rèn)證權(quán)力。

目前負(fù)責(zé)算法監(jiān)管的數(shù)字監(jiān)管合作聯(lián)盟（Digital Regulation Cooperation Forum，DRCF）由英國信息專員辦公室（Information Commissioner’s Office，ICO）、英國競爭和市場管理局（Competition and Markets Authority，CMA）和英國通信辦公室（Office of Communications，Ofcom）組成。

內(nèi)部人士在議會(huì)質(zhì)詢時(shí)承認(rèn)，現(xiàn)在的監(jiān)管框架過于復(fù)雜，職能交叉現(xiàn)象比較嚴(yán)重，管理也不夠透明。報(bào)告認(rèn)為需要新的機(jī)制和資源來執(zhí)行“算法問責(zé)法案”。

更重要的是，由于人工智能給職場帶來的挑戰(zhàn)不是以“行業(yè)”來分的，所以管理者不能以行業(yè)的思考方式來應(yīng)對(duì)。

（來源：該報(bào)告）

建議五：支持以人為本的人工智能

以人為本，是近年來人工智能企業(yè)最常提起的概念之一。

調(diào)查小組稱，目前在職場中部署的人工智能和自動(dòng)化技術(shù)很少是以打工人的基本權(quán)利為首要目標(biāo)而開發(fā)的 。作為對(duì)員工的保障，開發(fā)者需要納入《歐洲社會(huì)憲章》和《經(jīng)濟(jì)、社會(huì)、文化權(quán)利國際公約》，以及在今年 9 月份發(fā)布的英國國家人工智能戰(zhàn)略中的核心要素。

此次的最終報(bào)告參考了英國普通民眾、商界、工會(huì)和學(xué)術(shù)界的綜合意見。

未來工作小組認(rèn)為，僅僅跟隨人工智能在職場中的使用是遠(yuǎn)遠(yuǎn)不夠的，AI 治理必須提前預(yù)見到技術(shù)帶來的變化，也必須塑造更美好的工作未來。

參考文獻(xiàn)：

https://static1.squarespace.com/static/5fa4334fdc893d349e9810a2/t/618d2a5f73f27d5d2f73dea2/1636641379623/The+New+Frontier+%E2%80%93+Artificial+Intelligence+at+Work.pdf

https://www.ifow.org/publications/mind-the-gap-the-final-report-of-the-equality-task-force

https://www.ifow.org/publications/the-ifow-good-work-charter

https://en.wikipedia.org/wiki/Right_to_disconnect

https://www.vice.com/en/article/pkpdan/portugal-makes-it-illegal-for-your-boss-to-text-you-after-work

https://www.tuc.org.uk/AImanifesto