為了把 Deepfake 關(guān)進(jìn)籠子，各大公司都拼了

Google Colab 終于宣布禁止 deepfake 項(xiàng)目

文｜杜晨    編輯 | Vicky Xiao     題圖來(lái)源：谷歌、@MaYiLong0

曾幾何時(shí)，deepfake 在互聯(lián)網(wǎng)上格外猖獗，新聞和成人類(lèi)內(nèi)容成為了“換臉”的重災(zāi)區(qū)。

由于受眾廣泛，市面上有不少現(xiàn)成的 deepfake 算法，供用戶(hù)使用，如 DeepFaceLab  (DFL) 和 FaceSwap。并且，由于深度學(xué)習(xí)技術(shù)的普及，也有一些低成本甚至免費(fèi)的在線(xiàn)工具，可以訓(xùn)練這些算法，從而讓好事之徒達(dá)到其目的。

常用的工具之一就是谷歌的 Colab，一個(gè)免費(fèi)的托管式 Jupyter 筆記本服務(wù)。簡(jiǎn)單來(lái)說(shuō)，用戶(hù)可以在 Colab 的網(wǎng)頁(yè)界面上運(yùn)行復(fù)雜的代碼，“白用l”谷歌的 GPU 集群，從而訓(xùn)練那些依賴(lài)高性能硬件的深度學(xué)習(xí)項(xiàng)目。

不過(guò)就在本月，谷歌終于對(duì) colab 在線(xiàn)訓(xùn)練 deepfake 痛下殺手。

前不久，DFL-Colab 項(xiàng)目的開(kāi)發(fā)者 chervonij 發(fā)現(xiàn)，谷歌本月中下旬將 deepfake  加入到了 Colab 的禁止項(xiàng)目列表當(dāng)中：

圖片來(lái)源：谷歌

chervonij 還表示，他最近嘗試用 Colab 運(yùn)行自己的代碼的時(shí)候，遇到了如下的提示：

“您正在執(zhí)行被禁止的代碼，這將有可能影響您在未來(lái)使用 Colab 的能力。請(qǐng)查閱FAQ頁(yè)面下專(zhuān)門(mén)列出的禁止行為。”

圖片來(lái)源：DFL Discord 頻道

然而這個(gè)彈出提示只是做出警告，并沒(méi)有完全禁止，用戶(hù)仍然可以繼續(xù)執(zhí)行代碼 (continue anyway)。

有用戶(hù)發(fā)現(xiàn)，這次谷歌的行動(dòng)應(yīng)該是主要針對(duì) DFL 算法的，考慮到 DFL 是目前網(wǎng)絡(luò)上 deepfake 行為最常采用的算法。與此同時(shí)，另一個(gè)沒(méi)那么流行，的 deepfake 算法 FaceSwap 就比較幸運(yùn)，仍然可以在 Colab 上運(yùn)行且不會(huì)彈出提示。

FaceSwap 聯(lián)合開(kāi)發(fā)者 Matt Tora 接受 Unite.ai 采訪(fǎng)時(shí)表示，自己并不認(rèn)為谷歌此舉是出于道德目的：

“Colab 是一個(gè)偏向 AI 教育和研究方向的工具。用它來(lái)進(jìn)行規(guī)模化的 deepfake 項(xiàng)目的訓(xùn)練，和 Colab 的初衷背道而馳?！?/span>

他還補(bǔ)充表示，自己的 FaceSwap 項(xiàng)目的重要目的就是通過(guò) deepfake 來(lái)教育用戶(hù)關(guān)于 AI 和深度學(xué)習(xí)模型的運(yùn)行原理，言外之意可能這才是 FaceSwap 沒(méi)有被 Colab 針對(duì)的理由。

“出于保護(hù)計(jì)算資源，讓真正需要的用戶(hù)能夠獲取這些資源的目的，我理解谷歌的這一舉動(dòng)?！?br />

Colab 未來(lái)是否將會(huì)完全禁止 deepfake 類(lèi)項(xiàng)目的執(zhí)行？對(duì)于不聽(tīng)勸的用戶(hù)會(huì)有怎樣的懲罰？目前谷歌并未對(duì)此次修改作出回應(yīng)，這些問(wèn)題也暫時(shí)沒(méi)有答案。

不過(guò)我們可以確定的是，谷歌肯定是不希望 Colab 這樣一個(gè)出于公益目的，提供免費(fèi)訓(xùn)練資源的平臺(tái)，被 deepfake 開(kāi)發(fā)者濫用。

Google Research 將 Colab 免費(fèi)開(kāi)放給廣大用戶(hù)，目的是降低深度學(xué)習(xí)訓(xùn)練的硬件成本門(mén)檻，甚至讓幾乎沒(méi)有編程知識(shí)背景的用戶(hù)也能輕松上手——也即所謂的 AI 普及化 (democratization of AI)。

由于區(qū)塊鏈行業(yè)的爆發(fā)增長(zhǎng)，以及疫情的次生影響，當(dāng)今全球芯片（特別是 GPU） 很大程度上仍然處于斷供狀態(tài)。所以如果是為了節(jié)約資源而禁用 Colab 運(yùn)行 deepfake 項(xiàng)目，確實(shí)可以理解。

不過(guò)除了 deepfake 之外，Colab 禁止的其它行為當(dāng)中也的確包括大眾認(rèn)知的惡意行為，比如運(yùn)行黑客攻擊、暴力破解密碼等。

| deepfake 使用門(mén)檻變高？

在過(guò)去相當(dāng)長(zhǎng)一段時(shí)間里，對(duì)于初入門(mén)和中等水平的 deepfake 視頻創(chuàng)作者來(lái)說(shuō)，想要實(shí)現(xiàn)一般可接受畫(huà)質(zhì)（480p或720p以上）的內(nèi)容輸出，自己卻沒(méi)有足夠的硬件配置的話(huà)，那么 Colab 幾乎是唯一的正確選擇。

畢竟 Colab 界面簡(jiǎn)單，上手輕松，訓(xùn)練性能達(dá)到可以接受的水平，而且還免費(fèi)，沒(méi)有理由不用。前面提到的一些 deepfake 算法項(xiàng)目也都針對(duì) Colab 提供了代碼支持。

要討論 deepfake，很難避開(kāi)新聞?chuàng)Q臉視頻和成人換臉內(nèi)容。硅星人發(fā)現(xiàn)，DFL 主項(xiàng)目頁(yè)面直接把新聞視頻換臉作為主要使用場(chǎng)景之一，并且頁(yè)面中引導(dǎo)的一些用戶(hù)社群也都默許明星或私人復(fù)仇式 (revenge porn) 的換臉成人內(nèi)容，使得此類(lèi)內(nèi)容大量存在。

現(xiàn)如今谷歌決定禁止 deepfake 類(lèi)項(xiàng)目在 Colab 上運(yùn)行，勢(shì)必將對(duì)私人的 deepfake 內(nèi)容制作造成不小的打擊。

因?yàn)檫@意味著那些初級(jí)和中級(jí) deepfake 制作者將失去一個(gè)最重要的免費(fèi)工具，讓他們繼續(xù)制作此類(lèi)內(nèi)容的成本顯著提高。

不過(guò)據(jù)領(lǐng)域內(nèi)一些內(nèi)幕人士表示，那些最頂級(jí)的，將 deepfake 當(dāng)作一門(mén)生意的專(zhuān)業(yè)制作者，已經(jīng)基本實(shí)現(xiàn)了完全“自主生產(chǎn)”。

這群人通過(guò)非法銷(xiāo)售及會(huì)員募捐等方式，賺到了不少錢(qián)，可以投資更加高級(jí)的設(shè)備。現(xiàn)在他們可以制作分辨率、清晰度和臉部還原度更高的 deepfake 視頻，從而不用依賴(lài) Colab 以及云計(jì)算等在線(xiàn)服務(wù)，就能實(shí)現(xiàn)穩(wěn)定生產(chǎn)和營(yíng)收。

舉個(gè)例子：想要實(shí)現(xiàn)2k甚至4k分辨率和60fps的幀率，并且單片單次渲染用時(shí)在可以接受的范圍（比如幾天）的話(huà)，需要一個(gè)龐大的渲染農(nóng)場(chǎng)，至少10臺(tái)電腦，每臺(tái)兩張支持 SLI 技術(shù)的英偉達(dá) RTX 高端顯卡，以及上百GB的內(nèi)存。這樣下來(lái)僅單臺(tái)的購(gòu)置成本就已經(jīng)相當(dāng)高了，更別提還要算上運(yùn)轉(zhuǎn)時(shí)的電費(fèi)（渲染、冷卻等），可以說(shuō)是一筆相當(dāng)大的投資。

很遺憾，對(duì)于這群人來(lái)說(shuō)，谷歌的新政策對(duì)他們完全起不到作用。只有全社會(huì)對(duì) deepfake 帶來(lái)的負(fù)面影響提升重視，整個(gè)科技行業(yè)都行動(dòng)起來(lái)，deepfake 的濫用問(wèn)題才能得到解決。

| 把 deepfake 關(guān)進(jìn)籠子里，各國(guó)、各大公司都在行動(dòng)

谷歌

這的確不是谷歌第一次出面打擊 deepfake 內(nèi)容制作了。在2019年，Google Research 就發(fā)表過(guò)一個(gè)大型視頻數(shù)據(jù)集。其背后是谷歌在自己內(nèi)部通過(guò)制作 deepfake 視頻的方式，從而試圖了解相關(guān)算法的工作原理。

對(duì)于谷歌來(lái)說(shuō)，它需要提高識(shí)別 deepfake 的能力，從而在商業(yè)化產(chǎn)品環(huán)境里（最典型的就是 YouTube 用戶(hù)視頻上傳），從源頭上切斷惡意換臉視頻的傳播途徑。以及，第三方公司也可以使用谷歌開(kāi)放的這個(gè)數(shù)據(jù)集來(lái)訓(xùn)練 deepfake 探測(cè)器。

不過(guò)，近幾年 Google Research 確實(shí)沒(méi)有花太多心思在打擊 deepfake 上。反而，該公司最近推出的 Imagen，一個(gè)超高擬真度的文字生成圖片模型，效果非常驚人，反倒是引發(fā)了一些批評(píng)。

Imagen 文字轉(zhuǎn)圖片的效果   圖片來(lái)源：谷歌

微軟

微軟研究院在2020年共同推出了一項(xiàng) deepfake 探測(cè)技術(shù)，名為 Microsoft Video Authenticator。它能夠檢測(cè)畫(huà)面中的渲染邊界當(dāng)中灰階數(shù)值的不正常變化，對(duì)視頻內(nèi)容進(jìn)行逐幀實(shí)時(shí)分析，并且生成置信度分?jǐn)?shù) (confidence score)。

微軟也在和包括紐時(shí)、BBC、加拿大廣播公司等頂級(jí)媒體合作，在新聞行業(yè)的場(chǎng)景下對(duì) Video Authenticator 的能力進(jìn)行檢測(cè)。

與此同時(shí)，微軟也在 Azure 云計(jì)算平臺(tái)中加入了媒體內(nèi)容元數(shù)據(jù) (metadata) 校驗(yàn)的技術(shù)。通過(guò)這一方式，那些被修改過(guò)的視頻內(nèi)容可以和原視頻的進(jìn)行元數(shù)據(jù)比對(duì)——和下載文件的時(shí)候比對(duì) MD5 值差不多意思。

Meta

2020年，F(xiàn)acebook 宣布在 Facebook 產(chǎn)品平臺(tái)全面禁止 deepfake 類(lèi)視頻。

然而這個(gè)政策執(zhí)行得并不徹底。比如，目前在 Instagram 上還可以經(jīng)常見(jiàn)到那個(gè)著名的中國(guó)翻版馬斯克 deepfake 視頻（主要是從 TikTok 上轉(zhuǎn)發(fā)過(guò)來(lái)的）。

圖片來(lái)源：MaYiLong0|TikTok

在行業(yè)層面，Meta、亞馬遜 AWS、微軟、MIT、UC伯克利、牛津大學(xué)等公司和機(jī)構(gòu)在2019年共同發(fā)起了一個(gè) deepfake 檢測(cè)挑戰(zhàn)賽，鼓勵(lì)更多、更優(yōu)秀、更與時(shí)俱進(jìn)的檢測(cè)技術(shù)。

Twitter:

2020年 Twitter 封殺了一批經(jīng)常發(fā)布 deepfake 視頻的賬號(hào)。不過(guò)對(duì)于其它 deepfake 內(nèi)容，Twitter 并沒(méi)有完全限制，而是會(huì)打上一個(gè)標(biāo)簽“被修改的內(nèi)容”(manipulated media)，并且提供第三方事實(shí)核查機(jī)構(gòu)的檢測(cè)結(jié)果。

創(chuàng)業(yè)公司：

OARO MEDIA：西班牙公司，提供一套對(duì)內(nèi)容進(jìn)行多樣化數(shù)字簽名的工具，從而減少deepfake 等被修改過(guò)的內(nèi)容傳播對(duì)客戶(hù)造成的負(fù)面影響。

Sentinel：位于愛(ài)沙尼亞，主要開(kāi)發(fā) deepfake 內(nèi)容檢測(cè)模型。

Quantum+Integrity：瑞士公司，提供一套基于 API 的 SaaS 服務(wù)，可以進(jìn)行各種基于圖像類(lèi)的檢測(cè)，能力包括視頻會(huì)議實(shí)時(shí) deepfake、截屏或圖片“套娃”、虛假身份證件等。

國(guó)家（立法和行政）

中國(guó)：2020年印發(fā)的《法治社會(huì)建設(shè)實(shí)施綱要（2020 - 2025年）》進(jìn)一步要求，對(duì)深度偽造等新技術(shù)應(yīng)用，制定和完善規(guī)范管理辦法。

美國(guó)：2019年正式簽署生效的2020財(cái)年國(guó)防批準(zhǔn)法當(dāng)中包含了和 deepfake 相關(guān)的條文，主要是要求政府向立法機(jī)構(gòu)通報(bào)涉及跨國(guó)、有組織、帶有政治目的的 deepfake 虛假信息行為。

加州、紐約州和伊利諾伊州都有自己的 deepfake 相關(guān)法律，主要目的是保護(hù) deepfake 受害者的權(quán)益。

歐盟：GDPR、歐盟人工智能框架提議、版權(quán)保護(hù)框架、虛假信息針對(duì)政策等高級(jí)別法律文件，都對(duì)可能和 deepfake 有關(guān)的事務(wù)實(shí)現(xiàn)了交叉覆蓋。不過(guò)，整個(gè)區(qū)域級(jí)別目前并沒(méi)有專(zhuān)門(mén)針對(duì) deepfake 的法律和政策。

在成員國(guó)級(jí)別上，荷蘭立法機(jī)構(gòu)在2020年曾經(jīng)要求政府制定打擊 deepfake 成人視頻的政策，以及表示會(huì)考慮將相關(guān)問(wèn)題寫(xiě)入該國(guó)刑法。