AI相機眨眼之間剝奪隱私

藝術(shù)項目旨在引發(fā)關(guān)于AI換臉技術(shù)的辯論

眾議院人工智能工作組主席討論AI的目標和風(fēng)險 加州共和黨眾議員杰伊·奧伯諾爾特被選為眾議院人工智能工作組主席。?？怂剐侣剶?shù)字平臺采訪了這位加州共和黨人，詢問他對該小組目標以及對快速發(fā)展的技術(shù)的個人看法。

人們對人工智能可能在不久的將來對社會造成問題的方式可能會感到謹慎，這是很自然的。在個人層面上，您可能會擔(dān)心未來人工智能會奪走您的工作，或者創(chuàng)造一個回到過去試圖消滅年輕時的您的終結(jié)者。（我們承認，我們可能對此想得太多了。）

關(guān)于個人層面的一個您應(yīng)該了解的有關(guān)AI的恐懼，因為它目前就在，那就是制作深度偽造照片，包括那些剝奪您最基本隱私權(quán)利的照片：保護您身體圖像的權(quán)利。

兩位德國藝術(shù)家最近創(chuàng)建了一款名為NUCA的相機，它利用人工智能剝奪主題的衣物來制作深度偽造照片。照片主題的衣物自動移除幾乎實時進行，將令人不安的因素加速了指數(shù)倍。

為什么會有人創(chuàng)造一個能夠脫掉衣服的AI相機？ 兩位德國藝術(shù)家，馬蒂亞斯·維夫和本尼迪克特·格羅斯，決定創(chuàng)造這臺相機來展示人工智能的快速進展所帶來的影響。他們試圖思考AI對某人隱私可能產(chǎn)生的最糟糕的用途，并意識到創(chuàng)造NUCA相機所需的技術(shù)已經(jīng)是可能的。

兩位藝術(shù)家希望人們能考慮繼續(xù)發(fā)展像這樣的AI技術(shù)可能帶來的危險，這可能會消除隱私的期望。他們希望這將引發(fā)關(guān)于AI發(fā)展方向的辯論。

數(shù)字脫衣服的相機是如何工作的？ 德國藝術(shù)家使用3D設(shè)計和打印軟件創(chuàng)建了鏡頭和控制相機外殼的外殼。然后，它使用內(nèi)部的智能手機處理圖像捕獲。NUCA將照片傳遞到云端，應(yīng)用人工智能來剝奪主題的衣物。

當(dāng)然，NUCA實際上并不是創(chuàng)造您的裸體照片。相反，它分析您的性別、面部、年齡和身體其他方面，以開發(fā)出AI認為您的裸體可能看起來像什么的復(fù)制品。

深度偽造裸體照片技術(shù)不是已經(jīng)存在了嗎？ 深度偽造裸體照片，通常是名人的照片，已經(jīng)在色情網(wǎng)站上存在了很長時間，但NUCA相機拍攝的照片幾乎不需要任何專業(yè)技能。

更令人不安的是，NUCA能夠在大約10秒內(nèi)完成這一過程。NUCA制作深度偽造裸體照片的速度之快，使其與通常需要相當(dāng)多的編輯技能和時間的其他假裸體照片有所不同。

NUCA的深度偽造困境：藝術(shù)創(chuàng)新還是道德入侵？ 底線：任何人都可以使用NUCA相機發(fā)現(xiàn)的技術(shù)，在幾秒鐘內(nèi)制作出幾乎任何其他人的深度偽造裸體照片。NUCA不會征求您在照片中脫衣服的許可。

值得再次強調(diào)的是，這兩位藝術(shù)家沒有計劃允許其他人利用NUCA謀取商業(yè)利益。他們將在六月底的柏林藝術(shù)展上展示其功能，一切都是為了引發(fā)公眾辯論。

然而，下一個開發(fā)類似技術(shù)的人可能會選擇以完全不同的方式使用它，比如潛在地威脅要發(fā)布這些其他人不一定知道是偽造的裸體照片，以勒索人。