微軟打擊深度偽造，為 AI 生成的圖像和視頻加上“身份證”

IT之家 5 月 24 日消息，微軟近期推出了多款基于人工智能的軟件和服務，3 月份該公司正式發(fā)布了 Bing Image Creator，讓用戶可以用簡單的文字提示來創(chuàng)作藝術作品。4 月份，該公司又推出了 Microsoft Designer 的完整公測版，讓用戶可以用文字提示和 AI 模型來創(chuàng)建博客文章、網(wǎng)站等項目。

然而，人們也擔心 AI 生成的藝術作品可能被惡意利用，造成虛假信息的傳播。隨著越來越多的“深度偽造”圖像和視頻出現(xiàn)，微軟決定采取主動措施，確保其程序生成的 AI 藝術能夠被識別出來。今天，在微軟 Build 2023 開發(fā)者大會上，該公司宣布將在未來幾個月內(nèi)增加一項功能，讓任何人都能識別 Bing Image Creator 和 Microsoft Designer 生成的圖像或視頻片段是否是由 AI 生成的。

微軟表示，“該技術使用密碼學方法對 AI 生成的內(nèi)容進行標記和簽名，并附上有關其來源的元數(shù)據(jù)信息。微軟一直是驗證來源方法研發(fā)的領導者，并聯(lián)合創(chuàng)立了 Project Origin 和內(nèi)容來源和真實性聯(lián)盟（C2PA）標準機構。微軟的媒體來源驗證將按照 C2PA 標準對生成內(nèi)容進行簽名和驗證?！?/p>

微軟表示，該功能將適用于其兩款 AI 內(nèi)容生成程序支持的“主要圖像和視頻格式”，但是沒有公布具體支持哪些格式。IT之家此前曾報道，微軟本月早些時候宣布 Bing Image Creator 現(xiàn)已支持 100 多種語言，該程序已經(jīng)創(chuàng)造了超過 2 億張圖像。