還記得「一鍵脫衣 AI」DeepNude 嗎？2019 年 6 月，這款軟體發布僅幾個小時，就因訪問請求過大迅速當機，原因是它可以一鍵脫掉女性衣服，製造大量色情圖片。
近日，這款色情的軟體再次出現在通訊軟體 Telegram 中。截至目前為止，該軟體在 Telegram 平台已經公開發布了約 104,852 張色情圖片，這還不包括私下分享傳播的圖片。更重要的是，這些圖片 70% 全部來自社群平台的真實女性，甚至包括未成年人。
也就是說，日常在 Facebook 等社群媒體中分享的自拍照，很可能會被人用來製造「裸照」。
DeepNude 盯上了「可能認識的人」
這項調查來自美國阿姆斯特丹的網路安全公司 Sensity，這家公司專注於所謂的「視覺威脅情報」，尤其是那些深度造假影片的傳播。他們調查發現，截至 7 月底，Telegram 平台 7 個主要頻道均在使用 DeepNude 軟體。
（Source：shutterstock）
該軟體吸引了全球 103,585 名用戶，其中用戶最多的頻道有 45,615 人。這些用戶大部分聚集在俄羅斯及東歐周邊地區。
據了解，這款軟體爆火的原因有 3 點：
- 操作非常簡單，只需要一張照片，上傳至軟體後，幾秒就可以自動生成裸照，不需要任何技術知識或者專門的硬體支援。
- 所有人免費使用。不過它也有盈利模式，未付費用戶獲得的裸照後會打上浮水印標籤或僅局部裸露，用戶支付 1.28 美元才可以獲得無浮水印圖片，但使用權限僅限 7 天 100 張。
- 可以獲得熟悉的人的裸照。Deepfake 偽造色情影片已經屢見不鮮，主要以為名人為目標。但根據一項民意調查顯示，大多數用戶對「現實生活中認識的女性」更感興趣，占比達到了 63%。
而 DeepNude 恰好提供了這樣的支援，任何用戶使用任何照片都可以製成裸照。
從 Telegram 平台的公開數據來看，許多照片中的女性都是普通上班族、大學生，而且這些照片都是來自 TikTok、Instagram、Facebook 等平台的自拍照。
需要注意的是，這款造假軟體只針對女性。如果上傳一張男性或者其他任何無生命照片，系統也會自動被替換成女生的身體，並辨識成相應的器官。
Sensity 首席科學家喬治‧帕特里尼（Giorgio Patrini）指出，目前已經超過 680,000 名女性在不知情的情況下被偽造成了色情圖片，並被上傳到公共平台。
目前，Sensity 公司的相關調查數據已經對外揭露，相關執法部門也對此展開調查。而至此，為何允許該色情軟體出現在社群平台中，Telegram 一直未給出公開答覆。
另外，據 Sensity 調查顯示，除了Telegram之外，另一家俄羅斯社群媒體平台 VK 也發現了 DeepNude，而且它已經開始公開為軟體打廣告。
不過，此事件一出後，相關負責人便立刻出面回應否認了這個說法。同時他強調：
VK 不容忍平台上出現此類內容或連結，同時也會阻止分發它們的社群。另外，此類社群或連結並未使用 VK 廣告工具進行宣傳，我們也進行額外的檢查，並阻止不當內容的出現。
創建者：我不是偷窺狂
然而，就是這樣一款色情造假軟體，它的創建初心竟然是出於好奇心和對技術的熱忱。
2019 年 6 月 27 日，DeepNude 軟體首次公開上線，隨後不久，系統就因為用戶訪問量過大而當機。
但就是這幾個小時，這款針對女性的「一鍵脫衣 AI」已經引起軒然大波。
有關「侵犯隱私、性別歧視」等指責聲在 Twitter、Reddit 等各大社群媒體平台層出不窮。深度學習先驅吳恩達（Andrew Ng）還發推文稱，DeepNude 是「人工智慧最令人噁心的應用之一」。
而對於外界的種種指責，它的開發者阿爾貝托（Alberto）卻公開回應稱：
「這個世界還沒為 DeepNude 做好準備！」「我不是偷窺狂。我是技術的愛好者。」
同時他強調，「我不關心裸照之類的。有些人自己不想用，就想著讓別人也用不上，這很蠢。對技術知識封鎖和審查，無法阻止它的擴散和傳播。」
據了解，Alberto 的研發靈感是來自某雜誌上的一個 X射線眼鏡。他對 AI 技術非常感興趣，當發現 GAN 網路能夠把白天照片轉換成黑夜照片後，便意識到同樣利用 GAN 也可以將一張穿衣服的照片轉換成一張不穿衣服的照片。正是出於這樣的好奇，最終研發出了 DeepNude。
具體來說，DeepNud 是基於稱為「pix2pix」的開源「圖像到圖像翻譯」軟體構建的，該軟體於 2018 年由加州大學柏克萊分校的 AI 研究人員首次發現。其核心技術 GAN 能夠透過辨識真實圖像，創造自己的偽造品。比如將白天到夜晚的風景照片或從黑白變為全彩色。
但不管是出於獵奇，還對技術研發的準確，這款軟體確實是濫用 AI 技術產生了惡劣的影響。如知名作家尼娜‧揚科維奇（Nina Jankowicz）表示，DeepNude 對世界各地的女性都有巨大影響，尤其是在俄羅斯等社會較為保守的國家。如果公開發表令人信服但虛假的裸照，受害者可能會失去工作，或者面臨伴侶暴力。
Sensity 公司也表示，這些虛假的色情圖像或影片很可能被用做勒索、騷擾的手段。
Deepfake 威脅，正在肆虐
不僅是 DeepNude，所有 Deepfake 軟體均是如此。如波士頓大學法學教授 Danielle Citron 所說，「Deepfake 已經成為了攻擊女性強有力的武器」。
Deepfake 深度造假軟體背後的核心技術都是生成式對抗網路 GAN。GAN 透過生成器與鑑別器之間的相互 Battle 來製造逼真的虛假圖像、影片或語音。
自 2017 年，Deepfake 首次被用於製作色情影片後──神力女超人下海事件，社群上便開始大量充斥著此類影片，據統計，在所有 Deepfake 創作影片中，色情影片占據 96%。隨著技術的不斷升級，Deepfake 的逼真程度已經達到了肉眼難以分辨的地步，同時它也開始被應用到政治領域。如川普、歐巴馬、馬斯克等名人政客的虛假換臉影片已屢見不鮮。
據普林斯頓大學教授 Jacob Shapiro 最新研究結果顯示，2013 年至 2019 年期間，社群媒體已累計發起 96 次政治運動，而其中，93% 為原創內容，86% 放大了已有內容，74% 歪曲客觀事實。而其目的多為詆毀政客、誤導公眾、激化矛盾等。
為了應對 Deepfake 軟體帶來的威脅和挑戰，2019 年，Facebook 斥巨資發起「Deepfake 檢測挑戰賽」（Deepfake Detection Challenge，DFDC）。今年 Deepfake 檢測的辨識準確率已經達到了 82.56%。
除此之外，學術界以及其他企業團隊也在研發 Deepfake 的檢測方式。但儘管檢測方式越來越多，準確度越來越高，製造虛假影片的趨勢依然沒有得到很好的抑制。
究其原因，其一可能是 AI 製造虛假內容越來越方便，如 DeepNude，只需要一張照片，人人都可以上手。如同 Sensity 公司負責人所說，DeepNude 目前還處於法律的灰色地帶。
因此，要想關上 Deepfake 潘朵拉的魔盒，需要制度約束和人心向善的引導。
- Thousands Of Women Have No Idea A Telegram Network Is Sharing Fake Nude Images Of Them
- Deepfake bots on Telegram make the work of creating fake nudes dangerously easy
- This Horrifying App Undresses a Photo of Any Woman With a Single Click
科技新報粉絲團
加入好友
訂閱免費電子報
