不堪流量和道德爭議,DeepNude 下架並關站

作者 | 發布日期 2019 年 06 月 28 日 19:12 | 分類 AI 人工智慧 , 成人 , 社群 follow us in feedly


AI 科技已經在創造美好部分,還有邪惡用途都有長足的進步,推出後引起爭議的 Deep Nude,因不堪湧進的流量與造成的道德爭議,決定網站關掉並且停止運作。

DeepNude 運用柏克萊大學開方的開源演算法 pix2pix,為生成式對抗神經網路 (GAN),只要花上幾秒鐘時間,就能將有穿衣服的女性圖像,生成有露出胸部的圖像。DeepNude 專案背後的人化名 Alberto,說女性的衣服遮住皮膚的部分越少,DeepNude 生成的照片效果越好。


Alberto 表示他們內部將 DeepNude 當作娛樂用途的專案,偶爾才會接到購買訂單。但想不到推出的迴響這麼大,機器開始負荷不了,而且開始收到討論這麼做是否符合道德的爭論,他並不希望用有爭議的方式賺錢。儘管 DeepNude 開發者有將輸出的影像打上浮水印造假字樣,但仍無法應對排山倒海而來的批評和爭論聲浪。

▲ DeepNude 貼出的聲明,強調並沒有預料造成大風波,也一直問自己該這麼做嗎,做的事情是對的嗎。(Source:DeepNude)

DeepNude 是單機執行的程式,有 Linux 和 Windows 版本,並計畫推出 Mac 版本。DeepNude 因為網路上遍布充斥裸體女性的色情影片,能輕易的算出衣服底下可能的乳房形狀,但用男性照片算不出理想影像,輸入卡通圖樣則根本做不出有意義的圖片。

Motherboard 訪問柏克萊大學教授 Hany Farid,專精 DeepFake 的數位鑑識技術,被 DeepNude 的成就震驚。Farid 表示 DeepFake 還需要一些技術背景,大量訓練資料,以及很貴的影像卡,但 DeepNude 操作簡單,不需要複雜的資料,以及運算資源,是方便使用者的消費者導向程式。

人們常正面看待像是 AI 等新技術,但人心黑暗造就 AI 被用在壞的用途。DeepNude 簡單易用,如同潘朵拉的盒子一樣,打開之後就在也關不上。心有不甘的前男友、想威脅人的惡人、純粹覺得想做好玩事的屁孩,運用 DeepNude 背後的技術大量造假裸照,假若偵測技術趕不上製造速度,對於整個社會影響將相當大。

(首圖來源:Pxhere, CC0)