AI「換臉」成人片網上流竄,那些關於開源軟體的黑暗面

作者 | 發布日期 2018 年 02 月 09 日 8:00 | 分類 數位內容 , 社群 , 網路 follow us in feedly

科技的進展,或許將讓真實變得越來越珍貴。近期有網友在網路論壇 Reddit 發表一款 AI 工具,可讓所有人輕易將影片中的人物「換臉」製作假影片,許多網友紛紛用這款工具將女明星的臉移花接木到色情片演員身上,包括 Pornhub、Twitter 等各大平台紛紛出手禁止這類影片,同時此現象也引起不少倫理道德的討論。



色情換臉影片氾濫,各大平台出手打擊

最近網路上流傳一批「名人色情影片」,不過這可不是被偷拍或外洩,而是 2017 年 12 月,有一位在網路論壇 Reddit 代號叫「deepfake」(深偽)的用戶利用 AI 軟體,將《神力女超人》(Wonder Woman)主角蓋兒‧加朵(Gal Gadot)的臉移花接木到色情片主角身上。

後來,另一位代號叫「deepfakeapp」的用戶,將「deepfake」的演算法加以改造推出軟體「FakeApp」,目標是要讓所有沒有技術背景的人,都可以利用深度學習輕易做出假影片。根據實測,有網友僅花 5 小時,就用 FakeApp 成功將潔西卡‧艾芭(Jessica Alba)的臉換到 AV 女優身上,甚至將希特勒與阿根廷總統 Mauricio Macri 接在一起,絲毫看不出怪異之處。

▲ 希特勒與阿根廷總統 Mauricio Macri 融為一體,你看出破綻了嗎?

不過,為了遏止「換臉色情片」歪風,從上星期開始,GIF 平台 Gfycat 已開始移除相關內容,交流平台 Discord 也出手封鎖討論製作換臉色情影片的伺服器。全球最大色情影片平台 Pornhub 表示:「本站不容忍任何非自願的內容,非自願內容直接違反我們的使用條款。該條款禁止復仇色情報復(revenge porn)、深偽,以及任何未經同意或允許上傳的內容。」Twitter 也表示會阻止這類移花接木內容在平台傳播。

各大平台紛紛出手打擊,但科技始終來自人性,而人性正毫不掩飾代表最赤裸的慾望,移除影片並不能阻擋技術的演進,而未來真實是否也將變得珍貴?

方便卻被濫用,開源軟體的黑暗面

Google 在 2015 年推出開源軟體庫「TensorFlow」,使資源不僅免費更變得開放易得,自此讓機器學習研究的門檻從實驗室帶進大眾的筆記型電腦。

不過 TensorFlow 的威力現在 Google 也難易控制,在「FakeApp」出現後,不僅名人可能變色情片主角,身邊好友、同學等一般民眾都更容易受害。最初「deepfake」製作影片用到的工具,是基於 TensorFlow 和 Keras 等開源軟體,素材則是透過 Google圖片搜尋、公開圖庫取得,共同的特點就是公開開放且免費。

TensorFlow 是開源軟體,而 FakeApp 則是代表開源軟體的黑暗面,因此 Google 無法追蹤軟體下載後的用途,任何人都可以下載開源軟體,用來製作搞笑影片或色情片沒人管得著,概念就很像槍械公司賣出手槍後,消費者要用來自衛或殺人都是槍械公司無法控制及負責的。

軟體開源對科技大公司有許多好處,可以驅使更多人使用 AI 創作,內部員工可以做為新產品的靈感來源,外部使用者則可以協助找出產品 bug。AT&T 實驗技術副總裁 Mazin Gilbert 曾說:「機器學習的突破不是演算法,而是開源,開源可以降低大眾進入的門檻。」

假影片將成社群平台最頭痛的事

開源軟體也使 AI 開發的道德問題複雜化,各家科技公司也都試圖找出解方。微軟 AI 副總裁 Harry Shum 曾說:「這其實不容易,我不認為我們現在有簡單的解決方法,但我們在過程中學到的是,當我們在設計機器學習演算法時,會試圖找出盲點。」

將 AI 從開源中移除看似可以解決眼下問題,但做法太過消極,目前許多原始代碼都可在 Github 這類平台找到,學者、倫理學家、研究人員可從這些資源找到問題、提出不同觀點看法,一般人也可以運用這些資源操作簡單的應用。

▲ 假新聞、假影片,未來的世界將會更加真假難辨,而這將只是剛開始而已。(Source:pixabay

既然科技始終來自最赤裸的人性,因此不難想像未來這些移花接木的色情片,會流竄到 Facebook、Twitter 這類主流平台,甚至更多不同目的、企圖的假影片產生也不是不可能,許多人就擔心換臉色情片可能成為「復仇式色情」的性報復工具,甚至助長假新聞散播。

該如何運用開源資源完全取決個人心中那把尺,因此核心技術的開發者很難為此負責,而大部分責任可能都將落在散布影片、圖片的社群平台。YouTube 2017 年才宣布要啟動萬人大軍人工審查影片內容,換臉色情片的氾濫是否會加重平台營運負擔,是值得觀察的重點。

這起事件也讓人想起先前 Facebook 假新聞事件,都是有心人士製作虛假內容在平台傳播,Facebook 打擊假新聞、Pornhub 打壓假影片,兩相對照之下可以想見的是,未來的世界將會更真假難辨,而這只是剛開始而已。

(本文由 數位時代 授權轉載;首圖來源:Motherboard

延伸閱讀: