科技的進展，或許將讓真實變得越來越珍貴。近期有網友在網路論壇 Reddit 發表一款 AI 工具，可讓所有人輕易將影片中的人物「換臉」製作假影片，許多網友紛紛用這款工具將女明星的臉移花接木到色情片演員身上，包括 Pornhub、Twitter 等各大平台紛紛出手禁止這類影片，同時此現象也引起不少倫理道德的討論。
色情換臉影片氾濫，各大平台出手打擊
最近網路上流傳一批「名人色情影片」，不過這可不是被偷拍或外洩，而是 2017 年 12 月，有一位在網路論壇 Reddit 代號叫「deepfake」（深偽）的用戶利用 AI 軟體，將《神力女超人》（Wonder Woman）主角蓋兒‧加朵（Gal Gadot）的臉移花接木到色情片主角身上。
後來，另一位代號叫「deepfakeapp」的用戶，將「deepfake」的演算法加以改造推出軟體「FakeApp」，目標是要讓所有沒有技術背景的人，都可以利用深度學習輕易做出假影片。根據實測，有網友僅花 5 小時，就用 FakeApp 成功將潔西卡‧艾芭（Jessica Alba）的臉換到 AV 女優身上，甚至將希特勒與阿根廷總統 Mauricio Macri 接在一起，絲毫看不出怪異之處。
▲ 希特勒與阿根廷總統 Mauricio Macri 融為一體，你看出破綻了嗎？
不過，為了遏止「換臉色情片」歪風，從上星期開始，GIF 平台 Gfycat 已開始移除相關內容，交流平台 Discord 也出手封鎖討論製作換臉色情影片的伺服器。全球最大色情影片平台 Pornhub 表示：「本站不容忍任何非自願的內容，非自願內容直接違反我們的使用條款。該條款禁止復仇色情報復（revenge porn）、深偽，以及任何未經同意或允許上傳的內容。」Twitter 也表示會阻止這類移花接木內容在平台傳播。
各大平台紛紛出手打擊，但科技始終來自人性，而人性正毫不掩飾代表最赤裸的慾望，移除影片並不能阻擋技術的演進，而未來真實是否也將變得珍貴？
方便卻被濫用，開源軟體的黑暗面
Google 在 2015 年推出開源軟體庫「TensorFlow」，使資源不僅免費更變得開放易得，自此讓機器學習研究的門檻從實驗室帶進大眾的筆記型電腦。
不過 TensorFlow 的威力現在 Google 也難易控制，在「FakeApp」出現後，不僅名人可能變色情片主角，身邊好友、同學等一般民眾都更容易受害。最初「deepfake」製作影片用到的工具，是基於 TensorFlow 和 Keras 等開源軟體，素材則是透過 Google圖片搜尋、公開圖庫取得，共同的特點就是公開開放且免費。
TensorFlow 是開源軟體，而 FakeApp 則是代表開源軟體的黑暗面，因此 Google 無法追蹤軟體下載後的用途，任何人都可以下載開源軟體，用來製作搞笑影片或色情片沒人管得著，概念就很像槍械公司賣出手槍後，消費者要用來自衛或殺人都是槍械公司無法控制及負責的。
軟體開源對科技大公司有許多好處，可以驅使更多人使用 AI 創作，內部員工可以做為新產品的靈感來源，外部使用者則可以協助找出產品 bug。AT&T 實驗技術副總裁 Mazin Gilbert 曾說：「機器學習的突破不是演算法，而是開源，開源可以降低大眾進入的門檻。」
假影片將成社群平台最頭痛的事
開源軟體也使 AI 開發的道德問題複雜化，各家科技公司也都試圖找出解方。微軟 AI 副總裁 Harry Shum 曾說：「這其實不容易，我不認為我們現在有簡單的解決方法，但我們在過程中學到的是，當我們在設計機器學習演算法時，會試圖找出盲點。」
將 AI 從開源中移除看似可以解決眼下問題，但做法太過消極，目前許多原始代碼都可在 Github 這類平台找到，學者、倫理學家、研究人員可從這些資源找到問題、提出不同觀點看法，一般人也可以運用這些資源操作簡單的應用。
▲ 假新聞、假影片，未來的世界將會更加真假難辨，而這將只是剛開始而已。（Source：pixabay）
既然科技始終來自最赤裸的人性，因此不難想像未來這些移花接木的色情片，會流竄到 Facebook、Twitter 這類主流平台，甚至更多不同目的、企圖的假影片產生也不是不可能，許多人就擔心換臉色情片可能成為「復仇式色情」的性報復工具，甚至助長假新聞散播。
該如何運用開源資源完全取決個人心中那把尺，因此核心技術的開發者很難為此負責，而大部分責任可能都將落在散布影片、圖片的社群平台。YouTube 2017 年才宣布要啟動萬人大軍人工審查影片內容，換臉色情片的氾濫是否會加重平台營運負擔，是值得觀察的重點。
這起事件也讓人想起先前 Facebook 假新聞事件，都是有心人士製作虛假內容在平台傳播，Facebook 打擊假新聞、Pornhub 打壓假影片，兩相對照之下可以想見的是，未來的世界將會更真假難辨，而這只是剛開始而已。
- Google gave the world powerful AI tools, and the world made porn with them
- Twitter, PornHub and other platforms ban AI-generated celebrity porn
- Reddit bans ‘deepfakes’ AI porn communities
（本文由 數位時代 授權轉載；首圖來源：Motherboard）
科技新報粉絲團
加入好友
訂閱免費電子報
