AI 換臉只是小兒科,這家公司直接用 AI 假造了 4 個工程師

作者 | 發布日期 2020 年 03 月 13 日 8:15 | 分類 AI 人工智慧 , 數位內容 , 網路 Telegram share ! follow us in feedly


商業社會,弄虛造假屢見不鮮。近日一家西班牙創業公司發生 AI 造假事件,讓融資、業績、財務數據造假的創新性都黯然失色。

網路西洋棋棋盤製造商 REGIUM 疑似使用 GAN 合成 4 個虛擬工程師,以下 6 人圖中,只有 Delgado 和 Balcells 確有其人。

除了製造「人造人」,這家公司的主打產品──自動西洋棋棋盤,也被多個知名西洋棋社群發現產品、影像造假,目前在募資網站 Kickstarter 的專案已暫停。

募資打廣告,REGIUM 是一場騙局嗎?

REGIUM 是位於西班牙的網路西洋棋棋盤製造商,2019 年 12 月,在 YouTube 發表名叫 REGIUM 的棋盤展示影片,獲得西洋棋圈關注。

按照同類硬體創業公司的套路,REGIUM 一邊上群眾募資網站 Kickstarter 募資,另一邊也在網路知名西洋棋社群 Chess.com、Chess24.com 打廣告,宣傳產品。

注意到不少論壇用戶表示期待,從 2 月底在 Kickstarter 展開群眾募資,截至 3 月 2 日叫停,不到 10 天獲得 58 位支持者,共籌得 33,111 美元。

但也就是從 2 月開始,團隊逐漸被產品造假、影片造假等議論包圍。YouTube 播放次數超過 4 萬的產品介紹影片,率先引發西洋棋玩家的質疑。

REGIUM 稱,自家自動西洋棋盤是高科技棋盤,使用 AI、自動追蹤技術等,用戶移動棋子快速無聲,可將棋盤狀態與各種線上西洋棋 App 同步,與人遠距下棋,還能即時載入更多棋類遊戲。

原理是棋盤每個座標點裝上固定電磁鐵,連結 App,用戶透過手機操縱對應棋子。事實上這不是第一個電子棋盤,之前有過名叫 Square Off 的類似產品。

線上西洋棋平台 Lichess 開發者率先質疑:棋子在棋盤上自動移動的鏡頭,很可能是使用定格動畫製作軟體 stop motion 做的。破綻出在騎士在影片不同處總是發生變化,其實就是背景在騎士挪動後出現的空缺。另外,整支影片完全沒有真人玩家入鏡,或許是一旦有人入鏡,那麼下一幀很難與上一幀保持一致。

REGIUM 的回應是,公司不擅長製作影片,拍攝影片時出現一些問題,於是才後期編輯處理。據稱,他們給了一些質疑者手機錄的完整未處理影片。

之後 Chess.com 表示,可能不僅影片,產品也是假的。商業發展部主任 Nick Barton 調查後表示,影片棋盤是由西班牙一家有 50 多年歷史的棋盤製造商 Rechapados Ferrer 製作,負責人表示,影片的棋盤看得出並未再加工,目前的零組件並不支援影片展示的技術。

目前 Chess.com 和 Chess24.com 已宣布終止與 REGIUM 的商務合作。

網友挖內幕,工程師的臉竟是「人造」

影片、產品存疑,竟然還敢群眾募資,西洋棋網友繼續挖,然後發現連這家公司的開發團隊成員都是假的!

官網「About US」選單列出 6 位工程師照片、名字和頭像,Chess.com、Chess24.com、Lichess.org 三家考證表示,其中大概只有 2 個是真人,其餘 4 位有可能是用 GAN 生成的人造人,使用就是 this person does not exist.com 這個網站的功能(見下圖)。側面印證是,圖片資訊都是 1,024×1,024、96dpi、24 位元、GIF 格式,缺少任何標題資訊。

Chess.com 採訪網站創始人 Phil Wang,他認為那 4 個人的照片失真,有 GAN 生成的人造人照片特點。「根據我的經驗,眼鏡周圍扭曲失真,背景也有點假,我還看出他們似乎用上 NVIDIA 的模型。」他還指出,這些人的照片在網路其他任何地方都搜不到。

曝光後,REGIUM 官網刪除了 6 位工程師照片(這裡看存檔副本),似乎更印證了作賊心虛。

REGIUM 發給外媒《Motherboard》的電子郵件否認這些說法,辯稱是因為受到各種非議,成員擔心職業生涯受影響才撤下照片,但除此之外,並未提供任何證據能證明開發人員是真實存在的人。

this person does not exist.com 是小有名氣的做臉網站,使用方式也非常簡單,點擊進入,每次刷新都會生成一張漂亮的路人甲臉蛋,但他/她根本不存在於這個世界。

有網友形容該網站「很有趣,但沒有什麼用」,大多數人打開它確實也只圖新鮮,但沒想到有公司竟然想出如此「有創意」的想法。

現在,我們一起檢索網路記憶。2015 年,教皇方濟各訪美期間,絕妙的「抽桌布」戲法影片迅速火遍全美甚至全球,只見教皇向聖壇禮拜後,抬手將桌布一抽,桌上物品一點也沒亂。這應該是網路第一例引發廣泛關注的 AI 合成「人造人」事件。沒錯,這個影片就假的,據說教皇本人看過之後並不是很高興。

教皇影片和 this person does not exist.com 背後的技術就是基於生成對抗網路(GAN),這是機器學習相對較新的概念,第一次出現是在 2014 年,Ian Goodfellow 等人發表論文《對抗式生成網路》。GAN 透過收集名人臉部數據集,學習生出人造臉部圖像。

2017 年,「潘多拉的盒子」被打開。Reddit 一位用戶 Deepfakes 把《神力女超人》女主角 Gal Gadot 的臉嫁接到成人影片女星身上,被 Reddit 官方封鎖。作者為了報復,開源了 Deepfakes 換臉程式碼。

技術來本就是工具,有人把 AI 換臉用在成人影片,也有人拿 AI 用於醫療診斷、公益救助,是造福還是造假,全賴使用者的良心。

(本文由 雷鋒網 授權轉載;首圖來源:pixabay

延伸閱讀:

關鍵字: , , , ,