AI 生成美女影像宣傳約會服務事小,最怕資訊戰操作者生風波

作者 | 發布日期 2020 年 01 月 09 日 17:14 | 分類 AI 人工智慧 , 雲端 Telegram share ! follow us in feedly


當大家目光在防範 DeepFake 產生假造的政治人物說話影片,或是影劇明星被移花接木演 A 片,有個悄悄潛伏而且更難以防範的危機。交友網站需要妹子,廣告文案要呈現多元族群形象,情報員想要靠近目標獲取情報,但都不想尋求模特兒。因此採用 AI 生成的不同類型人臉,相當便宜而且想要什麼類型都能滿足。

當不少人已經習慣在約會網站檔案當中,顯示藝術照形式個人照片,好像也不能怪業者找來模特兒假冒平台上的女性。如果技術進步之下,連找模特兒拍照建檔案都省了,只用 AI 就可以輕易產生以假亂真的檔案照,恐怕在被不實訊息轟炸的今日,要花不少精力辨別何者是真何者是假了。

目前 AI 的技術,可以輕易製造人類的影像,而且難以辨別真假,不論是開源的軟體,例如 Nvidia 的 SytleGAN,還是兜售技術的新創公司,提供各式各樣產生真人影像的實力。如果只是交友約會網站基於宣傳目的,在宣傳品當中加上各種像真人有不同族裔的人類影像,那還是小事,最怕是詐騙集團拿來運用。

AI 專家警告 AI 生成真人影像的技術,落入詐騙集團、機器人帳號可能就是短期敲詐個人金錢。但如果是間諜或是資訊戰操作者,搭配適當的檔案故事,能輕易建立擁有可信度的假帳號,進而在社群網站興風作浪,傳遞不實資訊。或者是情報員背後操縱的美女帳號,套取華盛頓特區流傳的政治情報。

加州大學洛杉磯分校法學院專長為 AI、法律和政策研究的研究員 Elana Zeide 就認為科技進步之下,對比一般人沒有多少辨識網路上資訊的權利和知識。相比真實世界容易辨識真假,面對網路上真假難辨的資訊往往束手無策。

▲ Icons8 網站 Generated Photo 提供相當擬真的真人照片生成服務。

Rosebud AI 是其中一家用 AI 生成 25,000 照片組的新創,要解決小型電商苦楚,那就是店家不必花大錢請來模特兒擺拍服飾與配件照片。他們用線上免費且無版權的照片來當製作的材料,商務上則是嚴格篩選客戶,希望他們不要用他們技術在不好的事情上。

AI GAN 技術如 SytleGAN 還是有限制,GAN 演算法無法無中生有,而且假若訓練的照片缺少某些族裔,AI 並無法在產生的影像當中,憑空生產出來。另外需要的運算能力也相當的大,需要架設伺服器以及採購效能好的顯示卡。

▲ Which Face is Real 網站考驗大家辨識能力,要大家挑選哪張不是 AI 生成照片,是真的人臉照片。(Source:Which Face is Real)

不過不少 AI 公司受惠於公有雲業者,例如彼此競爭市占的 Google 以及亞馬遜,提供新創能夠負擔的價格。另外不少公司覺得 AI 技術被亂用不是他們責任,而應該使整體社會要想出應對新技術的管理辦法。

This Person Does Not Exist 能夠給你幾可亂真的人類頭像。

儘管照片越來越能夠用 AI 來自己生成,但是 AI 生成的人臉照片還是有破綻,像是人身體與背景之間處理不乾淨出現不自然的背景,觀察人臉與背景交界處很容易找出破綻,如頭髮與邊界處出現像小水泡的斑點。另外帶著眼鏡的影像目前模擬的狀況也不好,牙齒太對稱了,真實的人類牙齒並不對稱,還有 AI 產生有 3 個門牙的影像。

▲ 連貓影像也能用 GAN 產生像是真貓的影像。(Source:This Cat Does not Exist)

至於可能因為 AI 被取代的真人模特兒,他們有的擔心有的不擔心,認為不必擔心的人覺得真人擺拍的模特兒仍會存在,至於擔憂的人,他們則是說儘管擔憂,最終並無法阻止被取代的趨勢。

(首圖來源:Generated Photo)

延伸閱讀: