Civitai 是一個熱門的 AI 模型分享市集，並且被評為市場上第七大最受歡迎的生成式 AI 平台。該平台最近推出一項備受爭議的「賞金」（bounties）功能，鼓勵使用者創作栩栩如生的真人深度偽造（Deepfake）圖像。表現最好的創作者可以獲得該平台發行的虛擬貨幣「Buzz」。
然而有點失控的是，該平台上的許多賞金都專注在複製名人或社群媒體網紅的外表，尤以女性為然。據報導，絕大多數所生成的深偽內容皆被歸類為「未經同意的性圖像。還有一些賞金會要求鎖定較少網路活動的個人，這無疑加劇了人們對自身隱私的擔憂。
雖然大多數賞金的請求都會避免露骨闡述對性內容的渴望，而採用模稜兩可的用語。但也有人在祭出賞金的同時直白發出「墮落請求」的字眼，乃至對女性身體的評論。
自從 Civitai 推出「賞金」新功能以來，該平台針對生成女性名人和社群媒體網紅圖像的請求大幅激增。根據最早進行相關報導的 404 Media 發現，至少有一筆賞金鎖定的對象是一位很少上網的個人，這突顯了濫用個人圖像的可能性。
Civitai「賞金」功能的失控，不但突顯出文字轉圖像 AI 工具隨手可得的現況，也讓我們看到為特定個人生成 AI 模型的簡便性，乃至 Civitai 平台上非自願性內容的獲利模式。如果再不找到良好的反制方案，恐將引發從名人擴展到個人隱私的全面失控。
（首圖來源：Civitai）
科技新報粉絲團
加入好友
訂閱免費電子報
