AI 生成圖像上傳 Facebook、Instagram，Meta 將顯示標記

世界各地選舉紛紛到來，Meta 表示將在未來幾個月開始對用戶上傳至 Facebook、Instagram、Threads 的 AI 生成圖像加以標記，甚至對未揭露 AI 生成影片和音訊的用戶予以懲罰。

Meta 已經將「Imagined with AI」浮水印嵌入自家 AI 功能所產生的逼真圖像，也計劃開始對使用 OpenAI、微軟、Google、Adobe、Midjourney、Shutterstock 等工具製作的 AI 生成圖像進行相同處置，未來將對用戶上傳至 Facebook、Instagram、Threads 的 AI 生成圖像加以標記。

Meta 全球事務總裁克萊格（Nick Clegg）接受外媒採訪表示，隨著 AI 生成內容越來越難以辨別真偽，Meta 正在建立標準工具檢測合成內容，提出新措施希望「激勵」科技同業跟進。

克萊格表示，整個產業在製定辨識 AI 生成影片和音訊的標準落後實務現況，儘管 Meta 對這一類內容如何濫用、欺騙民眾保持高度警惕，但一家公司無法獨自捕獲所有資訊來分辨真偽。

Meta 一直與 Partnership on AI 等組織合作，以現有的內容真實性計畫為基礎。與此同時，Adobe 最近推出內容憑證系統，將內容來源資訊放入圖像的 metadata。Google 在發表影像測試版後，將 SynthID 浮水印擴大涵括音訊檔案。

克萊格更表示，Meta 很快將會開始要求用戶揭露何時使用 AI 製作影片或音訊貼文。如果貼文不符規定，Meta 將採取一系列懲罰措施，從警告開始，最終甚至刪除違規貼文。

AI 熱潮下，人們越來越擔心氾濫的 Deepfake 影像以及其他 AI 生成內容，在選舉期間誤導選民做出不準確的選擇，尤其 Meta 總部所在的美國正在進行總統候選人提名初選，預計年底產生大選結果，讓 Meta 對此更為謹慎，提出具體措施以防範不實資訊濫傳。

• Meta says you better disclose your AI fakes or it might just pull them
• Meta to expand labelling of AI-generated imagery in election packed year
• Meta Calls for Industry Effort to Label A.I.-Generated Content

（首圖來源：Meta）