OpenAI 宣布 AI 產圖將加入數位浮水印

AI 生成的圖片愈來愈逼真，除了一般的應用方式之外，也有被濫用作詐騙或者製作假新聞。有見及此，愈來愈多的圖片生成 AI 模型都加入數位浮水印加以辨識，而 OpenAI 最近也跟隨潮流加入這個功能。

OpenAI 宣布，將會採用 C2PA 制定的內容憑證規範，這個組織由 Adobe、Arm、Microsoft 和 Intel 等科技企業倡議組成，以制訂一個可以在自動生成內容中加入辨識的方式為目標，讓用戶可以更容易知道內容是否由 AI 生成。OpenAI 表示，他們將會在圖片的後設資料（metadata）中加入相關資訊，應用程式可以讀取並顯示標籤。

（Source：OpenAI）

後設資料會以加密方式保護，防止未經授權的更改，對用戶來說無法直接看到分別，不過可以透過支援這個標準的應用程式看到一個標誌，顯示檔案中存在內容憑證資訊。點擊標誌的話會顯示詳情，包括有關內容是否 AI 生成。不過後設資料可以被刪除或無事，而且由於依賴應用程式支援，意味著其有效性取決於是否被廣泛採用。OpenAI 強調雖然內容憑證是向前邁出的一步，但並不是解決問題的完美方案，未來還會透過其他方式，尋求增強透明度的同時保持效率的解決方案。