真人照片 AI 換穿比基尼涉爭議，Grok 加深限制、監管機構啟動調查

整合在 X 平台的 AI 聊天機器人 Grok 近來遭指控，屢次生成兒少性剝削圖像、以及未經本人同意的裸露內容，有鑑於外界的強烈批評，X 平台調整 Grok 圖像編輯的政策規範，不再讓 Grok 編輯真實人物改穿比基尼的狀況發生。

「我們已實施技術性措施，防止 Grok 被允許編輯真實人物穿著具暴露性服裝（例如比基尼）的圖像」，X 平台透過 @Safety 官方帳號發文，這項限制適用於所有 X 使用者，包括付費訂閱用戶。

這項限制就是因應不少使用者近來利用 Grok 生成，將一般穿著的女性照片變成改穿比基尼等服裝所做的限制。

透過 X 平台上的 Grok 進行圖像生成與編輯的功能，現在只開放給付費訂閱用戶使用，免費的使用者無法再生成圖像。X 平台稱這樣的做法增加一層額外的保護，有助於確保任何試圖濫用 Grok、違反法律或 X 政策的使用者，能被追究責任。此外，當相關行為在當地屬於非法的地區，X 平台將進行地理封鎖。

「我們會採取行動移除違規內容，包括兒少性虐待素材（Child Sexual Abuse Material，CSAM）與非自願裸露內容，並對違反我們 X 規則（X Rules）的帳號採取適當措施。」X 平台強調如有必要，會將尋找 CSAM 的帳號通報給執法部門。

事實上，X 平台這次發表聲明的數小時前，美國加州已就 xAI 與 Grok 處理 AI 生成裸露內容和兒童兒少性剝削圖像的狀況展開調查。「xAI 在聖誕節到跨年期間生成的 2 萬張圖像中，有超過一半描繪的是穿著極少衣物的人物」，加州檢查總長邦塔（Rob Bonta）的聲明引用一項分析指出，其中包含看起來像是兒童的圖像。

除加州外，馬來西亞與印尼近日皆以安全疑慮、以及 Grok 處理具性露骨 AI 生成內容的方式為由，主動採取行動封鎖 Grok。英國通訊管理局（Office of Communications，Ofcom）也對 xAI 與 Grok 展開調查，官員同樣表示支持對 Grok 採取類似封鎖的作法。

掌管 X、xAI 的馬斯克（Elon Musk）聲稱「不知道 Grok 曾生成任何未成年人的裸露圖像」。他隨後說，「Grok 不會自行生成圖像，它只會根據使用者請求來生成。當被請求生成圖像時，它會拒絕生成任何非法內容，因為 Grok 運作原則是遵守任何國家或地區的法律。」

馬斯克也提到，當啟用 NSFW 設定時，「Grok 理論上僅允許生成虛構的成年人（非真實人物）出現上半身裸露，且程度應與 Apple TV 上 R 級電影可以看到的裸露內容一致」，這是美國當地道標準，至於其他地區的狀況會因各國法律而異。

（首圖來源：shutterstock）