儘管引擎不同，但 Google Gemini 圖像生成功能，以及微軟 AI 圖像生成工具 Copilot Designer 似乎都出現了會生成爭議性圖像的問題，但兩家處理方式似乎南轅北轍，Google 決定暫時禁用了該功能。根據微軟軟體工程師的指控，微軟仍繼續將該產品推銷至任何人、任何地方及任何裝置上。
在微軟工作六年的微軟工程師 Shane Jones 去年 12 月開始便一直試圖警告微軟 Copilot Designer 使用 DALL‧E 3 模型存在生成不當甚至有害圖像的問題。去年 12 月，Jones 便在 LinkedIn 發表這些問題的公開信，微軟法務團隊聯絡要求刪除文章，他也遵從這要求。
Jones 在 1 月又向一些美國參議員寫信，表達對 Copilot Designer 生成美國流行天后泰勒絲（Taylor Swift）不雅照的擔憂，這些圖像隨即在 X 平台迅速傳播。微軟執行長納德拉（Satya Nadella）稱這些圖像「令人震驚且可怕」，並表示公司將致力於增加更多的安全防護措施。然而微軟卻一再拒絕下架 Copilot Designer，如今 Jones 正向美國聯邦貿易委員會（FTC）提出有關微軟 AI 圖像生成工具安全問題的擔憂。
Jones 測試 Copilot Designer 安全問題和缺陷時發現，產生旁邊印有墮胎權字眼的惡魔與怪物、手持突擊步槍的青少年、以暴力場面為背景的婦女性感照、未成年飲酒和吸毒照。工具還產生迪士尼電影〈冰雪奇緣〉主角艾莎（Elsa），出現在加薩走廊斷垣殘壁和「自由加薩」（Free Gaza）標誌前圖像，還產生艾莎身穿以色列國防軍制服，手持有以色列國旗的盾牌照片。
微軟發言人 Frank Shaw 表示，該公司致力於根據微軟的政策解決員工任何及所有疑慮。「當涉及到可能對我們的服務或合作夥伴產生潛在影響的安全規避或疑慮時，我們已經建立了產品內的用戶回饋工具和強大的內部通報管道，以適當調查、優先處理和補救任何問題，我們建議員工使用這些工具和管道，以便我們可以適當地驗證和測試其疑慮。」他並表示，微軟已「促成了產品領導層和『AI 責任辦公室』（Office of Responsible AI）會議，以審查這些報告。」
（首圖來源：科技新報）
科技新報粉絲團
加入好友
訂閱免費電子報
