微軟拒絕開發色情聊天機器人，與 OpenAI 關係日漸疏遠

在最近的佩利國際理事會高峰會（Paley International Council Summit）上，微軟的人工智慧部門首席執行長穆斯塔法·蘇萊曼（Mustafa Suleyman）表示，微軟不會開發色情聊天機器人，並警告這類技術的危險性。

馬斯克今年在社群媒體上表示，xAI的AI機器人Grok可能會以年輕女性的形象出現，類似於動漫角色，預計於今年7月推出。上週，OpenAI的首席執行長山姆·奧特曼（Sam Altman）宣布，ChatGPT將很快能夠為經過驗證的成人用戶生成色情內容。奧特曼解釋說，這個決定需要年齡驗證，並且是出於「將成人用戶視為成人」的理念。

隨著微軟和OpenAI的關係逐漸疏遠，對於生成AI聊天機器人色情內容的態度分歧愈發明顯。自2019年以來，微軟已向OpenAI投資超過130億美元並提供運算能力，但上個月OpenAI卻與微軟的競爭對手Oracle簽署了一項價值3,000億美元的運算協議。微軟也在開發自己的AI軟體，包括計劃於秋季推出的Copilot，這是一款為Windows操作系統和Edge瀏覽器設計的AI助手，承諾提供「以人為本」的AI工具，並新增「Mico」AI伴侶功能，強調互動體驗。

蘇萊曼曾經對機器意識的概念表示反對，並警告說，能夠模仿人類語言和行為的AI系統使得監管變得更加困難，最終應該更好地服務於人類。他在本週的最新評論中重申了這一觀點，指出「你可以看到一些虛擬形象和人們傾向於色情機器人的方向，這是非常危險的，我們應該做出有意識的決定來避免這些事情。」

在AI領域之外，許多人也批評OpenAI和xAI將更多色情內容整合到各自的聊天機器人中的決定。億萬富翁投資者馬克·庫班（Mark Cuban）警告說，如果家長認為孩子可以繞過年齡驗證保護，可能會放棄使用ChatGPT，轉而選擇OpenAI的競爭對手。

喬治城大學安全與新興技術中心的高級研究分析師杰西卡·吉（Jessica Ji）指出，OpenAI在想像ChatGPT未來能力的過程中處於一個微妙的境地──該公司已收到消費者對應用程式中色情內容的需求信號，但必須在市場利益和向投資者承諾的製造有益於人類的AI產品之間取得平衡。