OpenAI 日前宣布推出 GPT Store,使用者可上架並銷售自製 GPT 模型。GPT Store 使用者條款之一禁止使用者開發「專門培養浪漫伴侶的 GPT」,不過外媒報導,至今日 GPT Store 至少有八個 AI 女友 GPT。
為確保 GPT Store GPT 適合全部使用者,OpenAI 明文規定禁止用戶開發「專門培養浪漫伴侶的 GPT」,但外媒《Quartz》資料,GPT Store 可找到多個女朋友 GPT 如〈Korean Girlfriend〉、〈GPT for GF〉、〈Your AI girfriend, Tsu〉等。
(Source:Quartz)
《Quartz》引述美國衛生局局長指,全美國有一半成年人表示經歷過孤獨,AI 聊天機器人或成為有心人利用人類痛苦獲利的方法,也許就是 OpenAI 訂出「禁止開發浪漫伴侶 GPT」規則的原因。GPT Store 使用者條款開門不到一星期就被打破,顯示監管 GPT 非常困難。《Business Insider》就監管政策詢問 OpenAI ,但截稿前未獲回答。
(Source:OpenAI)
- OpenAI’s GPT Store is being flooded by AI girlfriend bots despite explicit rules that prohibit them
- AI girlfriend bots are already flooding OpenAI’s GPT store
(本文由 Unwire HK 授權轉載;首圖來源:shutterstock)