Meta 最近的人工智慧（AI）規則引發了廣泛的關注，因這些規則似乎允許兒童與聊天機器人有不當互動，包括所謂「感性」對話。
《路透社》報導，引用《GenAI: Content Risk Standards》文件，顯示Meta聊天機器人政策曾允許與兒童進行浪漫或感性對話，並經法律、公共政策與工程團隊（包括Meta首席倫理學家）審核。
文件詳細說明聊天機器人可以和不能說的內容，甚至可對裸上身的8歲兒童說「你身體每吋都是傑作」。Meta發言人表示，這些錯誤例子，已經刪除。
文件還允許其他令人擔憂的例子，如聊天機器人說出有偏見的話甚至假資訊，可能引發種族歧視與倫理疑慮。這些潛在問題引發AI如何回應的擔憂，尤其考慮到兒童與AI互動可能風險更大。
Meta的AI聊天機器人已整合至Facebook、Instagram、WhatsApp等平台，影響用戶接近十億，還有大量Meta及用戶創造的AI角色，包括模擬名人聲音及形象，並可以文字、聲音、自拍及直播互動。
美國至少28州司法部長組成聯盟，強烈要求Meta停止AI角色扮演功能，因用於性誘導與剝削兒童，也無法警告家長相關風險。司法部長批評Meta忽視兒童安全，為了獲利不惜犧牲未成年用戶安全。
AI越發展，如何與之互動也越來越重要，特別涉及未成年人時。此事件突顯大型科技公司設計AI規則時的道德挑戰，尤其推動生成式AI時，如何兼顧創新與用戶安全，特別是保護兒童用戶，仍有許多道德與技術挑戰需要克服。
- Meta’s AI rules permitted suggestive behavior with kids
- Attorney General Marshall Demands Meta Halt AI Role-Playing Feature Used to Groom and Exploit Children
- AG Labrador Joins Coalition Urging Meta to Address AI Sexual Exploitation Risks
- Attorney General Taylor Joins Coalition Urging Meta to Address AI Sex Exploitation Risks
（首圖來源：Pixabay）
科技新報粉絲團
加入好友
訂閱免費電子報
