舊金山企業 Luka 於 2017 年推出運用人工智慧的聊天機器人 Replika，能與客戶談話及傾聽，但義大利近日禁止 Replika 使用義國用戶個資，如今恐又面臨歐盟更嚴格規範。
法新社報導，美國聊天機器人「虛擬伴侶」Replika部分用戶只是想要人陪伴，但也有些人想發展戀情、性愛聊天，甚至想看聊天機器人的性感照。
去年底有用戶開始投訴Replika使用露骨文字和圖片，有些人認為屬性騷擾範疇。
義大利監管機構對這情況不滿，發現Replika違反歐盟通用資料保護規則（GDPR）後，上週禁止Replika收集數據。
Luka公司沒有發表評論，也沒有回覆法新社要求置評的訊息。
歐盟通用資料保護規則讓大型科技公司頭痛，這些科技企業屢次違規，已被處以數十億美元罰款。義大利當局的決策表明，這項規則仍可能成為最新聊天機器人的天敵。
這些新聊天機器人和支撐它們的生成式人工智慧（Generative AI），有望徹底改變網路搜尋等領域。
但專家警告，監管機構需要擔心許多問題，尤其當機器人變得強大，以至於無法辨識它們跟人類的不同。
歐盟（EU）是討論管控新機器人的中樞，人工智慧法案（AI Act）已在高層間琢磨好幾個月，可能會在今年定案。
（譯者：陳昱婷；首圖來源：Replika）
科技新報粉絲團
加入好友
訂閱免費電子報
