AI 訓練資料驚現逾百萬起兒童性虐待材料，多數指向亞馬遜

在 2025 年，美國失蹤與被剝削兒童中心（NCMEC）接獲超過 100 萬起與人工智慧（AI）相關的兒童性虐待材料（CSAM）報告，其中絕大多數來自亞馬遜。

根據《彭博社》的調查，亞馬遜在其 AI 訓練資料中發現了這些不當內容，並表示這些材料來自用於訓練其 AI 服務的外部來源，但未透露具體來源。NCMEC 指出，這麼高的通報量引發了許多關於資料來源和安全措施的問題。除了亞馬遜，其他公司提交的 AI 相關報告中包含可供執法機構進一步行動的可行資料，而亞馬遜的報告因缺乏來源資訊而被認為是「無法行動的」。

亞馬遜在一份聲明中表示，他們對基礎模型訓練資料進行了謹慎的掃描，包括來自公共網路的資料，以辨識和移除已知的兒童性虐待材料，並保護其客戶。該公司還表示，為了避免漏報，他們的通報數字是刻意拉高的，並在將訓練資料輸入 AI 模型之前移除了可疑的 CSAM 內容。近幾個月來，未成年人的安全問題已成為人工智慧產業的關鍵關注點。根據 NCMEC 的紀錄，CSAM 的通報數量激增；與 2024 年的 67,000 起通報相比，2025 年超過 100 萬起通報，而 2023 年僅有 4,700 起通報。

除了使用虐待內容訓練模型的問題外，AI 聊天機器人也涉及多起與年輕用戶相關的危險或悲劇事件。OpenAI 和 Character.AI 因青少年在其平台上策畫自戕而被起訴，Meta 也因未能保護青少年用戶，免受與聊天機器人的性暗示對話而面臨訴訟。這起事件突顯了快速發展的 AI 技術與兒童保護之間的緊張關係，呼籲企業優先強化與落實更完整的通報機制。