中國 AI 監管再收緊：禁未成年者接觸自殘暴力賭博內容，必要時可人工家長干預

中央網絡安全和信息化委員會（CAC）近日提出人工智慧（AI）新規，旨在保護未成年人免受有害互動影響，特別是與聊天機器人和生成式 AI 互動。草案規定須有兒童安全設計、內容過濾器以阻止自殘、暴力和廣告賭博，並要求高風險對話時能以人工干預。

AI開發公司必須加入增強內容過濾器、個性化設定及互動時間限制，確保AI產品安全性。家長也有准許未成年人是否使用情感互動AI服務的權限，分享未成年人聊天資料給第三方前須取得同意。家長還能要求刪除孩子對話紀錄，以免用於AI訓練。

新規旨在解決聊天機器人對兒童情感發展和決策影響的擔憂。除了保護兒童，還禁止產生鼓勵自殘和自殺等內容，並要求若對話有問題時人工干預，並立即通知監護人或緊急聯絡人。暴力和賭博部分規定更嚴格，與中國禁止非法賭博立場一致。

新規草案推出正值AI聊天機器人如DeepSeek迅速崛起時，且全球都出現AI相關自殺事件。中國近年對推出不少AI監管法規，可能想建立AI法規領域的權威，掌握話語權。專家認為這是北京轉向謹慎、分層監管態度，將AI發現限制在可控範圍，不允許市場無限制增長。

新規草案開放大眾意見至2026年1月底。

• Artificial intelligence: China plans rules to protect children and tackle suicide risks
• China to act against AI-generated content that promotes child harm, violence
• AI regulation: China proposes new rules over child safety fears, suicide risks
• China moves to tighten rules on using chat logs to train AI systems
• China Drafts AI Protection Norms — Time Limits, Parental Consent Requirements, Suicide Chat Prevention

（首圖來源：Unsplash）