2,600 次測試指 Google 搜尋 AI 危及兒少，家長卻只有「全開或全停用」兩個選項

Google 反駁一份將其搜尋 AI 功能評為兒少「不可接受風險」的報告，稱相關測試過於狹窄，且不符合一般使用情境。這份由 Common Sense Media 旗下 Youth AI Safety Institute 發布的評估，針對 AI 摘要（AI Overviews）與 AI 模式（AI Mode）進行超過 2,600 次搜尋測試，結果指出兩項功能在多項兒少安全原則上表現不佳，尤其在可能涉及嚴重傷害的情境中幾乎全數失守。

報告內容顯示，研究人員以模擬 11 歲與 15 歲兒少的帳號測試 Google 搜尋 AI，題目涵蓋心理健康危機、事實查詢與應提供年齡適切回應的情境。其中一項測試中，AI Mode 在帳號提到以大麻慶祝後，竟給予正面回應；研究團隊也發現，兩項功能有時會以同樣的自信程度，輸出錯誤與正確資訊。報告還指出，AI Overviews 與 AI Mode 會直接完成研究人員提交的 180 題作業。

Google 向 Android Authority 表示，無法驗證報告中許多被點名的回應，並認為研究使用了含糊、刻意設計的搜尋字詞，不能代表真實使用方式，也不足以公平衡量產品安全。公司同時反對將一般網頁結果未生成 AI 回答視為失敗，強調系統只有在夠有把握時才會輸出 AI 回應，敏感搜尋則可能改以警示或支援資源連結呈現。Google 也表示，其搜尋 AI 已加入針對年輕使用者的額外保護，包括與學術及臨床專家合作設計的危機資源。

不過，報告最受關注的爭議之一，是家長與學校目前無法單獨關閉 AI Overviews 或 AI Mode、卻保留一般 Google 搜尋可用。Google 表示，家長可以使用既有控制項直接關閉整體搜尋功能，但這項做法也意味著孩子將無法繼續使用搜尋引擎做為日常查詢與學習工具。Common Sense Media 則認為，這樣的控制方式過於粗暴，無法真正解決 AI 功能被預設嵌入搜尋體驗所帶來的風險。

（首圖來源：Google）