美國參議員指控生成虛假誹謗，Google下架 Gemma AI 模型

Google 11 月 2 日宣布暫時從其 AI Studio 平台移除 Gemma 生成式 AI 模型，該決定與田納西州共和黨參議員瑪莎·布蕾波恩（Marsha Blackburn）致函 Google 執行長桑達爾·皮查伊（Sundar Pichai）有關。布蕾波恩指控 Gemma 模型生成針對她的虛假性侵指控，並要求 Google 說明此類嚴重錯誤的原因。

布蕾波恩公開的信件指出，Gemma模型不僅出現「AI幻覺」問題，且呈現對保守派人士的偏見，令人擔憂生成式AI成為誹謗工具。此事發生於近期參議院聽證會期間，Google副總裁Markham Erickson在聽證會上承認生成式AI幻覺不可完全避免，但強調公司持續努力降低錯誤風險，並未蓄意偏頗。

Google表示，Gemma原本是做為輕量級AI模型供開發人員透過API整合使用的產品，並非設計為直接面向消費者的工具。由於部分非開發用戶在AI Studio平台中嘗試用Gemma詢問事實性問題，導致AI生成不實訊息，Google決定將該模型從AI Studio下架，但會藉由API繼續提供服務，同時致力於改進模型表現與安全性。

這起事件突顯AI生成資訊的誤差與潛在偏見問題，並引發美國政界加緊監督AI企業的呼聲，強調在技術創新與社會責任間需取得平衡。

（首圖來源：Google）