ChatGPT 問世直接重擊搜尋引擎巨頭 Google 的核心業務與命脈,為了追上 OpenAI 與微軟,Google 緊急推出 AI 聊天機器人 Bard,但日前竟傳出員工曾批 Bard 品質不佳懇求公司不要貿然推出的消息。從 Google 長久奉行的「永遠 Beta 版」產品開發策略,很難不懷疑 Bard 就是趕鴨子上架的急就章產品。
19 日彭博(Bloomberg)援引 Google 18 位在職及前員工討論訊息,以及內部訊息擷圖報導,Bard 推出前一些員工批評新聊天機器人是「近乎病態的謊言」、「比沒用還糟糕」,請求公司不要推出。也有員工指出,Bard 經常有十分危險的建議,無論回答如何讓飛機降落或水肺潛水等簡單問題皆然。
彭博指 Google 甚至否決安全小組的「風險評估」報告,認為系統沒有做好供所有人使用的準備,但還是 3 月就開放實驗性聊天機器人試用。彭博描述 Google 為了追上 OpenAI 與微軟,毅然將道德問題放在一邊。雖然吹噓始終致力維護 AI 安全和道德,但因常優先考慮業績而備受批評。
Google AI 產品的問題可回溯至 2020 年底和 2021 年初,解雇 Timnit Gebru 及 Margaret Mitchell 兩位研究人員,當時兩人撰寫論文,揭露 AI 語言系統有漏洞,Bard 等聊天機器人也是採用相同語言系統。隨著生成式 AI 威脅到 Google 搜尋商業模式,使其似乎更重視業務而非安全及道德問題。
當然仍有員工認為,公開測試對系統開發保護是必要的,相對其他威脅,聊天機器人的已知危害最小,且網路會產生令人不快文字或誤導性資訊來源多的是,不只有 Bard 如此。面對商業模式,微軟和 OpenAI 也會像 Google 妥協,唯一差別是前兩者不是搜尋市場領導者,所以沒什麼好失去的。
(首圖來源:科技新報)