Google 近期重大更新 AI Overview 備受矚目，將 AI 整合到 Google 搜尋核心，承諾帶來前所未有搜尋體驗。透過 AI 生成的精確搜尋結果，用戶能直接取得關鍵資訊，不必再花大量時間瀏覽和比對搜尋結果。
一開始，AI Overview表現讓人期待。無論是搜尋健康資訊、尋找食譜，還是解決生活難題，這項功能都能即時提供清晰簡潔的建議和指引，讓人們對這樣功能信心滿滿。然而，就在用戶對這項新體驗趨之若鶩之際，一些離奇的AI回答開始在網絡上流傳，引起了廣泛討論。
AI不能辨識幽默感，令人啼笑皆非
最為人詬病的，當屬AI Overview建議用戶在製作披薩時添加膠水，以防止起司滑落。這個建議竟然源於多年前網路上流傳的一則玩笑，而AI系統卻未能辨識其中的幽默感，將其當成真實資訊提供給用戶，令人啼笑皆非。
此外，AI Overview更是建議每日應該攝取石頭以補充營養，這個建議則是來自惡搞網站《洋蔥報》（The Onion）的一則諷刺報導。當用戶將這些離譜荒謬的AI回應，截圖分享到社群媒體後，迅速在網絡上引發了一波批評的聲浪。
面對如火如荼的不滿情緒，Google迅速回應。然而，其解釋稱上述例子僅屬極少數特例，大多數查詢結果仍屬可信，並暗示部分流傳的錯誤截圖可能遭到了篡改，並未能真正平息大眾的疑慮和質疑。
人們質疑，做為全球頂尖科技公司，Google為何會在旗艦產品上犯下如此低級錯誤？更讓人擔憂的是，如此先進的AI技術在處理真實複雜的資訊時，其表現無疑給AI Overview的未來籠罩上了一層陰影。
搜尋引擎在現代生活中扮演重要的角色，我們日復一日依賴它，來獲取各種資訊。當用戶在搜尋結果中看到，例如：每天食用石頭有益健康，這樣荒謬的建議時，他們很自然會對系統的可靠性產生質疑。
一旦這種信任破裂，恢復將是一場艱困的長期任務。用戶可能選擇轉向其他搜尋引擎，而Google也將失去做為搜尋和資訊服務提供商的核心競爭力。因此，Google必須採取果斷有力的措施，全面整頓其AI系統，從根本上杜絕這類低級錯誤，重塑用戶對其搜尋結果的信心。
Google該如何真正解決這個難題？
Google首先需要對AI模型的訓練數據和方法，進行徹底檢視。目前的訓練數據存在著代表性不足、錯誤資訊過多的問題，導致了系統無法有效區分真實資訊與網路上的諷刺、玩笑甚至錯誤內容。Google需要建立一個更高品質、可信且覆蓋面更廣的數據資料庫，並採用更先進的過濾技術，以提高生成內容的準確性。
Google也需要增強系統的即時監控和反饋機制。當發現錯誤的搜尋答案時，Google必須快速修正並阻止其再次提供錯誤資訊，同時將這些錯誤案例反饋至AI模型，不斷完善其表現。同時，還應借助人工審查、人機合作等方式，對查詢結果實施嚴格的驗證和把關。
Google更應努力與用戶建立更為開放和透明的溝通管道。用戶應了解AI系統背後的運作邏輯和局限性，將有助於設定合理期望，並在出現錯誤時提高容錯率。同時，收集用戶對系統表現的反饋並及時調整，也將是持續優化和完善AI Overview功能的寶貴方式。
最後，與各領域專家合作也是改進之道。若能借助專家的專業領域知識，Google可以建立起應用場景細緻化的數據資料庫，賦予系統更強的語意情境理解和邏輯推理能力，為廣大用戶提供更有價值的創新體驗。
（首圖來源：shutterstock）
科技新報粉絲團
加入好友
訂閱免費電子報
