英國《衛報》調查發現，Google 搜尋引擎的人工智慧（AI）摘要可能提供不實且誤導的健康資訊，讓用戶面臨風險，Google 因此已移除部分相關 AI 摘要。
Google表示，其AI摘要（AI Overviews）運用生成式AI，針對特定主題或問題提供重點資訊的概要，這項功能「實用又可靠」。
然而衛報（The Guardian）報導，部分出現在搜尋結果頂端的AI摘要提供不準確的健康資訊，用戶因此面臨健康受損的風險。
在專家稱為「危險且令人憂心」的一項案例中，Google提供了關於重大肝功能檢查（LFT）的不實資訊，恐導致罹患嚴重肝病的民眾誤以為自己還很健康。
衛報發現，在Google搜尋「肝臟血液檢查結果正常範圍」會出現一大堆數字，卻缺乏相關脈絡說明，也沒有考慮到患者的國籍、性別、族裔或年齡。
專家指出，Google的AI摘要提供的正常數值，可能與實際臨床的正常數值具有顯著差距。摘要恐導致重症患者誤以為自己檢驗結果正常，因此未再接受後續醫療評估。
在衛報進行調查之後，Google已移除搜尋「肝臟血液檢查結果正常範圍」及「肝功能檢查結果正常範圍」等問題會出現的AI英文摘要。
Google發言人表示：「我們不針對搜尋結果中個別移除的內容發表評論。AI摘要呈現的脈絡若有部分疏漏，我們會致力改進，同時按照我們的政策採取適當行動。」
英國肝臟信託基金會（British Liver Trust）的傳播與政策主管赫布迪奇（Vanessa Hebditch）對此表示肯定，但也警告「若以別種方式提出問題，仍可能出現含有誤導資訊的AI摘要」，且他們擔心其他AI產出的健康資訊可能也有不實狀況。
衛報發現，若在Google輸入「肝功能檢查參考範圍」等陳述稍有變化但其實相同的問題，仍會觸發AI摘要出現，赫布迪奇對此深表擔憂。
赫布迪奇說明：「肝功能檢查是多項血液檢查的組合，解讀檢查結果並決定後續行動的判斷相當複雜，遠非對照一組數字那麼簡單。」「然而，AI摘要以粗體呈現一系列檢查（的數值），讀者很容易就忽略這些數值甚至未必適用他們自己的檢查。」
「此外，AI摘要未警告用戶，即便檢查結果正常，他們仍可能患有嚴重肝病，需要接受進一步治療。這類虛假的安心感可能非常有害。」
Google在全球搜尋引擎市場擁有91%市占率，這家科技巨擘表示正在檢查衛報提供的其他新案例。
赫布迪奇也談到，他們更擔心的是Google只處理單一搜尋結果、下架特定的AI摘要，「卻沒有正視AI摘要對醫療健康領域造成的更廣泛問題」。
（譯者：洪培英；首圖來源：Google）
科技新報粉絲團
加入好友
訂閱免費電子報
