生成式 AI 的「AI 幻覺」問題一直是 AI 難獲人類完全信任的主因,微軟最近推出工具 Correction,可自動修正 AI 的錯誤回答。
微軟新工具先標記可能有誤內容,然後與認證「事實」(如文字紀錄)比對核實。Correction 已成為 Microsoft Azure AI Content Safety API 一部分,可預覽,與任何文字生成 AI 模型搭配使用,如 Meta Llama 和 OpenAI GPT-4。
Correction 原理是用一對交叉引用的模型,一個尋找可能不正確、虛構或不相關的 AI 生成內容(幻覺)的分類器模型,另一個據指定文件糾正幻覺的語言模型。微軟發言人表示,希望新功能協助生成式 AI 開發者和用戶,特別是醫療等準確性要求極高的領域。
但還有專家懷疑。華盛頓大學的 Os Keyes 認為,試圖消除生成式 AI 幻覺就像試圖拿掉水的氫元素,因是技術運作的基本部分。Queen Mary University 的 Mike Cook 則指出,即使 Correction 按預期運作,也可能加劇 AI 信任和可解釋性問題,讓用戶產生錯誤的安全感。
(本文由 Unwire Pro 授權轉載;首圖來源:shutterstock)