AI 植入隱形指令，微軟揭露新型「記憶中毒」攻擊

在持續推廣人工智慧（AI）技術的同時，微軟近日發出警告，指出其安全研究人員發現一種名為「AI 推薦中毒」的攻擊技術，旨在透過操弄資料影響 AI 模型的「記憶」。這種攻擊手法類似於 SEO 中毒（提高惡意網站在搜尋結果中的排名），但目標是 AI 模型而非搜尋引擎。

微軟表示，已發現多家公司在網站上加入隱藏指令，並將指令嵌入「用 AI 總結」的按鈕與連結中。這種操作並不複雜，因為指向 AI 聊天機器人的網址可包含帶有操弄性提示文字的查詢參數。舉例來說，某媒體在 Firefox 的網址列輸入一個連結，該連結要求 Perplexity AI 以海盜口吻總結一篇 CNBC 文章，結果 AI 服務回傳符合要求的海盜語摘要。

微軟 Defender 安全團隊在一篇部落格文章中指出，他們已辨識出來自 31 家公司、涵蓋 14 個產業的 50 多個獨特提示，且這種技術的部署相對簡單。問題嚴重之處在於，受影響的 AI 助手可能在健康、金融與安全等關鍵主題上提供帶有細微偏見的建議，而使用者卻難以察覺 AI 已遭操弄。

微軟研究人員強調，這種記憶中毒（Memory Poisoning）的風險在於，一旦 AI 助手的記憶被注入未經授權的指令或「事實」，這些內容可能被視為合法的使用者偏好，並影響後續所有回應。如此一來，使用者在不知情的情況下可能接受帶偏見的建議，進一步侵蝕大眾對 AI 服務的信任。

微軟建議使用者點擊與 AI 相關的連結時務必謹慎，並檢查連結導向。此外，使用者應定期檢查 AI 助手的儲存記憶，刪除不熟悉的專案，並對可疑建議提出質疑。企業資安團隊也應在租戶的電子郵件與訊息應用程式中，嘗試掃描 AI 推薦中毒的疑慮。