資安風險仍太高，最好全面封鎖 AI 瀏覽器！Gartner 警告

國際科技研究和顧問機構 Gartner 最新《Cybersecurity Must Block AI Browsers for Now》報告，稱 AI 瀏覽器在可見未來應全面封鎖，因潛在安全風險對多數組織太過高昂。報告由 Gartner 副總裁 Dennis Xu、高級總監 Evgeny Mirolyubov 和副總裁分析師 John Watts 共同撰寫，具高度權威性。

Gartner的AI瀏覽器定義為如Perplexity Comet和OpenAI ChatGPT Atlas等，特點是會將敏感用戶資料（如網頁內容、瀏覽歷史和打開過標籤）發至雲端AI後端，都會增加資訊暴露風險，除非嚴格管制安全和隱私設定。

報告建議，任何組織考慮採用AI瀏覽器前，都應評估後端AI服務安全措施是否完善，以確定能否啟用AI瀏覽器。如果評估後獲批准，Gartner仍建議組織應教育用戶，充分意識到使用AI瀏覽器的側邊欄總結或其他自動操作時，任何正在查看內容都有可能發至AI服務後端，以盡量避免用AI瀏覽器存取高度敏感資料。

Gartner的擔憂還包括可能受間接提示輸入引發的惡意行為、錯誤推理導致的錯誤行為，以及如果AI瀏覽器被欺騙自動導航至釣魚網站，可能導致憑證喪失和濫用。分析師指出，員工可能會遭誘惑用AI瀏覽器自動化某些必須、重複性和不太有趣工作，甚至可能叫AI瀏覽器代他們去上網路安全培訓課程。

Gartner也考慮到將AI瀏覽器用於公司採購工具，並想像大型語言模型（LLM）可能犯錯，導致組織購入不需要物品。分析師建議，應確保這些AI代理無法寫信，以限制某些操作功能，並設置確保AI瀏覽器無法儲存數據。

總體而言，三位分析師都認為，AI瀏覽器進行風險評估前太危險，但即使評估後，組織也可能面臨一長串不能使用限制，並需要監控AI瀏覽器用途。

（首圖來源：Image by Freepik ）