微軟（Microsoft）近年來大力提倡其安全未來倡議（Secure Future Initiative，SFI），其中最重要的部分，就是希望透過 AI 來強化網路防禦能力。生成式 AI 是雙面刃，除了能提升資訊安全能力外，其實也能助長惡意攻擊的力道，這也讓人好奇，惡意份子是否能透過生成式 AI 來發展出新興的攻擊型態。
對此微軟安全副總裁 Vasu Jakkal 就指出，現在該公司也正密切關注生成式 AI 會如何被威脅者積極利用。現在大多數的惡意份子會透過生成式 AI 來進行資訊收集（Recon），因為此一技術可以更快速且準確地獲取目標資訊。此外，生成式 AI 也已被用於提升網路釣魚攻擊的效果、加快密碼破解的速度，並生成更高階的惡意軟體等。
至於在新興攻擊型態中，Vasu 則注意到，已有部分惡意份子會透過指令注入（Prompt Injection）的方式來污染大型語言模型（LLM），讓 LLM 最終無法正確地過濾出惡意內容。她也表示，現在微軟正在研究攻擊者會如何透過這種手法來操控 AI 模型以實現模型中毒，該公司希望透過了解潛在攻擊模式，已開發出相對應的保護措施。
現在也有許多人會擔心，未來的量子電腦發展成熟後，是否也會成為新興的攻擊型態？對此，Vasu 則認為，目前這仍處於早起階段的領域，不過微軟也正積極研究量子安全相關的技術，尤其是在量子加密與創新相關的應用，確保未來大眾能應對量子計算可能帶來的威脅。
另一方面，現在有許多 AI 應用服務相繼出現，企業者也不再依賴單一的雲平臺，而是採取了多雲的策略，在這樣的環境下，微軟又如何能確保 AI 的使用安全性、多樣化需求，以及資訊的可信度？
對此 Vasu 指出，微軟的安全策略中也不僅關注單一平台，而是針對多平台進行設計；且隨著 AI 技術的演進，微軟也致力於保護各種 AI 應用系統，由於每個客戶的技術堆疊與應用場景不同，微軟也承諾為客戶提供全面的資安防護。
Vasu 以微軟的 Defender for Cloud 方案為例，這是一套雲端威脅的防護解決方案，這套解決方案就同時提供對 Azure、AWS 和 Google Cloud Platform（GCP）在內的多雲平台安全威脅管理功能，且還能支援 Windows、Linux、Android 及 macOS 等作業系統的安全性。
Vasu 強調，微軟的目標不僅是保護自家的 AI 技術，也包含其他的 AI 應用；Defender for Cloud 可檢測超過三百種應用，協助企業用戶評估這些應用的安全性。
（首圖來源：科技新報）
科技新報粉絲團
加入好友
訂閱免費電子報
