生成式人工智慧（AI）原本被視為提升工作效率的利器，如今卻驚傳成為暴力行動的幫兇。根據一份最新研究報告指出，極端組織正有系統地利用主流 AI 聊天機器人，來支援其日常運作與攻擊規畫。
研究員透過對奈及利亞 27 名極端組織「博科聖地」（Boko Haram）前成員的深入訪談發現，該組織成員曾廣泛使用市面上熱門的 AI 工具，包含 ChatGPT、Gemini、Claude、Grok、Meta AI 與 DeepSeek。這些工具被主要用於：蒐集前線技術資訊、排解武器故障及維修問題，甚至協助策劃恐怖攻擊。
這份研究特別令人憂心之處，在於相關使用並非少數個人的零星嘗試。研究明確指出，博科聖地對 AI 的運用已出現明顯的「組織化」跡象，內部不僅編制了分工明確的團隊、實施內部培訓，成員之間還會大方進行知識傳遞。研究人員更透露，部分使用者甚至成功繞過了原本設計用來阻擋暴力相關請求的安全防護機制，迫使 AI 回應敏感內容。
不過，這並不意味著現今的 AI 聊天機器人會直接提供危險的武器指令。該研究的相關分析主要聚焦於 2024 年底以前的活動紀錄，而各大 AI 開發商也強調，新版本的 AI 模型已加入更強大的防護機制。
業者同時指出，許多恐怖份子使用的提問往往處於「灰色地帶」。如詢問 AI 「如何修理機車」或「理解基礎化學方程式」，這些問題屬合法且正常的知識範疇，並不具危害性，但同樣的技術資訊在現實確實有可能挪做他用。
各家科技巨頭紛紛回應報告：
- OpenAI：利用 ChatGPT 支援恐怖主義或暴力行為已嚴重違反使用政策，公司承諾將持續強化防濫用能力。
- Meta：指出研究涉及漏洞主要屬於較早版模型，公司已加強安全措施。
- xAI 與 DeepSeek：截至目前尚未回應。
安全專家提醒大眾不必過度恐慌，不宜把 AI 想像成能讓恐怖組織瞬間獲得「超能力」的毀滅工具。一場真正的攻擊在現實世界中，本質上仍高度仰賴後勤物資、資金籌措、通訊以及人員協調，這些關鍵環節都不是虛擬聊天機器人能取代的。
研究者認為，AI 現階段扮演的角色，更傾向於讓經驗不足的組織成員「快速上手、變得稍微更有能力」，而非徹底翻轉整體的安全威脅格局。即便如此，這份報告仍再度突顯全球性警訊：「AI 安全」的討論範疇，絕不只學生寫作業作弊或網路氾濫的假圖片。強大工具變得越來越容易取得，如何有效防止技術遭不法分子惡意利用，是科技公司不容迴避的嚴峻挑戰。
- AI has already fallen into the wrong hands and they’re using it to make bombs
- How Terrorist Groups Are Using A.I. to Gain an Edge in Battle
（首圖來源：Pixabay）
科技新報粉絲團
加入好友
訂閱免費電子報
