隨著人工智慧（AI）技術的飛速發展，令人擔心的事情正逐漸發生。近日，由美國史丹佛大學研究團隊自行開發的 AI 駭客 Artemis，已經成功的在 16 小時內駭入史丹佛大學的網路系統，展現出超越人類白帽駭客的強大實力，這一成就震驚了整個安全業界。研究結果不僅證明 AI 已成為能與人類競爭甚至壓倒人類的對手，更預示著駭客現在可以透過低成本的方式，輕鬆獲取強大的攻擊工具。
史丹佛大學的研究團隊讓Artemis與10位專業的白帽駭客進行了一場模擬駭客對決。結果顯示，Artemis的表現優於其中9位專家，總體排名第二，還成功發現了大學系統內的關鍵安全漏洞並進行了滲透。研究團隊強調，Artemis在成本和性能方面具有顯著的優勢。儘管這次駭客行動耗時總計16小時，但Artemis的執行成本僅為每小時18美元（約新台幣580元）。相比之下，專業白帽駭客的平均年薪約為12.5萬美元，每小時的成本高達60美元。研究人員指出，即使是Artemis的高級版本，每小時費用為59美元，仍比僱用實力最強的人類駭客專家更具經濟效益。
研究人員解釋，Artemis之所以能取得佳績，是因為它能夠同時調查多個漏洞，因此更容易找到人類可能忽略的弱點。舉例來說，在測試中，一個舊型伺服器拒絕了最新瀏覽器的存取，導致人類的實驗參與者未能發現其中漏洞。然而，Artemis成功地繞過了這個限制，並找到漏洞。然而，Artemis也並非完全無懈可擊。它在需要點擊圖形畫面來防駭的操作上較為薄弱，這導致它有時會錯過一些漏洞。此外，Artemis也將無害的網路訊息誤判為入侵成功的訊號的傾向也更高。
整體的研究結果顯示，AI技術的普及正在使網路犯罪的進入門檻降低，現在非專業人士只需透過付費，就有可能實施駭客攻擊。隨著AI進化到可以自行判斷並主導攻擊的階段，駭客和防禦都可以由AI自動完成，無需人類介入。AI駭客探員能夠24小時不間斷地同時進行數十次攻擊，這使得針對企業和政府的駭客攻擊次數、速度和強度都顯著提高。
另外，當前實際的全球網路戰場也都已經印證了這個趨勢。首先，在2024年9月，一個疑似由中國政府支持的駭客組織試圖利用Anthropic的AI工具Claude，對超過30家企業和機構進行網路攻擊。Anthropic的分析報告指出，這次攻擊中80%至90%的操作是由AI自動完成，人類介入極少。攻擊達到高峰時，AI生成了數千次的登入請求，人類駭客事實上無法跟上這種攻擊速度。儘管Anthropic即時切斷了帳戶，但駭客仍成功入侵了其中4個目標。
其次，同樣在2024年9月，據信受北韓支持的駭客組織Kimsuky被發現利用ChatGPT製作假的軍人身分證，試圖對軍事相關機構發動網路釣魚攻擊。該組織甚至使用生成式AI來編寫虛假履歷和技術評估答案，以求偽裝並潛入海外IT公司。另外，Google於上個月宣布，與俄羅斯政府有關的駭客利用Gemini，即時生成客製化的惡意軟體，攻擊烏克蘭。
面對日益加劇由AI驅動的網路攻擊，主要的AI企業已宣布擴大安全投資，以建立安全機制和偵測系統。OpenAI本月承諾，將努力確保最先進的AI模型被用於防禦，而非駭客攻擊，並限制用於惡意目的的性能增強。對此，安全專家警告，未來AI驅動的網路攻擊將會更加猛烈。因此，企業和機構迫切需要轉向更為主動和先發制人的防禦戰略。美國安全企業Fortinet建議，由於AI駭客的速度加快，防禦體系也必須跟上。企業必須建立機器速度防禦體系，將威脅的偵測和應對時間從「小時」縮短到「分鐘」。
而安全企業Genians的專家也強調，防禦體系必須以威脅進化的速度快速進化，才能有效應對未來更猛烈的網路攻擊。他們建議，企業和機構應該基於網路存取控制（NAC）和端點偵測與回應（EDR）來制定主動的防禦策略。另一家安全企業Secui則是預測，生成式AI的擴散已經在短時間內提升了既有威脅的層級，包括深度偽造、客製化惡意軟體和高度複雜的網路釣魚。他們預計，2026年將是網路安全全面轉向AI對AI競爭格局的關鍵一年，屆時AI將在攻擊和防禦兩端全面擴散。網路安全不再只是人類之間的較量，而是機器與機器之間速度與智慧的對決。
(首圖來源：shutterstock)
科技新報粉絲團
加入好友
訂閱免費電子報
