62% 網路安全專家認為,駭客已經開始用 AI 來進行網路攻擊

作者 | 發布日期 2017 年 09 月 14 日 21:00 | 分類 AI 人工智慧 , 尖端科技 , 網路 follow us in feedly

身為人工智慧(AI)威脅論的主要支持者,馬斯克(Elon Musk)一直都很擔憂 AI 未來的發展可能會對人類造成危險,近日他在推特轉推了一篇駭客對 AI 威脅的看法報導,試圖佐證自己的理念。



Gizmodo 的報導談到,為了解 AI 走上「歧途」的可能情況,網路安全公司 ZeroFOX 在 2016 年進行了一次實驗,讓人類和 AI 進行一場競賽,看誰能誘導更多 Twitter 用戶點擊惡意連結。

實驗之前,研究人員先讓 AI 理解這次的目標,在研究社群網路用戶的行為模式之後,設計並拋出網路釣魚(phishing)的誘餌,吸引用戶點擊連結上鉤。

結果在實驗的規定時間裡,AI 總計向 800 多名用戶發出詐騙推特,並吸引 275 名用戶點擊;相較之下,參加實驗的 ZeroFOX 員工只發出 129 次嘗試,吸引了 49 名用戶。

不論是拋出的魚餌數或吸引到的用戶數量,AI 都以壓倒性的比數擊敗了人類。

這樣的結果似乎在預料之中,但 ZeroFOX 認為最重要的是,這個結果證明 AI 確實能被駭客用來進行惡意攻擊,事實上,雖然無法證實,但他們很有可能已經這麼做了。

今年 7 月舉辦的美國駭客年會(Black Hat),數百名網路安全專家一起討論 AI 技術可能帶來的隱憂,當與會者被問到「未來一年內,是否會有駭客開始利用 AI 進行網路犯罪」時,近 62% 的受訪者給了肯定的答案。

運用 AI 進行網路犯罪

負責調查的 Cylance 安全數據科學家 Brian Wallace 認為,駭客應該已把 AI 當做武器使用好一段時間了。

「這推論非常合理,因為『規模』對駭客來說很重要,他們必須盡可能增加攻擊次數、目標,同時減少自己的風險。對他們來說,AI 和機器學習就是能用到的最終完美武器。」

Wallace 的想法並非少數,行動裝置安全防護公司 Zighra 執行長 Deepak Dutt 也認為,在不久的將來,運用複雜的 AI 系統進行網路攻擊的可能性很高,甚至很有可能已被一些國家利用。

Dutt 指出,AI 可透過挖取網路大數據,得到每個人出生日期、電話、位置等幾乎所有身分訊息,也可以監控電郵、發送的文字訊息,甚至是量身打造個性化的「魚餌」,來進行社交工程(social engineering)的駭客攻擊。

這些言論與馬斯克日前發表的擔憂十分類似,當時馬斯克在推特提到,他認為國與國之間的 AI 競賽,很可能引爆第三次世界大戰。

「戰爭可能不會由國家領導者,而是由人工智慧所發動──只要它認為『先發制人』是取得勝利最有效的方式。」

但就像 Facebook 創辦人馬克·祖克柏(Mark Zuckerberg)那樣,也有安全數據科學家抱持不同想法。Recorded Future 的技術長 Staffan Truvé 就認為,駭客目前並沒有使用 AI,而是運用更簡單的自修改代碼或自動化方案在正常工作。

Truvé 表示,他並不認為對有犯罪意圖的駭客來說,AI 已經成為必須存在的「標準配備」,因為傳統的方法仍舊有效。「如果你可以從一個傳統、熟悉的方法得到很好的結果,又為什麼要花時間和金錢改變成另一種模式?」

AI 究竟是什麼?

對於專家和業界意見分歧的看法,《未來的犯罪》作者 Marc Goodman 認為,這主要還是每個人對 AI 定義的差別所導致,隨著技術持續發展,人們對 AI 的概念也在持續改變。

從最根本來說,AI 的 I 意味著代理者(無論是生物或機械)具備「解決複雜問題的能力」,但其實人們已經擁有許多具備這種功能的工具,只是因為持有的時間過長,我們已將其視為理所當然。

這就像是在幾個世紀以前計算機剛出現的時候,這個比人類運算快上幾百萬倍的機器被認為是激進的技術進步,但現今已經很少人會注意到它的特別;又或像是 1997 年擊敗世界棋王的 AI 深藍(Deep Blue),曾經被視為人類智力的頂點標準。

而在今天,機器學習(machine learning)、自然語言處理、神經網路(neural networks)等多方發展之下,人們也同樣提升了對機器智慧的看法,像是語音助理 Siri、自駕車或疾病診斷功能,都已視為尋常事物。

更別提那些未來派科幻作品對 AI 的描寫,與如今現實中發展的應用相去甚遠。如果人們忽視這些工具的力量,那麼也可能會忽略打算開發 AI 潛能做事的人,像是駭客。

「『AI』一詞經常被人誤解,談到 AI,許多人聯想到的都是魔鬼終結者,但那並非 AI 真正的意義。相反的,AI 是一個廣泛的命題,包含各種形式的學習技術──而這些智慧恰好是人工的。」

(首圖來源:shutterstock)

延伸閱讀: