不只 Deepfake,研究報告發現歹徒利用人工智慧犯罪

作者 | 發布日期 2020 年 11 月 26 日 16:49 | 分類 Big Data , 科技生活 , 網路 Telegram share ! follow us in feedly


一份由歐洲刑警組織(Europol)、聯合國區域犯罪與司法研究院(UNICRI)及資安廠商趨勢科技共同製作研究報告,揭露歹徒如何利用人工智慧(AI)技術犯罪,並預測未來可能的發展。報告點出今日及未來一些可能運用 AI 技術的網路攻擊,並提供相關建議給執法人員、政策制定單位及其他機構知道該如何降低這類風險。

Europol 網路犯罪中心主任 Edvardas Šileris 表示,AI 為世界提升效率、自動化與自主性。然而隨著大眾對 AI 遭到濫用的疑慮不斷升高,也應探討 AI 技術的一些發展潛力;這份報告不僅有助於我們預測 AI 可能會如何遭到濫用,也有助於大眾主動防範並降低這些威脅,如此才能真正釋放 AI 的潛力,讓 AI 系統發揮正面影響力。

結論指出,AI 既是網路犯罪集團的攻擊手法,也是攻擊目標。雖然 Deepfake 是目前最為人熟知的 AI 攻擊手法,但也警告人們未來需要新的過濾技術來防範假訊息攻擊與網路勒索的風險,並防範專門以 AI 資料為目標的攻擊。

報告指出,AI 可能遭歹徒利用的方式包括「製造難辨真偽的大規模社交工程攻擊」、「開發文件內容辨識惡意程式以提升攻擊效率」、「躲避影像辨識與語音生物辨識技術」、「勒索病毒攻擊,利用人工智慧篩選攻擊目標並躲避偵測」、「資料污染,發掘偵測規則的盲點」。

UNICRI 人工智慧與機器人中心主任 Irakli Beridze 指出,隨著 AI 應用程式開始對真實世界發揮重大影響,很顯然地,它將成為人們未來的一項技術基礎。然而,如同 AI 對人類社會的貢獻具體而真實一樣,其遭到歹徒不肖濫用的威脅也同樣存在。

除此之外,這份報告也示警,歹徒正在開發一些 AI 系統提升惡意程式的成效,並干擾惡意程式防護與臉部辨識系統的運作。

(首圖來源:趨勢科技)

關鍵字: , ,