McAfee 研究人員修改速限標誌,輕鬆騙過特斯拉自駕車從 35mph 加速到 85mph

作者 | 發布日期 2020 年 02 月 20 日 15:02 | 分類 AI 人工智慧 , 交通運輸 , 汽車科技 follow us in feedly


研究人員在速限號誌貼上一截電工絕緣膠帶,結果成功騙過特斯拉(Tesla)的電動車加速,突顯出目前自駕系統面臨的各種潛在漏洞。

McAfee 的研究報告顯示,技術人員用膠帶橫貼在時速「35」英里限速標誌「3」數字正中間,這小小改變導致車輛誤判速限為「85」英里,隨即車子的巡航定速控制系統(Cruise Control System)自動加速。

(圖片來源:影片截圖)

McAfee 表示,這個問題對開車的人來說不是嚴重的風險,實驗時沒有人受傷,駕車的研究人員也安全減速。但這長達 18 個月、去年結束的研究結果表明,自動駕駛的機器學習系統有弱點。據 McAfee 先進威脅研究(Advanced Threat Research)實驗室負責人 Steve Povolny 指出,其他研究也顯示實體世界的一些改變如何輕易混淆系統。

McAfee 表示:這類測試在真實世界並不常見

這些測試包括 2016 款的 Model S 和 Model X,使用 Mobileye 公司(現為 Intel 旗下事業單位)提供的攝影機系統。雖然特斯拉 2016 年停止使用 Mobileye 系統,但仍有幾家汽車製造商繼續使用。

Mobileye 最新的攝影機系統測試並沒有發現同樣漏洞,且特斯拉最新車款顯然不再依賴只辨識交通號誌,McAfee 指出。對此研究有何評論的詢問郵件,特斯拉沒有任何回應。

「製造商和供應商已獲悉這問題,並進一步了解與改善,」Povolny 表示:「但這並不能改變自動駕駛業有許多盲點的事實。」可肯定的是,還好對真實世界的威脅有限。首先,自駕車仍處於開發階段,大多數都會在安全駕駛員可隨時接手方向盤的情況下測試。雖然現在很多車皆已支援先進駕駛輔助系統(ADAS),但仍然需要駕駛注意路況。

McAfee 研究人員只能透過複製一連串特定事件來欺騙系統,包括開啟駕駛輔助功能,並遇到遭篡改的速限標誌等事件才能辦到。製造商還將地圖測繪技術整合到回應適當速限的系統。「直到我們擁有真正的自駕車前,都不太可能在真實世界看到上述狀況,或攻擊者試圖利用這些漏洞,到了那個時候,我們希望這類缺陷也盡早解決。」Povolny 表示。

Mobileye 聲明表示,即使是駕駛也會被這類修改愚弄,這次研究人員測試的系統,一開始是專為輔助駕駛設計的,而不是支援自動駕駛。

除感測外,自駕車需藉助各種技術提升安全性與容錯能力

「自駕車技術不僅依賴感測,也會獲得像是群眾外包地圖(Crowd Sourced Mapping)等其他各種技術和資料支援,以確保從攝影機感測器接收資訊的可靠性,並提供更強固的備援及安全性。」McAfee 表示。

McAfee 的研究遵循類似對抗性機器學習(Adversarial Machine Learning)的學術工作,屬於較新的研究領域,專門研究如何操縱基於電腦的學習系統。研究人員 2017 年發現,在停車標誌(Stop Sign)的特定位置貼上 4 張黑白貼紙,就可能騙過電腦視覺,讓它誤看成是時速 45 英里的速限號誌。

杜克大學(Duke University)機器人學教授暨自駕車專家 Missy Cummings 表示,這問題並不是特斯拉或 Mobileye 獨有,而是自駕車先進系統先天存在的普遍安全弱點。研究人員已證明,不存取系統本身的情況下改變實體環境可能會導致潛在的嚴重失靈狀況。「這就是為什麼它如此危險,因為你不需要透過存取系統破解,你只需要存在我們所處的世界。」她表示。

Cummings 表示,McAfee 的發現說明為什麼自駕車應該接受「視覺測試」,以評估自動駕駛系統能否安全偵測周遭,並及時處理其他車輛、行人和其他用路人共同構建的各種真實狀況。安全倡導人士已敦促美國汽車安全監管機構和國會議員,將此評估結果納入國會正制定的新自駕車法案的其他要件。

(首圖來源:特斯拉

延伸閱讀: