影響無人駕駛安全的因素有哪些?

作者 | 發布日期 2016 年 09 月 07 日 17:00 | 分類 人工智慧 , 汽車科技 , 網路 follow us in feedly

今年 6 月底,特斯拉自動駕駛汽車發生了一起致命意外,一時間無人駕駛的安全性成為關注焦點,一直以來,雖然各個自動駕駛開發企業都在不斷地公開自動汽車的道路測試數據,但是自動駕駛的安全性問題一直是業內外爭論的關鍵點,也是自動駕駛汽車能否順利上路和順利獲得乘客、用戶使用的關鍵。7 日 Uber 更是收購了才成立了 8 個月的明星自動卡車公司 Otto,並且在這幾天陸續有 Uber 的自動駕駛汽車上路了。




自動駕駛的安全問題其實可以歸結到兩大問題,一個是網路安全問題,和所有智慧裝置一樣,智慧汽車也必然會存在被入侵、然後被操控的風險,並且一旦被入侵控制了,後果遠比任何一個目前的智慧設備被入侵了要嚴重。而另一個完全問題則是智慧化水平是否足夠的問題,對道路的規劃、定位、目標的識別、判斷等智慧化水平是否足夠,一旦智慧化水平不夠,該辨識的行人辨識錯了,該前進的路線規劃錯了等,後果也是無法設想。

 

網路安全問題

無人駕駛或者說自動駕駛汽車在網路安全方便的問題可以說無可避免,就像所有的智慧裝置,只要裝置擁有 IP 地址,透過 IP 可以入侵到汽車,從而控制汽車的引擎和剎車系統。以這輛吉普(Jeep Cherokee)為例,車輛透過 IP 連接到克萊斯勒的網絡中心。克萊斯勒在被駭客發現漏洞入侵之前發布了軟體更新修補了系統的漏洞。主要的問題是,開發系統的軟體工程師大多沒有考慮安全性的問題。

還有另外一個真實的例子,克萊斯勒花了巨額把自動汽車返廠修復漏洞。因為一旦其中一輛汽車被入侵了,同樣的方法幾乎可以入侵所有的汽車,所以,相比起這樣的安全危機,花費的巨額也是必須的。

如果是一個智慧電冰箱,那麼冰箱被入侵了可能只是食物變質了、冰塊融化了,但是如果是汽車被入侵了,就會產生致命的交通事故。在最新一次的國際駭客大會上,有駭客揚言已具備足夠能力遠程控制裝置自動駕駛系統的熱門電動車型,讓車輛根據駭客自己的意願進行操作(如轉向),以及改變雷達探測距離數值(等探測到都已撞上了)。

不想遇到網路安全問題,最先想到的當然是隔離網路,所以出於安全考慮,汽車的關鍵系統如引擎和剎車系統都最好與網路隔絕,但是,實際情況中,因為考慮到成本問題,所以一些聯網的娛樂系統會和汽車的關鍵系統會連在同一台分析電腦上,進而導致所有系統都是聯網的。

如果實在是要聯網的話,為了防止被惡意入侵控制,所以會限制必須透過有線連接才可以對系統做控制修改。

除此之外,為了確保系統的安全性,在網路授權、代碼保護和使用第三方技術供應商的審核上都是需要嚴格把關的。舉個例子,一般第三方的技術提供方都會提供對應的測試代碼(Sample Code),而這些代碼都是沒有考慮任何安全問題的情況下使用的,所以,出於安全考慮,盡量不要直接使用測試代碼。再比如,不同的系統之間採用不同的網路授權,也是目前常用的提高安全性的做法。

 

智慧化的錯誤判斷問題

除了網路安全的問題外,最引人注目的無人駕駛的安全性問題,莫過於智慧化判斷的準確度問題,今年 6 月底特斯拉自動駕駛汽車發生的致命意外,經過調查後發現,其中一個原因是汽車把前面一個白色的車廂判斷為是天空,如圖,這個在人工智慧領域備受關注的「人工智慧安全性」的問題,如何才能得出安全的人工智慧,從而避免類似的事故不再發生。

圖說

從軟體演算法層面,目前全球範圍內,致力於實現安全的人工高智慧(Safe AI)的組織中,最出名的莫過於 OpenAI,他們致力於讓人工智慧不要犯致命的錯誤。

在人類的眼裡,可能圖像中一些細微的變化不會影響我們去判斷一個事物,但是在機器的眼裡,可能就會完全看成是兩個事物(fooling samples),進而做出不同的應對行為,這種情況特別容易出現在透過深度學習訓練目標以及在單眼鏡頭下的影像數據。

特斯拉的事故不僅暴露了自動駕駛技術目前在軟體演算法上的弱點,同時也暴露了在硬體技術的不足。

從硬體設備層面,像 Model S 採用的單眼鏡頭對於立體及大面積平面物體的辨識存在錯誤、毫米波雷達存在辨識區間限制、以及在極端情況下對於綜合情景的取捨及冗餘判斷等問題。

所以,事故對自動駕駛領域的硬體及演算法產生促進,對於雙目 / 廣角鏡頭、毫米波雷達、雷射雷達的綜合採用將可望迎來破冰。特別是對於之前成本較高的雷射雷達 + 多鏡頭方案會帶來推動作用。另外,特斯拉的事故如果採取的是多探測器冗餘判斷模式,完全可以避免。所以,出於安全性考慮,NHTSA(美國高速公路安全管理局)也有可能會在硬體配置及系統要求上,敦促相關部門研擬較高的門檻及規定,這對於行業而言,意味著單車附加值的提升。

雖然,自動駕駛安全隱憂仍然存在著,也不可避免的存在風險問題,但是,有一點可以確定的是,對比起目前 94% 的交通事故是人為原因造成的,自動駕駛的持續研究和發展必然對人類的人身安全有重要的意義。

(本文由 雷鋒網 授權轉載;首圖來源:達志影像)

延伸閱讀:

發表迴響