Uber 自駕車死亡事故調查新發現:斑馬線外的行人不是人?

作者 | 發布日期 2019 年 11 月 08 日 17:29 | 分類 AI 人工智慧 , 自駕車 follow us in feedly


Uber 自駕測試車撞死路人的 20 個月後,美國國家運輸安全委員會(NTSB)公布了讓人不安的發現──Uber 的自動駕駛系統是「看」到推著單車過馬路的受害者,但由於她不是走在斑馬線上,系統無法辨識她是人。

NTSB 長達 400 頁的調查報告,可了解事故發生的詳盡過程

2018 年 3 月 18 日晚上,自駕車在亞利桑那州坦佩市以時速 43.5 英里(約 70 公里)行駛。49 歲的 Elaine Herzberg 正推著單車橫越馬路,她離最近的人行穿越道約 109 公尺。

事故發生前 5.6 秒,自動駕駛系統首次「看」到 Herzberg。

出於設計缺陷,自動駕駛系統並沒有賦予辨識人行穿越道以外的路人。於是,系統猜她也許是「車輛」,然後依次將判斷改為「其他」→「車輛」→「其他」→「單車」→「其他」,但最後決策落在「單車」。

自動駕駛系統「改變想法」時,每改變一次「主意」,系統就得重新估算眼前物體的移動趨勢。

事故發生前 1.2 秒,系統確認將撞上 Herzberg,想繞開又不可行,於是系統決定,得剎車了。

這時,另一個被詬病的功能開始作用──行動抑制機制(action suppression)。

出現需剎車的情況,「行動抑制機制」會將緊急停車的動作延後 1 秒,以二次確認「風險本質」,規避誤判。同時,這也是安全駕駛員可直接剎車的時間,只是當時駕駛正在看手機,並沒有留意到眼前的行人。

事故發生前 0.2 秒,自動駕駛系統發出警告聲,安全員接手方向盤。

車撞上 Herzberg 近 1 秒後,安全駕駛員才踩剎車。

從很多方面來看,Uber 的自動駕駛技術無法考慮人類實際行為。

《Wired》評論。

此外,NTSB 指出,Uber 當時並沒有為自動駕駛設立獨立安全部門,設計正式的安全規劃、作業準則或任命專門負責防止事故的管理者,只有向全公司員工傳遞的價值,譬如「做對的事情」(do the right thing)。

Uber 表示,當時有安全規定和作業流程,只是沒有正式安全規劃。

NTSB 雖然描繪自動駕駛的安全問題,但並沒有直接指出車禍發生的原因。NTSB 將於 11 月 19 日在華盛頓舉辦會議,屆時,調查員將發表車禍的完整報告並公布最後的調查結果,判定意外到底是誰/什麼的責任,並為政府管理者和科技公司提供建議。

我們很重視 NTSB 對車禍的詳盡調查,期待在月底 NTSB 會議後了解他們的建議。

Uber 官方回應。

車禍發生後,有報導指時任 CEO Dara Khosrowshahi 曾考慮取消自動駕駛項目,但最後還是沒有這樣做。

事故發生後 9 個月,Uber 宣布重啟自動駕駛路測。

▲ 重新上路的 Uber 自駕測試車。(Source:Mashable

Uber 保證在車上配備兩位安全員,且不會在晚上及天氣惡劣時測試。此外,Uber 也放棄「行動抑制機制」,新設定下,汽車會提早 4 秒剎車。

自動駕駛已成為科技公司、汽車公司甚至零售業(自動車配送)都不願放過的研發方向時,Uber 的堅持也不意外。畢竟,自動駕駛未來是千億美元級別的市場

但也正是激烈的競爭下,《衛報》科技編輯 Alex Hern 描繪的情況尤其讓人擔憂。

我們曾討論未來自駕車也許會面臨困擾哲學家數十年的「電車難題」:面對車禍,自動駕駛系統是應該救乘客,還是行人?

但 Hern 看來,自動駕駛業真正的困局是另一個:

自動駕駛的衝突從未像「電車難題」。產業面對的哲學難題只有一個:

如果你做好安全測試,競爭對手也許會搶在你之前進入市場。拉下這槓桿,把人命輸入系統,你也許能贏。

(本文由 愛范兒 授權轉載;首圖來源:shutterstock)

關鍵字: , ,