人命優先動物!德國制定首個無人駕駛道德指南

作者 | 發布日期 2017 年 08 月 29 日 8:00 | 分類 科技政策 , 自駕車 follow us in feedly

德國政府最近一勞永逸回答了一個汽車道德問題:無人駕駛汽車應該優先保護人類生命,即使會因此傷害動物和導致財產損失。



8 月 23 日,德國聯邦交通運輸和數位基礎設施部門表示,將實施一個由專家小組制定的指南,仔細研究無人駕駛技術。早在 6 月,該部門的道德委員會就對今後電腦控制的車輛如何設計,提出一份報告。14 名科學家和法律專家提出約 20 條無人駕駛應遵循的規則。現在,德國運輸監管機構承諾,要以某種方式強制執行。

先來看看有哪些規則:

  • 保護人類生命始終是首要工作。如果道路情況惡化,且很可能發生事故,車輛必須拯救人類免於死亡或受傷,即使這意味著破壞財產或傷害人類以外生物。
  • 如果發生意外不可避免,無人駕駛車不能選擇要救誰,如不能犧牲老人救孩子。不應該就年齡、性別、種族、殘疾與否等決定,所有人類生命都是平等的。
  • 應安裝監視系統,比如黑盒子,以記錄事故發生的過程,這樣可知當時誰在駕駛,誰應該負責:方向盤後面的人,還是電腦。司機身分也應該登記在案。完全有可能做到精確按責任定罪,這也是必要的。
  • 司機應能完全掌握車輛收集的個人資訊,這將阻止科技巨頭用定位等資料來自訂廣告。

最終,如果無人駕駛車輛發生意外,司機仍可能承擔責任,除非完全由系統故障引起。

毫無疑問,在無人駕駛等系統普及時,人與機器間的相互作用會產生新的道德問題。制定一些指導方針十分必要。今年稍早,德國通過一項法律,要求所有無人駕駛車輛的方向盤後都必須有人,以便能在意外發生時接管。

德國這種做法給了「將發生不可避免的事故時,汽車應該如何處理」這樣的問題一個解決方法,且有法律約束力。除了責任規格,指引還規定了諸如資料保護(無人駕駛汽車會生成和儲存大量資料,包括人類駕駛員的駕駛行為)和保險理賠等問題。

複雜的倫理困局

但現實從來不是非黑即白,如果情況變成,即將有意外發生,在撞向行人和避開後會導致車上乘客受傷害,這兩種情況該如何選擇呢?這個問題和著名悖論之一「電車難題」一脈相承。

MIT 還上線一個名為「道德機器」網站,網站功用很簡單,就是以問卷形式向大眾收集情境選擇的資料。例如,面對不可避免的事故,撞人還是動物?罪犯還是普通人?幾名小孩還是多位成年人?這些數以萬計的選擇,將透過背景由 MIT 研究團隊收集,給未來機器智慧平台(如自動駕駛汽車)面臨的倫理問題提供參考。

即使傷害人類或傷害動物這種選擇,指引規定也與實際情況相差甚遠。比如很多司機前方突然出現動物時,往往會急剎或轉向,這種突然的動作很可能給自己帶來危險。

讓無人駕駛汽車自己選擇,前提是它知道選擇的後果,但又如何確保它一定知道?

真正的困境往往取決於實際情況,會受不可預測的行為影響,也很難明確標準化,也無法由程式設計,無法做到倫理上的不容置疑。

Google X 實驗室曾在公開採訪回應過這個問題。當時負責自動駕駛專案的首席工程師 Andrew Chatham 表示,「至少目前 Google 所有路測活動,還沒遇到讓我們選拯救一個老人還是嬰兒的情形,但如果這一刻真的到來,那通常只意味著幾秒前你已犯下一個更大的錯誤。」

所以,他們的目標是透過最佳化汽車的剎車決策時間,最大限度阻止這種情形發生。

沒有任何技術是完美的,事故和討論還將繼續發生。對待可能發生的問題,我們要保持開放和對話。因為無人駕駛是造福大眾的事業,只有在確定可能存在的問題後,才能確定可能的解決方案。

(本文由 雷鋒網 授權轉載;首圖來源:shutterstock)

延伸閱讀: