Google 的自駕車都要收費了,但事故發生時要往哪「撞」成難題

作者 | 發布日期 2018 年 10 月 30 日 14:16 | 分類 汽車科技 , 自駕車 follow us in feedly

上週,Google CFO Ruth Porat 公布,Google 旗下自駕車計畫 Waymo 已開始商業化,投放美國亞利桑那州的自駕車將於今年第三季開始向乘客收取費用。



Google 於 2016 年開始在美國亞利桑那州試點自動駕駛計畫,並從 2017 年推出 Early Rider 計畫,為當地居民服務。過去一年多,Waymo 已向當地 400 多名參與者提供免費出遊服務。如今,Waymo 認為已準備好進入商用收費階段。

▲ Early Rider 計畫參與者和 Waymo 自駕車。(Source:Waymo

這預示著自動駕駛技術即將進入商業化時代,但我們真的準備好了嗎?答案可不一定。最致命的問題就是,我們似乎至今都沒想好,如果遇到車禍,自駕車應該怎樣處理?

或者說,自駕車發生車禍時,到底應該選擇救誰?

讓哲學家爭論了數十年未休的「有軌電車難題」,現在,變得更難了。

「有軌電車難題」最開始由英國哲學家菲力帕·芙特提出,具體情景是:假如你看到一輛煞車壞掉的電車,快撞到軌道上的 5 個人,但你身邊有個按鈕,一按下去就能讓電車轉到備用軌道,但那邊也有 1 個人,那你是否應該犧牲備用軌道的 1 個人來救另外 5 個人?

(Source:維基百科

如果你覺得這似乎不難決定,那如果原軌道和備用軌道都只有一個人,但一邊是老人家,另一邊是嬰兒呢?

4,000 萬個決定:不同文化,不同選擇?

2014 年,MIT Media Lab 在網路發起名為 Moral Machine 的實驗,讓世界各地網友都能參與由「電車難題」衍生的自動駕駛選擇題。譬如:選人還是寵物?男人還是女人?年輕人還是老人?社會地位高的人還是低的人?普通路人還是闖紅燈的人?

過去幾年,超過 233 個國家和地區的數百萬名網友登錄網站,聯合做了超過 4,000 萬個決定,讓這個實驗成為規模最大的全球性道德選擇類實驗之一。

但在問題設計,Moral Machine 採用疊加式選擇。譬如讓你選,自駕車是要救車裡一名成年人和女孩,還是不改道,救路上一名老人家和寵物。透過一系列這種疊加式問題,研究總結出不同國家網友的選擇傾向

(Source:Moral Machine)

中國和日本網友更傾向救老人家,而不是年輕人。中國網友在這方面的傾向更是調查中最高。研究者猜測,這可能和文化注重敬老有關。

(Source:Moral Machine)

更強調個人主義的國家,如法國、英國和美國,更傾向以可救到的人命數量來支持抉擇。對此,研究者猜測這和他們文化側重宣揚每個人存在的意義有關。

不過,研究人員強調,這些數據不是用來指導未來立法和設計,而是為進一步討論提供基礎和啟發:我們應該將討論轉移到風險分析。我們應該研究哪方風險更大,並研究會否有歧視發生的情況。

當演算法負責決定,責任又該由誰承擔?

MIT 研究指出,當面臨救車裡乘客還是路上行人時,各國同樣展示出不同傾向。最偏向救路上行人的是日本網友,其後是挪威和新加坡網友。而最偏向救車上乘客的,分別是中國、愛沙尼亞和法國等參與者。

這將我們引導到關於自駕車責任的討論。當我們將決策權放給演算法,誰該為這個選擇負責?

斯德哥爾摩大學實踐哲學教授 Helen Frowe 認為,坐在自駕車裡的人對意外責任更大,所以汽車應該保護行人:

我們有嚴格義務不殺人。如果你決定坐一輛自駕車,那就是在製造風險。

不過,Frowe 教授認為,車裡的兒童是無辜的。所以,當車裡兒童數量增加,汽車傾向保護乘客的趨勢也應逐漸增加。

顯然,許多人會反對 Frowe 教授的看法,這就是道德選擇的問題,每個群體都有不同觀點和選擇。

麻省大學洛威爾分校的哲學教授 Nicholas Evans,就決定要窮盡每個選擇的可能性。Evans 於 2017 年獲得國家科學基金資助,用 3 年時間創造一套演算法,展示不同倫理理論下,自駕車會怎樣回應各種各樣的「電車難題」變體。

Evans 自身沒有偏好任何理論,他倒是希望透過演算法,幫助消費者或汽車生產商創造有足夠資訊的環境,並希望他們做出明智的選擇。

無論醫學領域還是更廣泛的科學領域,一個好的實驗標誌是,為參與者提供足夠資訊,並讓他們決定是否參與實驗。

希望,我們的研究數據能提供足夠資訊,好讓大眾做出明智決定,並得以對付政客。

真正在做自動駕駛的人怎麼說?

如果你覺得「電車難題」讓人頭痛不已,不好意思,得考慮的問題似乎更多。

例如,廠商是否可藉自駕車路線規劃,讓車子經過廣告主的店面?如果汽車被駭客入侵導致傷害,誰承擔責任?隱私問題又怎麼辦?

哲學教授 Patrick Lin 說,自動駕駛就像電力,我們難以預測可能造成的影響:

電力不只取代蠟燭。電力驅動了許多事物誕生,譬如家庭手工業和網路生活。班傑明·富蘭克林(Ben Franklin)不可能預測到這些,沒人能。我覺得機器人和人工智慧也屬於這類型。

與此同時,那些真正塑造自動駕駛系統的人,卻有不同看法

從工程角度來看,解決「電車難題」並不是日常工作重心,原因有二:1. 我們不確定正確的答案是什麼,甚至有沒有答案都不好說;2. 這類事情發生的機率很小,去除人類干涉的自動駕駛理應更安全。

Karl Iagnemma 說。他是 Aptiv Automated Mobility 總裁兼自駕車公司 nuTonomy 聯合創始人。在他看來,我們仍處於第一波系統建設:

我們在全力研發安全且設計精良的系統。在第二波系統,也許我們才能開始將駕駛偏好、文化和地域差別融入系統,到時,或許系統會將這些道德問題加進去吧。

《紐約客》近期文章也指出,Google 前工程師 Anthony Levandowski 之前在舊金山測試自駕車 Waymo 計畫時,違規將車開到高速公路,還出了車禍。

讓人感到意外的,Levandowski 事後毫不關心另一方司機的傷況,只認為「這是無價的數據,是我們學習如何避免類似錯誤的機會」。

也許,這類討論我們還是越早開始越好。

(本文由 愛范兒 授權轉載;首圖來源:MIT Technology Review

延伸閱讀: