上週，Google CFO Ruth Porat 公布，Google 旗下自駕車計畫 Waymo 已開始商業化，投放美國亞利桑那州的自駕車將於今年第三季開始向乘客收取費用。
Google 於 2016 年開始在美國亞利桑那州試點自動駕駛計畫，並從 2017 年推出 Early Rider 計畫，為當地居民服務。過去一年多，Waymo 已向當地 400 多名參與者提供免費出遊服務。如今，Waymo 認為已準備好進入商用收費階段。
▲ Early Rider 計畫參與者和 Waymo 自駕車。（Source：Waymo）
這預示著自動駕駛技術即將進入商業化時代，但我們真的準備好了嗎？答案可不一定。最致命的問題就是，我們似乎至今都沒想好，如果遇到車禍，自駕車應該怎樣處理？
或者說，自駕車發生車禍時，到底應該選擇救誰？
讓哲學家爭論了數十年未休的「有軌電車難題」，現在，變得更難了。
「有軌電車難題」最開始由英國哲學家菲力帕·芙特提出，具體情景是：假如你看到一輛煞車壞掉的電車，快撞到軌道上的 5 個人，但你身邊有個按鈕，一按下去就能讓電車轉到備用軌道，但那邊也有 1 個人，那你是否應該犧牲備用軌道的 1 個人來救另外 5 個人？
（Source：維基百科）
如果你覺得這似乎不難決定，那如果原軌道和備用軌道都只有一個人，但一邊是老人家，另一邊是嬰兒呢？
4,000 萬個決定：不同文化，不同選擇？
2014 年，MIT Media Lab 在網路發起名為 Moral Machine 的實驗，讓世界各地網友都能參與由「電車難題」衍生的自動駕駛選擇題。譬如：選人還是寵物？男人還是女人？年輕人還是老人？社會地位高的人還是低的人？普通路人還是闖紅燈的人？
過去幾年，超過 233 個國家和地區的數百萬名網友登錄網站，聯合做了超過 4,000 萬個決定，讓這個實驗成為規模最大的全球性道德選擇類實驗之一。
但在問題設計，Moral Machine 採用疊加式選擇。譬如讓你選，自駕車是要救車裡一名成年人和女孩，還是不改道，救路上一名老人家和寵物。透過一系列這種疊加式問題，研究總結出不同國家網友的選擇傾向。
（Source：Moral Machine）
中國和日本網友更傾向救老人家，而不是年輕人。中國網友在這方面的傾向更是調查中最高。研究者猜測，這可能和文化注重敬老有關。
（Source：Moral Machine）
更強調個人主義的國家，如法國、英國和美國，更傾向以可救到的人命數量來支持抉擇。對此，研究者猜測這和他們文化側重宣揚每個人存在的意義有關。
不過，研究人員強調，這些數據不是用來指導未來立法和設計，而是為進一步討論提供基礎和啟發：我們應該將討論轉移到風險分析。我們應該研究哪方風險更大，並研究會否有歧視發生的情況。
當演算法負責決定，責任又該由誰承擔？
MIT 研究指出，當面臨救車裡乘客還是路上行人時，各國同樣展示出不同傾向。最偏向救路上行人的是日本網友，其後是挪威和新加坡網友。而最偏向救車上乘客的，分別是中國、愛沙尼亞和法國等參與者。
這將我們引導到關於自駕車責任的討論。當我們將決策權放給演算法，誰該為這個選擇負責？
斯德哥爾摩大學實踐哲學教授 Helen Frowe 認為，坐在自駕車裡的人對意外責任更大，所以汽車應該保護行人：
我們有嚴格義務不殺人。如果你決定坐一輛自駕車，那就是在製造風險。
不過，Frowe 教授認為，車裡的兒童是無辜的。所以，當車裡兒童數量增加，汽車傾向保護乘客的趨勢也應逐漸增加。
顯然，許多人會反對 Frowe 教授的看法，這就是道德選擇的問題，每個群體都有不同觀點和選擇。
麻省大學洛威爾分校的哲學教授 Nicholas Evans，就決定要窮盡每個選擇的可能性。Evans 於 2017 年獲得國家科學基金資助，用 3 年時間創造一套演算法，展示不同倫理理論下，自駕車會怎樣回應各種各樣的「電車難題」變體。
Evans 自身沒有偏好任何理論，他倒是希望透過演算法，幫助消費者或汽車生產商創造有足夠資訊的環境，並希望他們做出明智的選擇。
無論醫學領域還是更廣泛的科學領域，一個好的實驗標誌是，為參與者提供足夠資訊，並讓他們決定是否參與實驗。
希望，我們的研究數據能提供足夠資訊，好讓大眾做出明智決定，並得以對付政客。
真正在做自動駕駛的人怎麼說？
如果你覺得「電車難題」讓人頭痛不已，不好意思，得考慮的問題似乎更多。
例如，廠商是否可藉自駕車路線規劃，讓車子經過廣告主的店面？如果汽車被駭客入侵導致傷害，誰承擔責任？隱私問題又怎麼辦？
哲學教授 Patrick Lin 說，自動駕駛就像電力，我們難以預測可能造成的影響：
電力不只取代蠟燭。電力驅動了許多事物誕生，譬如家庭手工業和網路生活。班傑明·富蘭克林（Ben Franklin）不可能預測到這些，沒人能。我覺得機器人和人工智慧也屬於這類型。
與此同時，那些真正塑造自動駕駛系統的人，卻有不同看法。
從工程角度來看，解決「電車難題」並不是日常工作重心，原因有二：1. 我們不確定正確的答案是什麼，甚至有沒有答案都不好說；2. 這類事情發生的機率很小，去除人類干涉的自動駕駛理應更安全。
Karl Iagnemma 說。他是 Aptiv Automated Mobility 總裁兼自駕車公司 nuTonomy 聯合創始人。在他看來，我們仍處於第一波系統建設：
我們在全力研發安全且設計精良的系統。在第二波系統，也許我們才能開始將駕駛偏好、文化和地域差別融入系統，到時，或許系統會將這些道德問題加進去吧。
《紐約客》近期文章也指出，Google 前工程師 Anthony Levandowski 之前在舊金山測試自駕車 Waymo 計畫時，違規將車開到高速公路，還出了車禍。
讓人感到意外的，Levandowski 事後毫不關心另一方司機的傷況，只認為「這是無價的數據，是我們學習如何避免類似錯誤的機會」。
也許，這類討論我們還是越早開始越好。
（本文由 愛范兒 授權轉載；首圖來源：MIT Technology Review）
科技新報粉絲團
加入好友
訂閱免費電子報
