在教會自駕車判斷前,MIT 想先確定人類道德觀真的有「標準」存在

作者 | 發布日期 2018 年 04 月 15 日 7:00 | 分類 科技趣聞 , 自駕車 follow us in feedly

Uber 自駕車第一次造成人類傷亡的前一天,麻省理工(MIT)Iyad Rahwan 教授在全球教育與技能論壇(GESF 2018)公布了對「道德機器」(Moral Machine)的首批研究成果。



2016年,MIT 媒體實驗室的研究人員推出名為「道德機器」網站,上面提供各種道德難題,讓玩家體驗不久的未來,當自駕車上路時必須做出的選擇。

自駕車是否應該為了拯救自己的乘客,而犧牲違規穿越馬路的行人?還是應該冒著乘客的安全風險來拯救行人?這些生死決定至關重要,尤其很快就須交由機器決定時。

過去一年中,MIT 團隊透過網站進行大規模的統計調查,接近 400 萬人回答了許多場景出現的道德兩難,場景中包含不同性別、年齡甚至是貓和狗等動物,以各種組合通過馬路。

Rahwan 對 Forbes 表示,這是有史以來規模最大的全球道德研究,團隊原先預計這項「道德機器」的統計結果將能在今年公布,並協助車商、科技巨頭運用這些結果,更協助自駕車面臨道德難題時做選擇。

(Source:MIT Media Lab/Scalable Cooperation

但結果非常明確,「道德機器」統計無法提供這項協助,因為結果顯示,人們的道德看法並非絕對一致。

一些相對「簡單」的選擇,像是小孩和成人之間選擇時,結果完全偏向一方,人們的道德明顯傾向保護更年輕的性命,尤其隨著行人年紀越大,被「犧牲」的可能性也就越高。

但是,當問題變成選擇「保護乘客」或「保護行人」時,結果就更模糊不清;有近 40% 的人表示,比起乘客受到傷害,他們更寧願自駕車撞上行人。

隨著情況越複雜,選項間的差異也就越小,在「殺死一位合法過馬路的人」和「殺死兩位非法過馬路的人」之間,人們選擇的結果便十分平均分布。

要找到共同道德價值觀究竟有多困難?除了群眾意見分歧,對機器道德的結果也因國家和地區有差異,Rahwan 指出,他們光是將德國與東西方其他國家比較時,非常有趣的文化差異便顯現出來。

舉例來說,德國知名車商 Mercedes-Benz 一位執行長發表了「Mercedes-Benz 應該將自己乘客安全放在首位」言論,在當地成了一樁「醜聞」──即使與鄰近歐洲地區相較,這個結果仍明顯一面倒向一方。

(Source:MIT Media Lab/Scalable Cooperation

「這突顯出我們必許將許多不同因素納入考量,不同價值觀間的衝突挑戰我們自身的道德感,同時也挑戰我們得將這些事一起弄清楚──因為我們無法在這些看法達成一致。」

而 Rahwan 認為這些結果也證明,知名科幻小說作家 Isaac Asimov 的作品創造出的知名概念:通用機器倫理「機器人三定律」(Three Laws of Robotics),大概永遠無法成真。

隨著自駕技術持續進步,不久未來自駕車勢必會在路上面臨這些困難的抉擇,或許現在正是時候開始思考,這些機器究竟該進行怎樣的道德和倫理判斷,又或者該說,如何讓機器的道德觀符合多數人的期望。

如果我們希望建造反應自己價值觀的機器,那麼就必須更深入了解這些價值觀,並進行量化和彼此討論妥協,才能確定哪些是重要的。

如果你也對這些道德難題有興趣,不妨到道德機器網站測試看看當自己面臨這些處境時,究竟會做出怎樣的選擇。

(首圖來源:shutterstock)

延伸閱讀: