自動駕駛的道德問題是真實存在的,但未必就是「電車難題」

作者 | 發布日期 2017 年 04 月 17 日 18:17 | 分類 汽車科技 , 自駕車 follow us in feedly

這一次人工智慧的突飛猛進很有可能是真的。



技術和基礎設施的進步讓人工智慧真的可以投入實際應用。目前來看,人工智慧的實際應用中一個非常宏偉也非常有前景的領域就是──自動駕駛。

自動駕駛有望將人類從駕駛汽車,這個最不安全也是最浪費時間精力和各種資源的領域解放出來,將帶來整個汽車行業乃至整個社會形態的革命。

然而自動駕駛的安全性疑慮和呼聲一直不小:總有很多人不放心將自己的性命寄託於一台機器上。這種懷疑也衍生出很多不同的版本,其中最有趣的就是傳統道德哲學中的「電車問題」在新時代的翻版:自動駕駛的道德問題。

道德問題的源起

如果一輛自動駕駛汽車遇到這個困境:在馬上要出車禍的當下,左邊是一個老人,右邊是 5 個孩子,它應該怎麼判斷,如何選擇?我們應該將這種道德判斷納入自動駕駛系統開發的考量嗎?

首先,我們可以先回顧一下這個道德問題的源起。

「電車問題」是道德哲學的一個經典問題:如果開來一輛火車,前面是兩條岔路,你手頭有一個道岔,你如果不扳,火車就會走原路撞死 5 個人;如果你扳了,火車就會走上岔路撞死 1 個人。請問你是扳還是不扳呢?

這就是傳統道德哲學所爭論的核心:功利主義和絕對主義的區隔。

功利主義說:當然是死 1 個人要比死 5 個人好;絕對主義則說:你扳道岔的動作等於是殺死了一個原本不會死的人,所以並沒有哪個比哪個更好!這些爭論持續了好幾代的時間,電車問題也出現了無數個不同版本,直到如今這個自動駕駛的時代,仍然有人問與這個相似的問題。

但這裡的問題自然就是:一種絕對的、抽象化的道德問題,是否適用於具體的情境分析?傳統的道德哲學適用我們對具體問題的判斷嗎?或許我們要引入現代認知科學的研究結論。

長久以來,古典意義上的道德哲學家都基於理性來推導道德的實在性。他們認為人類是透過理性來判斷道德問題,功利主義或者絕對主義,都是理性基礎上的爭論。然而現代認知科學告訴我們:人類對道德的判斷根本就不是透過理性做的。

心理學家丹尼爾‧康納曼在那本著名的《快思慢想》中指出,人類的大腦分成兩個系統:

依賴直覺的系統 1 與理性的系統 2。系統 1 反應非常快,不需要我們投入多少關注就能完成任務,比方說游泳、騎車或認臉;而系統 2 則需要人有意識的努力才能工作,理性的「思考」,也就是「想」,是系統 2 的任務,它精確卻緩慢,耗能很高。

喬納森‧海特在認知科學著作《正義之心》中表示:之前的道德哲學家往往將道德視為理性的結果,也就是說,是系統 2 的任務;但是心理學實驗表明,道德在人類的實際認知中,很大程度上(並非完全)是系統 1 的工作;而系統 2 只發揮了一點「事後辯護」的作用。

他做了一個實驗:加大實驗對象的系統 2 負擔,比方說記住一個很大的數字,然後再做道德判斷,結論是在系統 2 不堪重負的情況下做道德判斷仍然很快,這說明道德判斷不是系統 2 的工作。

所以說,人類做道德判斷,實際上是訴諸直覺。

在這裡,我們可以將自動駕駛的道德問題拿來考驗人類駕駛。在一個實際的場景中,你就會發現這樣的理想假設問題毫無意義:在即將出車禍的危急時刻,人類是依靠本能來反應,99% 的人類司機都不會在這個時候思索一些複雜的諸如「該撞哪邊」這樣的道德哲學問題──那麼我們為什麼會要求機器完成這種人類都做不到的事?

回到現實,就會發現給自動駕駛提出的道德問題實際上毫無意義。

現實生活中並不會出現你剛好站在一個岔路,前面是一輛沒有煞車的火車;同樣,現實的交通中也不會出現一條筆直的高速公路,前面是一堵牆,左邊是一位老奶奶,右邊是一個小學生,就看你要撞誰的情況。

現實中的交通場景,我們只能規約到現實條件來:車輛輪胎的抓地力如何?煞車情況如何?路面是否濕滑?左右行人距離和方向?臨車位置?

這一切都要納入考量,然後讓人工智慧來判斷最優的解決方案──在 99.999% 的情況下,相信機器的解決方案都比人更優,因為機器不會恍神、不會酒駕、不會打瞌睡,永遠警惕。

況且,在正常駕駛中機器不會出車禍,出車禍顯然是機器故障,這也就意味著你要讓一台機器在故障的情況下正常工作──這就等於停機問題:你如何能要求一台電腦預測它的停機時間?

我認為「自動駕駛的道德問題」實際上真的存在,但完全不是我們所看到的這種「要撞誰」的天真問題:自動駕駛的道德問題實際上只有一個:我們應不應該儘快普及自動駕駛。

如何降低死亡率,是最大的道德問題

全世界每年因交通事故死亡人數超過百萬,如何降低這個數字,就是最大的道德問題。

統計結果表明,交通事故有 70% 是人為因素;考慮到很多原因實際上是人類自身的生理限制,純粹的機械因素在交通事故中的佔比應該還要更低。我們甚至可以這樣說:在交通中最危險的不是任何一種機器,而是人類自己。

所以,目前自動駕駛最大的道德問題在於,我們對人類駕駛和自動駕駛的態度是完全的雙重標準:

我們對自動駕駛的看法是,在自動駕駛系統保證 100% 不出錯之前都不能使用它──這個標準自然不可能達到,世界上沒有完美的東西。但對人類駕駛的標準──沒有標準。

如果我們統一標準,將自動駕駛的標準設定為「統計意義上人類駕駛的平均水準」,那我相信這個標準早就達到了。現在我們看到業界對自動駕駛系統的開發,無非是在「超過 95% 以上人類駕駛的水準」還是「超過 99% 以上人類駕駛的水準」上努力──這樣的努力當然有意義,但是從整個大圖景來看,不是雪中送炭而是錦上添花。

所以自動駕駛的道德問題的答案很清楚:我們應該儘快普及自動駕駛,所要跨越的,更大程度上是法律和人心的障礙,而不是技術障礙。

自動駕駛下的世界肯定要比現在美好得多:交通事故發生率有數量級的下降,人們不用再擔心被酒駕或打瞌睡的駕駛撞到,機器也不會忽略交通標誌,在晚上也能看得清清楚楚。

身為乘客,我也不需要在長途車上浪費精力和時間,忍著疲勞開 10 個小時車:自動駕駛情況下這段旅程我大可以睡一覺、玩遊戲、看風景,做什麼都行,就跟我們現在坐高鐵一樣。

大城市糟糕的交通情況也會有極大的改善:統計數據表明,在任意時刻,80% 以上的車輛都是靜止的。

如果我們能夠透過自動駕駛將車輛利用率提高到 50%,城市也減少了 30% 以上的車輛:道路不再會是停車場,多餘的停車場大可用來改建成綠地、公園,或其他更讓人放鬆的元素。

我的推斷是 2030 年前後,人類駕駛將被完全取代:讓人駕駛將是一項極不道德的行為,就如同現在的自動駕駛。

我會開車,但是自從我經歷過連續開兩天,每天 10 小時以上的旅行之後,我就變成一個堅決的自動駕駛擁護者。從功利主義角度,自動駕駛毫無疑問會拯救很多人的生命,他們原本將會被水準差勁、喝酒或在打瞌睡的人類駕駛撞死。

於是,如果是你站在這個岔路上,失控的火車原本走的那條路有好幾百萬人,另一條路上一個人都沒有,那你是否要扳動這個道岔呢?

(本文由 雷鋒網 授權轉載;首圖來源:shutterstock)

延伸閱讀: