在科技進步與智慧退步之間的掙扎,自動化是否讓我們變得更愚蠢?

作者 | 發布日期 2014 年 12 月 01 日 8:24 | 分類 自動化
5164271_2f583028d6_o

人工智慧已經來臨。現在的電腦不僅目光敏銳而且行動敏捷。它們可以感知環境,解決棘手問題,做出微妙判斷,並懂得學習經驗。它們已經能夠複製許多我們當中最有價值的智力人才,我們現在已經把過去許多自己做的複雜工作交到了它們手上。




但是人類對電腦自動化的依賴程度不斷加深,可能要付出高昂代價。令人不安的證據表明,在我們越來越依賴於各種人造物以後,人類自身的智慧正在變弱。智慧軟體似乎不能提高我們的智慧,而是令我們變蠢了。

 

自動化的歷史

這是一個緩慢的過程。第一波自動化浪潮始於二戰後,製造業開始在工廠安裝電子控制設備,從而顯著提升了生產效率和企業利潤。不僅如此,自動化被譽為是解放者,讓被替代的工人得以從事更有活力的工作,發揮更有價值的才能。

然後到了 1950 年代,哈佛商學院的 James Bright 教授開始研究自動化在不同行業(從重工業、煉油業到麵包烘烤等)中收到的實效。結果他發現,工廠情況並未得到好轉。新機器並沒有把人往上趕,而是往往把人擠到了更單調乏味、要求更低的崗位。比方說,自動化銑床並沒有把金屬加工工人變成了富於創意的藝術家,而是把他變成了一個按按鈕的人。

Bright 因此得出結論認為,自動化對工人產生的最重要效應不是「提升技能」而是「去技術化」。「經驗教訓越來越清晰,」他在 1966 年寫道:「高度複雜的設備並不需要熟練的操作者,技能已經被植入到機器裡面了。」

 

自動化浪潮開始席捲一切

今天,我們正在更廣的範圍內再次感受到這一教訓。隨著軟體擁有了分析和決策能力,自動化已經飛躍出了工廠,進入到白領世界。電腦正在接管長久以來被認為是受到過良好教育以及訓練有素的專業人士才能從事的知識工作:飛行員得靠電腦開飛機;醫生要向它們請教診斷結論;建築師用它們來設計建築。自動化的這波新浪潮席捲了每一個人。

電腦並沒有奪走了有才能的人的所有工作,但是卻改變了工作的完成方式。專業技能同樣的去技術化跡象正在不斷累積,甚至連高度專業的領域亦是如此。今天的電腦操作者就像昨天的機器操作者。

比方說天上的自動駕駛。發明 1 個世紀以來,自動駕駛已經讓飛行更高效更安全。隨著 1970 年代電腦化「飛控系統」的引入,這一趨勢仍在延續。但是現在航空專家擔心我們走得太遠了。我們已經把太多的駕駛艙任務交給了電腦,以至於飛行員正在失去優勢,並開始出現英國飛行研究者 Matthew Ebbatson 所謂的「技能退化」。

2007 年,準備博士論文的 Ebbatson 對一組飛行員進行了一項實驗。實驗內容是讓飛行員在飛行模擬中做出一項難度很高的機動動作—讓引擎失效的波音飛機在惡劣天氣下著陸,希望借此評估一下這些人的技能(比方說評估空速的精確度等)。

隨後他把類比結果與飛行員的實際飛行記錄進行了對比。對比發現飛行員對控制的熟練程度與該飛行員最近手工操作飛機的時間具有緊密聯繫(註:熟能生巧嘛,這個研究似乎多此一舉)。越是不需要頻繁練習的可容錯操作,技能就退化得越快。可是現在飛機的起飛和降落大部分已經由電腦包辦了,因此這兩塊恰恰正是飛行員缺乏練習的地方。

 

自動化帶來的危機浮現

而人工作業能力的一點點退化都可能造成悲劇事故。手藝生疏的飛行員更有可能在緊急情況下犯錯。最近的多次飛行事故均牽扯到自動化相關的飛行員人為錯誤,其中就包括 2009 年美國科爾根航空 3407 航班在布法羅的墜機事故以及法航 447 在大西洋的墜機,還是就是 2013 年韓亞航空在舊金山的降落失敗事故等。

去年,美國聯邦航空管理局(FAA)駕駛艙技術特別調查小組發佈了一份報告,報告記錄了墜機與過度信賴自動化之間存在著越來越多的關聯。飛行員已經「習慣於先觀察發生了什麼事情再去做出反應而不是保持前瞻性。」現在 FAA 已經敦促航空公司要讓飛行員花更多的時間去聯繫人工作業。

軟體改進後,使用軟體的人也就不大願意去磨練自己的專門技能。這應該歸咎於那些提供了大量提示的應用;而那些不那麼熱心的、更簡單一些的應用卻會促使人更努力去思考、行動和學習。

10 年前,荷蘭烏特勒支大學的資訊科學家讓一群人執行複雜的分析和規劃任務,這些人有的用不提供任何輔助的基本軟體,有的則用提供了大量輔助的複雜軟體。研究人員發現,使用簡單軟體的人反而制定出了更好的策略,所犯錯誤更少並且形成了更出色的工作技能。而使用更先進軟體的那些人往往卻在遭遇棘手問題時「毫無目標地亂點滑鼠」。本該是有説明的軟體實際上卻令這部分人頭腦短路,不懂學習。

加州大學伯克利分校的哲學家 Hubert Dreyfus 在 2002 年寫道,人類的專門知識是「經歷了各種情況後而形成的,觀察角度都是一樣的,但是需要不同的策略決策。」換句話說,熟能生巧,只有不斷地使用這些技能才能克服各種不同的挑戰。

相反,現代軟體的目標則是讓我們輕鬆面對這些挑戰。艱苦、費力的工作正是程式師渴望自動化的--畢竟這是立竿見影的東西。換言之,進行自動化的人的興趣點以及做工作的人的興趣點之間存在著根本性的緊張關係。

 

當自動化進入了醫療產業

但無論如何,自動化的範圍還在繼續擴大。電子病歷的推廣使得醫生越來越依賴於在軟體範本的指導下進行病人身體檢查。軟體引進了有用的檢查清單和示警資訊,但是也使得醫學愈發的程式化,並且疏遠了醫生與病人之間的距離。

2007-08 年間,紐約州立大學奧爾巴尼分校的 Timothy Hoff 進行了一項研究,研究調查了 75 名採用電腦化系統進行初級診療的醫生。醫生認為軟體弱化了自己對病人的瞭解,令其「對診療做出明智決策的能力」受到削弱。

哈佛醫學院教授 Beth Lown 2012 年的一篇合著的期刊文章也對醫生受到「螢幕驅動」的現象提出了警告,文章認為醫生按照電腦指示而非病人的病情敘述進行的思考是狹隘的。最糟糕的情況有可能會導致錯失重要的診斷信號。

這種風險並非理論上存在而已。診斷雜誌最近的一篇論文對美國的首個伊波拉死亡病例的誤診進行了檢查。他們認為,醫院臨床醫生用來記錄病人資訊的數位化範本有可能對誤診起了誤導的作用。研究人員認為,這些工具為了能捕捉資料而進行了優化,但卻犧牲了分類診斷的實用性,所以存在很大的侷限性,導致用戶只見樹木不見森林。其結論是,醫療軟體無法替代基本的病史採集、檢查技能以及批判性思維。

 

過度依賴自動化造成更多問題

甚至連創意性的工作也不斷受到自動化去技能化的影響。電腦輔助設計説明建築師利用不同常規的形狀和材料來構造建築,但是設計流程引入電腦過早的話,會損害到畫草圖和建模過程中產生的美學敏感性以及概念性洞見。

心理學研究已經發現,通過手工能夠更好地激發設計師的原創力,拓展其工作記憶以及增強他們的觸感。英國開放大學的設計學教授 Nigel Cross 說,畫板就是「智慧放大器」。

軟體接管的事情手工技能就衰退。芬蘭建築師 Juhani Pallasmaa 在《The Thinking Hand》一書中指出,過度依賴電腦使得設計師更難欣賞自己建築的那些最微妙的、最具人文素質的地方。「電腦圖像的假精確以及顯然的有限性」限制了設計師的視野,意味著做出來的東西有可能技術上極其出色但卻缺乏情感。邁阿密大學的建築學教授 Jacob Brillhart2011 年也寫道,儘管現代電腦系統可以不可思議的速度將一組空間轉化為精確的 3D 渲染,但也孕育出來「更多懶惰的、缺乏悟性、想像力以及情感的平庸之作。」

不過我們未必一定要聽任這種情況發展。自動化不需要消除我們工作面臨的挑戰,不需要消滅我們的技能。那些損失源自人類工程學者等其他學者所謂的「以技術為中心的自動化」,這種設計哲學統治了程式師和工程師的思維。

系統設計師在開始專案的時候,首先考慮的是電腦的能力,想著把盡可能多的工作都交到軟體身上。而分給人類操作者的則是剩下的事情,這些事情往往是相對被動的雜事,如輸入資料、跟著範本做以及監視螢幕等。

這種哲學讓人掉進了去技能化的惡性循環。通過讓人與艱苦工作隔絕而鈍化了人的技能並增加了犯錯的機率。而一旦那些錯誤發生後,設計師的應對措施反而是進一步限制人的責任,從而導致新一輪的去技能化發生。

由於流行技術「強調技術需求勝過人的需求,」所以迫使人「進入到一個支撐的角色,但這種角色正好是我們最不擅長的角色之一,」加州大學學聖地牙哥分校的認知科學家以及設計研究者 Donald Norman 這樣寫道。

不過這裡有一個替代方案。

 

自動化應為輔助而不是主要決策

「以人為中心的自動化,」人佔據優先位置。系統在設計上把人類操作者放在一個工程師所謂的「決策環」--即行動、回饋及判斷的持續過程上。這會讓工人時刻留意、參與和促進了此類可強化技能的挑戰性任務。

在這種模式下,軟體扮演的是一個必不可少但卻是次要的角色。這次它接管的是人類操作者早已掌握的常規職能,當非預期情況發生時發出示警,提供即時資訊來拓展操作者視野,並抵制往往歪曲人類思維的偏差。這時候技術變成了專家的合作夥伴而不是取代專家。

把自動化推向一個更加人性化的方向並不需要任何技術突破。只需要優先次序的轉移並重新關注於人類的優勢和劣勢。

比方說,航空公司可以在飛行期間設定控制權在電腦和飛行員之間不斷轉移。通過讓飛行員保持警覺和活躍的方式來讓飛行更加安全。

而會計、醫療等專業領域,軟體遠可以不用侵擾太多,給人留出更大的空間來實踐和做出判斷,而不是給出演算法推導出來的建議。

愛荷華大學的 John Lee 認為,知識工作的電腦化可以採取一致不那麼自動化的方案,讓自動化擔任操作者的評判者的角色,相對而言,這種方法比用機器計算來替代人類判斷的做法要成功得多(例子參見 Google 想出了一個決定晉升的演算法,然後……就沒有然後了)。最好的決策支援系統向專業人士提供的是「替代性的解釋、假設或選擇。」

以人為中心的自動化並不對流程做出限制。相反,它引導流程進入到一條更加人文主義的路徑,給一種太常見的推崇電腦厭惡人類的世界觀提供了一劑解毒劑。

以人為本的最令人興奮的例子之一是所謂的自我調整自動化。它採用了先進的感測器和解釋演算法來監控人的身體和心理狀態,然後利用這一資訊來實現任務和責任在人與電腦之間的轉移。一旦系統感覺到操作者掙正在與某一困難的任務做鬥爭時,就會分配更多的任務給電腦,讓操作者避免分心。而當系統感覺到操作者興趣正在減弱時,系統就會增加此人的工作量以便提高其注意力並開發他們的技能。

 

人類在進步與退步之間的抉擇

電腦令人讚歎。但我們不能讓這種狂熱導致我們低估了自己的才能。哪怕是最聰明的軟體也缺乏熟練專業人士的常識,靈巧性以及神韻。在駕駛艙、辦公室或者檢查室內,人類專家依然是不可或缺的。他們通過艱苦工作打磨出來的洞見、靈活性和直覺,以及經驗豐富的對現實世界的判斷,是演算法或者機器人所無法取代的。

如果我們讓自己的技能隨過度依賴自動化而退化的話,我們自身的能力就會下降,愈來愈缺少韌性,對機器也會越來越屈從。然後創造出一個更適合機器人而不是人類自己的世界。

(本文由 36Kr 授權轉載,首圖來源:Flickr by Morgan CC 2.0) 

關鍵字: ,

發表迴響