《人類大歷史》作者:因為 AI,人類將失去很多力量

作者 | 發布日期 2017 年 07 月 09 日 12:00 | 分類 AI 人工智慧 , 機器人 follow us in feedly

7 月 6 日,《人類大歷史》作者哈拉瑞在首屆 XWorld 大會演講,提到他對人工智慧的看法。




今天我要跟大家介紹的可能是我們這個時代最著名、重要的科學發現,或者可以說是整個 21 世紀人類歷史上最重要的一個演變,我們稱之為「人工智慧」。

一、有機生命會逐步被無機生命所替代

人工智慧不僅是 21 世紀最重要的科學進化,也不只是我們人類歷史上最重要的科學進化,甚至是整個生命創始以來最重要的原則。有機生命根本的規則沒有發生變化,與過去的 40 億年當中都是保持一致的。過去 40 億年當中,所有生命都是按照優勝劣汰的原則進行演變,所有的生命完全按照有有機化學的規則進行了演化。

因為我們的生命是有機化合物組成,不管你是巨大的恐龍還是一隻阿米巴蟲、一顆花生,還是一個人,都是按照物競天擇的規則,都是有機化合物組成的,我們完全遵守過去 40 億年有機化學規律的演變。

這樣一個 40 億年的規則將會隨著人工智慧出現而發生根本變化,人工智慧將替代物競天擇自然選擇的結果終止。我們的生命將根據電腦智慧設計,脫離原先有機化學的限制,而進入一個無機的世界。

在我們有生之年,有可能看到有機生命逐步被無機生命替代。我們會逐步看到有機化學規律和無機智慧性的生命形式並存。原先我們是碳基的,未來生命形式當中,矽基會成為主要的生命形式。這是我們有生命以來的 40 億年當中第一次出現的一個重大變局。

二、選擇權將逐步讓渡給人工智慧

在過去的 40 億年當中,大家想像一下,所有生命都是局限在地球這樣一個行星上面,沒有一個生命、阿米巴蟲或任何一種生命形式有能力突破我們這樣一個行星(地球),去其他的星系殖民。這是因為自然選擇規律讓所有有機物、有機體局限在地球中,一個非常獨特的環境──溫度、氣候、陽光、重力。

一旦我們從原先有機的生命形態轉變成為無機的生命形態,比如機器人,人工智慧電腦等,那麼環境就沒有限制了。機器人在火星上面也可以生存,而人類不可以。我們在科幻小說或電影中看到的一些場景,現在對人類來說仍然非常困難。因為我們這樣的有機生命體在地球以外的外太空很難生存,但是電腦機器人、人工智慧相對而言,比較容易能在地球以外的其他星球和星系生存。

因此,在地球出現生命以來的 40 億年,我們有可能突破地球的限制而進入其他星系,不是人類,而是人工智慧可以做到這一點。另外一個重大突破性的演變,也是在我們有生之年可以看到的,事實上大家已經​​從某種程度上經歷了這種變革。

什麼樣的變革?我們人類上萬年以來在演變過程中獲得越來越多力量,在 21 世紀的時候人類將會失去這些力量,這些力量將逐步從我們這個物種讓渡給人工智慧。比如世界上發生什麼,甚至我們自己生命在發生什麼,這些權力或我們掌控的力量,不管重要的還是不重要的,都會逐步拱手讓給電腦或人工智慧的演算法。

1、人工智慧可以了解你的喜好

舉一個很簡單的例子,比如你下個月讀哪本書,這是我們生活中很簡單的決定,我們可以有很多選擇。以前很多人會依賴自己的感覺、喜好、口味,或依賴朋友、家人的推薦。選擇哪本書閱讀,目前取決於我們的感覺、喜好、口味,但進入 21 世紀以後,我們逐步把閱讀什麼書,購買什麼書的權力讓給了電腦、演算法、讓給了亞馬遜網站。

所以當我們進入亞馬遜未來書店,有一個演算法告訴你:我一直在追蹤你,我一直在收集你的數據,你喜歡什麼書、不喜歡什麼書,我都知道。亞馬遜的演算法會根據對你的了解,以及對上千萬讀者的了解,向你推薦書籍。

這仍處於初級狀態,這只是人工智慧邁出的一小步,亞馬遜網站的演算法仍然非常有限。進入下一個階段,今天已經發生,我們看到這樣的演算法越來越了解你。今天越來越多人看書不是看紙書,而是閱讀電子書,在手機上看書或在電子閱讀器上看書。當你在這個裝置上讀書的時候,裝置也在「讀」你。

這是有史以​​來第一次不僅人類在閱讀一本書,當你在讀一本書時,書同時也在「讀」你。你的智慧手機、智慧平板在追蹤你、監測你,蒐集你的數據,這些裝置可以了解哪頁你會很快翻過去、哪頁你慢慢閱讀。

這些數據會給出一些結果:哪些對你來說是無趣的章節、哪些是你喜歡的章節,它也知道哪頁你不讀了。當我購買別人推薦的書,讀後雖然不喜歡,但我還是會告訴每個人這本書非常好。為什麼?因為我不想丟臉,別人都說這本書很好。要知道這樣只能騙別人,電腦演算法不會被你騙,它知道你讀到第 5 頁不讀了,或讀到第 42 頁的時候不喜歡了。

2、人工智慧可以體會你的情緒

以上是非常初步的功能,下一步它的裝置可以連接臉部辨識軟體。今天臉部辨識的演算法很初級,但慢慢地,它會學會經由看你臉部的表情判斷你的喜好。這就跟我們看別人一樣,我知道你的表情背後掩蓋著什麼樣的感情、什麼樣的感覺。透過觀察你的臉部表情、肌肉變化,就會知道你在笑還是生氣,或只是無聊。

這是人類用來認知情緒的方式,今天電腦也在學、提高對情緒的辨識能力,甚至比人類做得更好。它們能找到臉部活動的規律,並用這種規律來分析和評判一個人目前的情緒狀態怎麼樣。我們把這樣的軟體和 kindle 電子閱讀器結合在一起,kindle 就能判斷你在閱讀的書對你產生的情緒影響。

你在看書的時候笑了,這時候它知道你笑了;你看到某章生氣了,它知道你生氣了。我身為作者,經常想像書中哪章哪節,讀者看著看著就笑了,他們會不會理解我藏在文中的笑點,能不能看出我寫這段文字是諷刺。我不知道,但是亞馬遜會知道。如果 87.3% 的讀者讀到這段時,沒有因為這個笑話而笑,表示這不是一個有效的笑話。

3、人工智慧可以提出適合你的建議

最後一步把裝置和生物辨識感測器結合在一起,這些生物辨識感測器植入體內,這不是科幻小說,已經實實在在用了。生物特徵感測器能持續不斷監控我身體各種生物指徵。我現在跟大家演講,我的血壓心率是多少,血糖水平或我的激素水平是多少。

但是你不知道,電腦透過剛才講的這種技術能夠知道我每刻血壓的變化。根據數據,大家想像一下你正在讀一本非常長的書,比如托爾斯泰的《戰爭與和平》,當你讀完時,大部分情節都忘了,但是亞馬遜、騰訊或百度任何一家公司,它的電子閱讀器透過生物辨識感測器,記錄你閱讀這本書的狀況。

在我讀完《戰爭與和平》後,這個裝置就知道我是一個怎樣的人以及性格特點是什麼。根據這種知識和了解,裝置不光能向我推薦書籍,而且也能圍繞著我生活更重要的決策,向我建議。比方我應該學什麼、該生活在哪、應該在哪裡上班,甚至和誰結婚。

人生當中最重要的決定之一,可能就是一生要和誰度過──伴侶的選擇。在選擇伴侶這件事上,很多人犯過糟糕的錯誤,我們主要依賴自己的感覺以及親友家長的建議。現在有一對情侶,該結婚還是分手?二、三十年以後,你可能可以問亞馬遜、百度、騰訊這樣的問題,今天你得靠自己的感覺和親友的意見。

那時候,亞馬遜等公司對我個人、和我相處的人已如此了解,你可以問它們的建議。你迄今為止所有郵件、LINE 訊息、手機通話它都在追蹤;看書、看電影時,它監控你血壓心率的變化;你每次約會,它也在監控你約會水平的變化。

它對你個人所有資訊的了解以及伴侶的了解,對幾百萬人成功或不成功的伴侶關係的理解,可以告訴你:現在你和你的男朋友或女朋友結婚的概率是 90%,因為在你一生中找不到更好的伴侶了,因為它如此了解你,你心裡想的可能是:我有能力找到一個更好的伴侶,更好看更漂亮的伴侶。它會知道你這樣想的錯誤來源所在:你太看重外表了。

你在選擇的時候,考慮的因素還是 5 萬年前我們的遠祖在非洲大草原上擇偶的標準。現在機器會告訴你:根據我的統計數據,即使外表對關係的成功與否具一定的重要性,但重要性比較小,可能只佔整體權重的 10%,也就是在一段成功的關係中只有 10% 是取決於外表、美貌。

機器會告訴你:我已經看到現實。從長遠來看,你和現在這個人在一起會最幸福,你應該和他結婚。

在這種設想中,決策的權威、權力已經轉移了,從人類手中移交給演算法。我們需要理解的是:做決定的能力就像一組肌肉,你不用的話就會退化,你對電腦信任越多,依靠人工智慧做決定越多,你就會失去自己做決定的能力。

舉一個簡單的例子:找路。過去我們怎麼找路?基於自己的本能知識經驗,到一個十字路口該左轉還是右轉,你會依賴自己的經驗。今天越來越多人依賴智慧型手機、各式各樣的 GPS、地圖應用。

你的本能告訴你應該右轉,但是智慧型手機告訴你左轉,你越來越相信智慧型手機,而不是直覺。經過一段時間之後,你的認路、找路能力就喪失了,即使你還想這樣做。20 年以後我們在人生中碰到十字路口要做決策的時候,很多人會用智慧型手機、人工智慧來決定,它們會告訴你該怎麼做。

三、人工智慧產生的革命性影響

隨著人工智慧變得越來越好,有可能人工智慧會把人從就業市場擠出去,對整個社會的經濟和政治都產生革命性的影響。

1、減少交通事故

十年前,如果說電腦駕駛的技術比人更好,大家會覺得這是科幻小說。但今天所有專家都達成共識。可能再過一兩年,電腦就能比人類駕駛員的平均水準好得多。屆時數以百萬計的出租車、卡車、公車司機會失業,讓位給自動駕駛汽車。

它不僅開起來好,安全性更高得多。今天全世界汽車事故造成的死亡人數比戰爭暴力還多一倍。戰爭、恐怖主義犯罪,每年造成 60~70 萬人死亡,汽車每年造成 130 萬人死亡。大部分汽車事故都是人為造成,比如酒駕,開車的時候打電話,或睡著了,或在發簡訊。

今天交通事故裡人是主要因素,有了人工智慧就不會有這樣的問題。自動駕駛汽車永遠不會喝酒,自動駕駛汽車也不會在開車時睡著,也不可能在開車時接打電話,自動駕駛汽車就能替代人類駕駛。

2、解決道德倫理上的難題

除此之外,人工智慧也能做一些關於倫理道德的決定。比方自動駕駛汽車在開車,突然前方有兩個孩子在踢球,這個時候負責自動駕駛的電腦透過演算法可算出避免撞到兩個孩子的辦法是快速轉向另一條車道;另一個解決方案可能就是讓客戶、車廠來決定。

比方豐田讓客戶決定自己選用哪一款車,有一款車碰到這樣的情況會決定讓你死,那麼另一款車會決定剎車但仍然撞死兩個孩子,你會買哪款車,選哪種演算法?世界上最優秀的哲學家先把這樣的程序做好,我們在理論上考慮的所有東西有各種各樣的理論,但是這些理論遇到危機時的作用甚少。

大家可以說道德的選擇是犧牲自己的生命救孩子,但一旦你真正上路,幾秒內必須做出決定時,你就會忘記剛才的結論,會根據你的本能採取行動。

理論哲學上的行為和人類實際行為有巨大差距,但有了電腦人工智慧,我們就能解決這個問題。我們可以把世界上最優秀的哲學家集合,讓他們坐在一個房間,給他們一年時間討論道德上的難題,不管最終拿出什麼方案,就把這個方案寫到自動駕駛汽車的程式中。

談到倫理道德決策,人工智慧也有可能是平均意義比人類更好,因為這意味著自動駕駛汽車,假設每輛車駕駛都是孔子,這樣對人類駕駛來說,被人工智慧替代之後,當然一方面會帶來很多優勢:更加安全、更加便利。

與此同時另一方面會使決策權從人民大眾手中轉向少數精英手中。過去這樣的權力和福利是由數以百萬計的計程車司機、公車司機、卡車司機分享,現在不是,現在都交給人工智慧,它們就掌握了世界上所有的計程車、卡車、公車。

3、做更優秀的醫生

不光是公車司機,甚至醫生這個工作都會發生變化,在人工智慧中這樣的事情已經開始發生。人工智慧在疾病診斷方面能做得更好,提出治療方案比平均水準的醫生更好,普通醫生的知識和能力有限,不可能每天更新知識,不可能一個人知道全世界所有的疾病藥物和研發結果。

對一個醫生來說擁有的數據有限,但對人工智慧是無可限量的,可以收集資訊分析,熟知全世界所有疾病,能夠 24 小時不間斷追蹤患者。

今天我的私人醫生在以色列每年幫我做一次體檢,他和我報告我的健康狀況。有了人工智慧之後相當於你身邊就有一個醫生,隨時追蹤你的血壓,即使我現在在中國,人工智慧應用也像醫生一樣隨時了解我的健康狀況,每 0.5 秒了解我血液的狀態。

這不再是每年做一次體檢,意味著對癌症這樣的疾病不是等到癌細胞擴散時再去醫院檢查,而是在剛出現癌細胞時就能發現。即使我沒有不好的感覺,但人工智慧已經發現了。

因此,人工智慧會發現癌症早期的症狀提出診療方案,一個好醫生不僅了解你病情,還需要一些情感方面的了解:病人是不是害怕,或生氣、憤怒等。所以有人認為人工智慧做不到,事實上人工智慧比人類醫生還能夠撫慰病人心靈。

人類醫生怎麼判斷呢?可能看你的臉部表情,某一個聲音語調的變化,但是人工智慧可以更加精準地分析你的臉部表情、說話的語調變化。它能更加精準地比人類醫生了解病人情緒的變化,監控某一個病人內部身體情緒的變化。有時候病人自己都不知道自己是什麼狀態,但是人工智慧可以,因為它在不斷監控你的心跳血壓狀況等。當然想要創造出這樣一個人工智慧醫生,還有很多問題需要去解決,很多技術難題需要突破。

我們技術上只要實現一次突破,就可以解決一切的問題。人工醫生怎麼培訓?可能需要 8 年大學碩博連讀,臨床實習之後才會培訓出一個合格的醫生來。10 年之後,我們花了這麼多資源只不過培養出了一名人類醫生,這時候培養第二名又需要花 10 年時間。

但人工智慧只要技術上實現一次突破,你拿到的不是一個機器醫生而是無窮多的人工智慧醫生,他們可以被複製。這個比培訓人類醫生要效率高得多,雖然一開始要花數百億美元研發,但是一旦研發出來就可以無窮複製。

隨著技術發展我們可以用機器替代計程車、司機、醫生其他職業,人工智慧逐步都可以替代,這時候出現一個非常大的人類社會學問題。

正如第一次工業革命使得城市無產階級出現,人工智慧的出現會出現一個新的階層,就是無用階層。數以億計的人將找不到工作,他沒有辦法和電腦人工智慧競爭,對這些人來說他已經喪失了經濟的價值,沒有經濟價值也就沒有政治權力,這會對社會、政治、經濟方面產生巨大的問題。

四、人工智慧時代,你該教孩子學會什麼

當然大家說會出現一些新的職業,但你沒有辦法確定會出現哪些新的職業取代那些正在消失或者被機器搶走的職業。我們可以說人會自己不斷地學習,不再需要卡車司機、計程車司機,會有新的職業設計未來的事業,設計 3D 電腦遊戲。

你想一下一個 50 歲的計程車司機失業之後,他有多大能力去培養自己?對於 50 歲的計程車司機來說,他要重新培養自己的能力,這樣就太晚了。這樣的革命非常危險,它會從根本上改變我們的教育體系。

今天,你會教孩子什麼?今天在學校裡我們應該教孩子什麼?大學裡面應該教孩子什麼?讓他們能夠在二、三十年之後適應當時的就業市場。

事實上我們沒有人能夠描述 二、三十年後的就業市場,換句話說,我們現在的教育系統沒有辦法了解今天應該教我們的孩子什麼。今天我們的孩子在學校裡面學到的所有知識,二、三十年後完全無用,我們不知道現在應該教他們什麼,才能夠讓他們在二、三十年後找到工作。

即使我們會產生新的工作,二、三十年後可能產生新的工作,但是孩子到那天是不具備那些新工作的就業能力的,那麼這個時候出現了數百萬、數千萬甚至上億失業人口,他們喪失了經濟價值,這會產生進一步威脅。人類未來的精英階層是否還會有動力照顧那些弱勢群體?

現在,世界各地的政府還會投資於那些弱勢群體,為什麼?因為政府精英群體需要這些弱勢群體,即使是德國的納粹希特勒,他也要投資這些弱勢群體。他要變大,需要有強大的軍隊,需要普通的、數以百萬計的德國人去當兵、成為工廠的工人才能支撐他打這樣的戰爭,所以投資大量的資金用於教育和醫療。

但是未來如果人工智慧替代人類,他可以替人去打仗、去做工,這樣國家精英階層就沒有動力去投資醫療教育,幫助弱勢群體。

人類社會會分成兩大階層,一個是非常少的精英階層,就像上帝一樣,他們在創造大量的人工智慧,絕大部分人將變成沒有任何經濟價值任何無用的階層。這是 21 世紀最大的風險。

五、人工智慧毫無疑問會改變我們的未來

最後一點在我結束演講之前說,這也是非常重要的一點:有很多關於人工智慧的討論,但是也有很多關於人工智慧究竟意味著什麼的迷惑和疑問。智慧和意識之間究竟有什麼區別,很多人迷惑。

智慧是解決問題的能力,比如我們診斷一個疾病,或者找到某一個疾病的治療方法,這是智慧。但是人類的意識是感受某一種外界的能力,你的情緒、你的感情、你的痛苦、愉悅、愛等等。人類和其他的哺乳動物,大猩猩、猴子等,他們的意識和感情是合而為一的。

但是電腦不一樣,隨著水平越來越高,他們也能產生意識,很多科學的科幻小說或者其他科幻電影中,我們經常看到人工智慧逐步產生了意識,機器人變得非常智慧,同時獲得了意識和情感,機器人會變得非常憤怒,它想殺掉所有的人類。

我們在科幻小說電影中都看到過,它不是科學只是科幻。科學告訴我們智慧和意識是完全不一樣的兩個東西。到目前為止,電腦或者人工智慧發展到今天,智慧水平在不斷提高,但是人工智慧的意識還是零。

換句話說,我們現在沒有任何指標證明或者任何跡象表明,電腦和人工智慧在未來能獲得這種意識。電腦只是以一種完全不同的方式在工作,和人類其他的哺乳動物完全不一樣,這是我們面臨的風險,或許是最大的風險。

電腦會比我們智慧得多,比人類水平高好多,它會控制這個世界,開始向宇宙其他星系去擴張,但是它們仍然沒有意識。我們會有一個充滿智慧機器的宇宙,但它們卻喪失意識和情感。大家可以想像生命過去的演變在逐步向更高的智慧發展(無論是人類或者其他哺乳動物),在演變過程當中是非常慢的。

上億年的生命透過我們的意識不斷摸索,慢慢演變到今天的智慧狀況,速度是非常慢的,演變需要數百萬年的時間。突然有一個電腦殺出來,他們用完全不同的路徑、方式,完全不同的發展模式,超級的智慧在超越有機的生命體。他們智慧的進化和演變速度比我們快得多,他們的發展演變比我們快得多,他們會控制整個世界甚至宇宙,但是沒有意識。

我講的東西不是一個寓言。沒有人會知道未來是什麼樣子,一切還懸而未決,同樣一個技術你可以創造出完全不同的社會和世界。我們在 21 世紀曾經看到過這一幕,我們的技術、汽車、廣播、電視、電腦,可以利用相同的技術創造出社會主義的國家,資本主義的國家、法西斯國家也都是利用同樣的技術。

同樣,人工智慧的技術毫無疑問會改變我們的世界,但是我們未來的社會究竟怎麼樣?這會有很多選擇,而不是完全由技術來決定的,一切都懸而未決。如果大家不喜歡我剛才描述的這個世界,大家仍然可以用自己的行動去改變決定未來世界的形態,去消除風險,發揮技術好的那一面。

最後我想講的就是:當你身為一個人、一家企業、政府部門,或者做為精英階層,我們在做人工智慧的時候,做各式各樣決定的時候,一定要注意人工智慧不僅是單純的技術問題,同時也要注意到人工智慧以及其他技術的發展,將會對社會、經濟、政治產生深遠的影響。

我們一定要注意人工智慧技術層面的問題,還要嚴密關注人工智慧的發展對社會可能產生的影響。因此,我們在投資與技術發展的時候,還要投入於社會影響的研究。

(本文由 36Kr 授權轉載;首圖來源:Flickr/Many Wonderful Artists CC BY 2.0)