矽谷人都愛聊的 AI「末日值」是什麼？名人末日值多少？

「你的『末日值』是多少？」據說已成了矽谷科技圈新貴近期最常掛在嘴邊的問候語，對於身處 AI 產業的人來說，這更是一個無法含糊其詞糊弄過去、避而不談的議題。「末日值」到底是什麼？詢問他人「末日值」的意義何在？ 

所謂的「末日值」（probability of doom，也寫做「p(doom)」），指的就是你個人認為AI可能帶領人類走向末日的機率。

若不相信AI會導致世界末日，那你的末日值就會趨近0。相反的，若你堅信AI終將導致人類社會滅亡，那你的末日值就會趨近100。

據《紐約時報》科技專欄作家魯斯（Kevin Roose）觀察，末日值這一概念及名詞，大概源自於矽谷科技產業的圈內人社群平台交流版「LessWrong」，最早可追溯至十餘年前的一則版上貼文。

當時就已開始研究AI技術的幾名網友發文分享各種「AI導致人類滅亡」的情境，並分享自己所認定的「末日值」。令人意想不到的事，這則半開玩笑的貼文在ChatGPT等生成式AI崛起後，竟成了人們十分嚴肅看待、熱衷討論的議題。

而「LessWrong」創辦人、AI學者尤德考斯基（Eliezer Yudkowsky）則是出了名的「AI末日論者」（doomer），自認末日值高達95。

科技業名人末日值各有不同

在科技業、AI產業有名有姓的各路人馬的末日值，分別都是多少？

魯斯在《紐約時報》專欄中寫道，被譽為「深度學習教父」的AI學者辛頓（Geoffrey Hinton）以及班吉歐（Yoshua Bengio）都曾呼籲業界提高警惕，加強對AI技術的管控。

辛頓認為，若不嚴格監管，AI在未來30年內導致人類滅絕的機率為10％，而班吉歐則在一次訪談中表示， AI災難性事件發生的機率大概為20％。

財經新聞網《商業內幕》（Business Insider）指出，曾在ChatGPT開發商OpenAI擔任研究員、2023年入選美國《時代》（Time）雜誌「百大最具影響力的AI圈內人」榜單的克里斯基亞諾（Paul Christiano），一度在播客節目中坦言：「我認為AI完全掌控人類社會的機率大概為10％到20％，到時候會有很多人、甚至是絕大多數人類死亡。這對我來說，是需要嚴肅看待的問題。」

美國商業新聞雜誌《快公司》（Fast Company）則報導，近期一項針對40名AI工程師所進行的問卷調查結果顯示，他們的平均末日值為40，也就是業界普遍認為AI導致人類滅亡的機率為40％。

再像特斯拉（Tesla）創辦人馬斯克（Elon Musk）剛成為「2023年財富增長最多的人」，則曾公開表示自己的末日值為20至30左右。而AI新創公司Anthropic執行長阿莫迪（Dario Amodei）的末日值為10到25之間。

▲ 馬斯克曾公開表示自己的末日值為20至30左右。（Source：Flickr/Steve Jurvetson CC BY 2.0）

有趣的是，《快公司（Fast Company）》形容美國聯邦貿易委員會（Federal Trade Commission）主席可汗（Lina Khan）是「最常打著『反AI』旗幟的人物」，但她的末日值卻相當低，認為AI會導致世界末日的機率僅為15％。

末日值可助判斷他人的態度

嚴格來說，末日值是一個相當主觀的存在，它並沒有一套可量化的衡量標準，甚至連業界約定俗成的標準都沒有。

但魯斯在報導中指出，末日值存在的意義並不在於有多準確，畢竟人們詢問他人的末日值時，並沒有事先設定好「末日」的定義。

「如果一半的人類因為AI崛起而死去，這可以算是『末日』嗎？那萬一大家都沒有因為AI而死掉，只是都集體失業了、過得很不快樂，這是否為末日的一種？AI具體會如何征服全世界？」魯斯寫道。

與其說末日值有任何實際學術價值，它其實更像人們心中的一把尺，可幫助一個人判斷周圍的人對AI的看法及態度。魯斯形容末日值為某種「社交標誌」，讓參與對話的人可以快速找到在AI議題上志同道合的人。

魯斯在報導中寫道，OpenAI日前人事風波鬧得滿城風雨，董事會當時宣布將由直播平台Twitch創辦人席爾（Emmett Shear）接替奧特曼（Sam Altman）出任OpenAI執行長，不久後就有員工分享一支影片，指席爾在錄製一場播客節目時提及自己的末日值高達50，讓員工紛紛擔憂這位「空降」到公司的執行長會出於對AI技術的不信任，而要求團隊放慢研發新產品的步伐。

由此可見，一個人的末日值多多少少會直接影響他欲樹立的個人形象，最終可決定他可以融入到哪些圈子當中。

（本文由 遠見雜誌 授權轉載；首圖來源：shutterstock）