教宗良十四世首道通諭：AI 應服務全人類，不可用 AI 來作惡

通諭是教宗對普世教會發出的公開信，目的是就當代信仰生活上的重要議題，對全體天主教徒發出呼籲和指導。教宗良十四世（Pope Leo XIV）25 日頒布他上任以來首道通諭《偉大的人類》（Magnifica humanitas），其中呼籲不可把 AI 當成「掌控、排斥或死亡的工具」。

《偉大的人類》這份通諭文件超過 4 萬 3,000 字，分成五個章節，一開始即提出一個論點：科技既不是「與人類對抗的力量」，也不是「本身就是一件壞事」，科技「不是中立的，因為它帶有其構思者、投資者、管理者及使用者的面容」。因此，良十四世籲請「本著良善來建設」，且要「始終保有人性」，依循勇敢共同負責和共融的邏輯。

AI 的倫理準則

在通諭第三章中，強調接觸 AI 務必提高警覺，清楚明白其中每個步驟的責任，並且仰賴適當的政策和法律框架、獨立的監管機制，以及用戶的素養。尤其需要依照共同的社會正義標準制定倫理準則，「如果這道德是由少數人所決定的，就稱不上是更符合道德的人工智慧」，良十四世表示。新科技對環境的影響不可忽視，這些科技需要大量的能源和水，對受造界（指由神所創造的整個宇宙和萬物）帶來衝擊。

不可用 AI 來作惡

良十四世表示，不可用 AI 來作惡，而且要使它擺脫軍事、經濟及認知競爭的邏輯，打破技術實力與掌控權利之間的等價關係，讓它脫離壟斷處境，阻止它控制人類。

通諭以大篇幅探討有關超人類主義和後人類主義的批判，它們將進步詮釋為超越人類的限度。相反地，限度不是一個要消除的缺點，而是人的一種組成幅度，因為在脆弱和有限當中，與天主和他者的關係及開放態度日趨成熟。因此，推動科技成長並消除人的限度，意味著可能使心靈退化。實際上，偉大卻受傷的人類「不應該被取代或被超越」。科技能減輕人的痛苦，使之向新的可能性拓展，不應該在人類固有的特質上予以否定。面對 AI，真正的抉擇絕非熱情與恐懼之間二選一，而是在兩種建設進步的方法之間做選擇：為人服務，或是為權力的邏輯效勞。

▲ 良十四世簽署通諭。

這是首次有教宗親自出席通諭頒布會，也是首次除樞機和教授外，有科技專家出席，包括 Anthropic 共同創辦人、負責 AI 可解釋性研究的奧拉（Christopher Olah）在通諭發布會上演說。

奧拉演說談到，教會迫切需要聽見三個議題：

第一是人們對全球貧困人口所應盡的責任。AI 有可能會大規模取代人類勞動力。倘若此事真的發生，那麼支持那些被取代的勞動人口將成為一項具歷史性規模的道德責任。「這項任務本身已經夠困難了，但我最擔心的是，大多數的討論錯失另一項更為艱鉅的挑戰：AI 的發展集中在少數幾個富裕國家手中，我們要如何確保 AI 所帶來的利益能在全球範圍內被共享？」奧拉觀察目前沒有任何相應機制，這是一項尚待解決的難題。

第二是關於人類繁榮一事，人們需要具備道德層面的想像力和宏大願景。如果 AI 模型即將被廣泛使用，那麼對於人類個體、家庭以及整個世界而言，「繁榮」究竟會是什麼樣貌？「許多父母開始擔心子女的心智發展，個人也開始擔心自己工作的未來去向，這些並非一間 AI 實驗室所能回答的問題。」奧拉認為這些是像教會所代表的傳統，歷經千百年來一直承載著的問題，需要人們在這個歷史性的全新時刻繼續承擔重任。

第三是針對 AI 模型本質進行審慎辨識，「我是一名科學家，我所領導的研究團隊正在研究這些模型的內部結構，也就是模型內部究竟正在發生什麼事。」奧拉說，「坦白說，我們不斷發現一些既神秘、甚至令人感到不安的事物。其中發現與人類神經科學研究成果相應的結構，發現具有內省能力的證據，也發現在功能上類似於喜悅、滿足、恐懼、悲傷及不安等狀態。我還不清楚這究竟意味著什麼，但我認為這值得我們持續審慎辨識。」

（首圖來源：達志影像）