教宗良十四世在作為新當選的教宗首次正式接見時，將人工智慧（AI）視為人類面臨的最關鍵問題之一。
教宗利奧宣稱：「在我們這個時代，教會為每個人提供其社會教義的寶藏，以回應另一場工業革命和人工智慧領域的發展，這對捍衛人類尊嚴、正義和工作提出了新的挑戰。」他將這一聲明與他的同名利奧十三世 1891 年通諭《Rerum Novarum》的遺產聯繫起來，該國十三世 1891 年通諭《Rerum) Novarum》的遺產聯繫起來，該組織涉及工人權利和道德的道德層面。因為，實際上，當人類工作，尤其是智力工作被人工智慧摧毀時，我們需要為人類工作找到新的空間。
他的言論延續了已故教宗方濟各設定的方向，方濟各在 2024 年年度和平致辭中警告稱，人工智慧缺乏同情心、仁慈、道德和寬恕等人類價值觀，其發展過於危險，無法不受控制。弗朗西斯於 4 月 21 日去世，他曾呼籲制定一項國際條約來規範人工智慧，並堅稱該技術必須保持“以人為本”，特別是在涉及武器系統或政府工具的應用中。
教宗良十四世 – 梵蒂岡媒體
90% 對人類構成生存威脅
雖然宗教和倫理領域的擔憂加劇，但科學界也產生了類似的迫切感。
麻省理工學院的物理學家兼人工智慧研究員馬克斯·泰格馬克（Max Tegmark）將原子時代的黎明與目前開發人工智慧（ASI）的競賽進行了令人擔憂的比較。在與三名麻省理工學院學生合著的一篇新論文中，泰格馬克引入了「康普頓常數」的概念，這是對 ASI 逃脫人類控制的可能性的機率估計。它以物理學家阿瑟康普頓 (Arthur Compton) 的名字命名，他在 20 世紀 40 年代計算了核試驗導致地球大氣層燃燒的風險。
「建立超級智慧的公司還必須計算康普頓常數，即失去對其控制的機率，」泰格馬克告訴《衛報》 。 “僅僅說‘我們感覺很好’是不夠的。他們必須計算百分比。”
Tegmark 計算得出，高度先進的人工智慧構成生存威脅的可能性為 90%。
該文件敦促人工智慧公司進行與第一次原子彈試驗之前一樣嚴格的風險評估，據報道，康普頓估計發生災難性連鎖反應的可能性「略低於」三百萬分之一。
生命未來研究所聯合創始人、人工智慧安全倡導者泰格馬克認為，計算這些機率有助於為全球安全制度建立「政治意願」 。他也與 Yoshua Bengio 以及 Google DeepMind 和 OpenAI 的代表共同撰寫了《全球人工智慧安全研究優先事項新加坡共識》 。
該報告概述了三個研究重點：衡量人工智慧在現實世界中的影響、指定人工智慧的預期行為以及確保對系統的一致控制。
泰格馬克在最近的巴黎人工智慧安全峰會上稱其為一次挫折，在這一新的承諾減輕人工智慧風險之後，美國副總統 J.D. 萬斯駁斥了人們的擔憂，表示人工智慧的未來「不會透過抱怨安全來贏得」。然而，泰格馬克指出合作有所回升：“確實感覺巴黎的黑暗已經結束，國際合作正在捲土重來。”
或許，我們應該開始思考人工智慧的深遠目的，而不是安全，賦予它與保護人類相關的意義
感謝我們的 Telegram 頻道，您可以隨時了解新經濟情景文章的發布。
文章《科學家與教宗良十四世：所有人都一致認為人工智慧構成了巨大的生存威脅，其中高達 90% 的可能性來自經濟情境》 。
這是在 Sat, 10 May 2025 20:33:15 +0000 在 https://scenarieconomici.it/scienziati-e-papa-leone-xiv-tutti-convergono-sullenorme-minaccia-esistenziale-costituita-dalla-ai-che-arriva-al-90-di-probabilita/ 的報紙 “Scenari Economici” 上發表的文章的翻譯。