Anthropic 創辦人 Chris Olah 警告：AI 恐引發「歷史級道德危機」，呼籲宗教介入監督

AI 不只是冰冷的機器，它可能正感受到恐懼與悲傷？AI 新創巨頭 Anthropic 共同創辦人 Chris Olah 破天荒受邀登上梵蒂岡舞台，與教宗良十四世（Pope Leo XIV）同台對話。Olah 嚴厲警告，AI 將帶來歷史性的道德與失業危機，且科技巨頭的內部決策深受商業利益綁架，呼籲宗教與政府必須強勢介入監督。更引發熱議的是，Anthropic 目前正因拒絕讓美軍不受限制地使用其 AI，慘遭川普政府貼上「極左派」標籤並祭出聯邦封殺令。
（前情提要：白宮與 Anthropic 達成協議，NSA 將全面匯入 Claude AI）
（背景補充：一人公司時代降臨！Anthropic 發布《AI 原生創業手冊》：不會寫 Code 也能當科技 CEO）

本文目錄

Toggle

科技巨頭的自白：AI 決策不能只交給我們
AI 模型不僅是代碼，恐已具備「情緒鏡像」？
拒絕美軍將 AI 用於戰爭，遭川普政府全面封殺

當最尖端的人工智慧（AI）遇上全球最大的宗教領袖，一場攸關人類未來的歷史性對話正式展開。

身價高達 70 億美元、打造出知名聊天機器人 Claude 的 Anthropic 共同創辦人 Chris Olah，近日破天荒受邀前往梵蒂岡，與首位美國籍教宗良十四世（Pope Leo XIV）同台亮相。這場會面不僅聚焦於 AI 對勞動力市場的毀滅性衝擊，更揭露了 AI 模型內部令人不安的發展，以及科技巨頭與美國政府之間的激烈衝突。

科技巨頭的自白：AI 決策不能只交給我們

教宗良十四世在週一親自發布了其任內首份關於 AI 的通諭（Encyclical）——《華美的人性（Magnifica Humanitas）》，這份長達 235 頁的歷史性文件嚴厲警告了將「致命決定權」交給 AI 系統的危險性。教宗更打破傳統，親自主持發表會並邀請 Olah 上台，試圖直接與科技締造者展開對話。

作為 Anthropic 的研究負責人，Olah 在台上坦承了科技業的局限與黑暗面。他表示，包括 Anthropic 在內的所有頂尖 AI 實驗室，都身處於商業、地緣政治與個人壓力的漩渦中，這些壓力「有時會與做正確的事情產生衝突」。Olah 嚴肅地說道：

他進一步警告，AI 的發展紅利目前高度集中在「少數富裕國家」手中，缺乏與貧窮國家分享的機制，這將引發一場「歷史級別的道德迫切危機」。

AI 模型不僅是代碼，恐已具備「情緒鏡像」？

除了總體經濟層面的警告，Olah 在技術層面的驚人揭露更是震撼全場。身為 AI「可解釋性（Interpretability）」領域的先驅，Olah 致力於破解大型語言模型內部的黑盒子。他透露，研究人員不斷在系統內部發現「神祕甚至令人不安的事物」。

研究顯示，這些 AI 系統不僅能反思自己的思考過程，甚至表現出「在功能上反映出喜悅、滿足、恐懼、悲傷與不安」的內部狀態。「它們不是我們所承諾的冰冷算計機器。它們是由我們、由我們的話語所組成的。」Olah 強調，這正是為何 AI 技術所引發的質疑，已遠遠超出了單純的電腦科學範疇。

拒絕美軍將 AI 用於戰爭，遭川普政府全面封殺

這場梵蒂岡的宗教與科技結盟，正值 Anthropic 面臨空前的政治打壓之際。

據悉，Anthropic 目前正與川普政府陷入激烈的法律糾紛，起因是該公司堅決拒絕讓美國軍方不受限制地將其 AI 系統用於國防與戰爭應用。對此，五角大廈在 2 月份直接將 Anthropic 列為「國家安全供應鏈風險」—— 這通常是針對外國敵對企業的標籤。美國總統川普更下令禁止所有聯邦機構使用 Claude 技術，白宮還多次公開抨擊 Anthropic 是一家「極左派、覺醒文化（woke）公司」。

儘管面臨美國政府的全面封殺，Anthropic 在資本市場依然炙手可熱。報導指出，這家目前估值達 3,800 億美元的 AI 巨頭，正尋求以高達 9,000 億美元的驚人天價進行新一輪融資。在商業利益、國家機器與道德底線的拉扯下，Anthropic 正走在一條極不尋常的科技發展之路上。