Anthropic CEO：政府應有權否決高風險 AI、上線前須強制測試，三大主張對撞川普鬆綁路線

Anthropic 執行長 Dario Amodei 發表長文，呼籲政府立法強制對強大 AI 模型進行第三方測試，並將 AI 類比成商用航空應受 FAA 式管制。三大主張涵蓋部署門檻、網路安全與勞動取代。
（前情提要：Claude有80%程式碼是自己寫的，Anthropic呼籲「全球設計煞車機制」玩真的？）
（背景補充：Anthropic執行長Dario Amodei：再6-12個月，中國開源AI模型就能追上 Mythos）

本文目錄

Toggle

三大主張：門檻、武器、取代
為什麼是現在，FAA 類比的邏輯與極限
對撞川普鬆綁格局

前一天剛發出旗下最強的通用模型，隔天就轉身說 AI 太危險、政府應該立法管制。這是 Anthropic 執行長 Dario Amodei 今（11）日給全球科技政策圈拋出的訊號。Amodei 在長文〈Policy on the AI Exponential〉中，首次以公司最高領導人的身份公開呼籲政府介入，對「前沿 AI 模型」的發布制定具法律效力的規範。

他引用的類比是商用航空：飛機要過 FAA（美國聯邦航空總署）的安全審核，AI 模型也應如此。Amodei 在 X 上說：

三大主張：門檻、武器、取代

進階 AI 框架提出的第一項主張，是設定強制第三方測試的量化門檻：訓練算力超過 10^25 FLOPs（浮點運算次數，簡單來說就是模型訓練消耗的計算量），或年 AI 營收超過 5 億美元、AI 研發支出超過 10 億美元的公司，旗下模型在上市前必須先通過獨立審計。

測試聚焦四個風險領域：網路安全、生物武器、AI 系統失控、以及可能加速前述風險的自動化研發。Amodei 的原話是：「前沿 AI 模型就像飛機，應被要求通過技術測試與審計；若未達高安全標準，其發布應被視為公共安全威脅而遭封鎖或撤回。」政府在此框架下將獲得法律授權，可以封鎖、延遲或勸阻部署。

第二項主張把 AI 定位為網路安全的關鍵基礎設施問題。Amodei 直接引用 Anthropic 自家模型 Claude Mythos Preview 作為例證，它已能在主要作業系統中找出高嚴重度漏洞，意味著攻擊與防禦能力都在同步提升。框架要求前沿開發商保護「模型權重」（簡單來說就是模型訓練後儲存的核心參數，一旦被竊等同把整個模型複製走）不被外部攻擊者或內部人員竊取，並建立通報「模型蒸餾攻擊」的法定管道。

第三項主張是三者中政治敏感度最高的：正面承認結構性勞動取代。經濟政策框架明文指出，若 AI 達到預測中的能力水準，它將是「勞動力的全面替代品」，而不只是生產力輔助工具。框架沙盤推演了失業率 5%、10% 甚至更極端的情境，並倡議工資保險、全民基本收入（UBI）、主權財富模式等對應機制。

為支撐這些主張，Anthropic 宣布投入 3.5 億美元：其中 2 億美元成立「經濟未來研究基金」，用於試點公共政策；另外 1.5 億美元辦理全國獎助計畫。Amodei 的收尾是：「關鍵挑戰不是激勵成長，而是找到讓每個人都能分享利益的方法。」

為什麼是現在，FAA 類比的邏輯與極限

這份框架選在此刻發布，有兩層背景值得拆開看。

第一層是技術節奏。Amodei 的論點是：過去因為風險輪廓還不清晰，精準立法時機未到；現在 Claude Mythos Preview 已經能主動找出系統漏洞，代表「不夠清晰」這個理由不再成立。他們把自家模型的危險程度當作立法依據，這個邏輯本身並非沒有說服力，但它同時意味著，發布愈強的模型，立法的急迫性論述就愈強。

第二層是 FAA 類比的邊界。商用航空的監管邏輯清楚：飛機壞掉有明確的物理因果鏈，測試標準可量化，事故責任可歸屬。AI 模型的「危險」目前仍高度依賴評估者的判斷框架，「前沿」的定義每隔幾個月就位移一次，第三方測試機構的公信力與獨立性至今尚未建立。FAA 類比作為論述入口有其吸引力，但把一套成熟產業的監管架構套進一個邊界持續移動的技術領域，細節上的難題並不比政治上的難題少。

Amodei 在文中也承認，這份框架是起點，而非終點。