Anthropic 研究院 6 月 4 日發布「When AI Builds Itself」長文，揭露 Claude 已撰寫自家超過 80% 的合併程式碼，AI 可獨立處理長達 12 小時的軟體任務，工程師生產力較 2024 年提升 8 倍，並正式呼籲全球建立「可驗證的放緩或暫停」機制。
（前情提要：Anthropic發布Mythos之時，會是DeFi的核爆時刻嗎？）
（背景補充：10年恩怨：如果OpenAI不曾虛偽，就沒有Anthropic的強大）
重點摘要
- Claude 撰寫 Anthropic 超過 80% 合併程式碼，工程師每季產出較 2024 年提升 8 倍
- AI 可獨立處理任務時長從 4 分鐘（2024/3）增至 12 小時（2026/3），倍增週期縮至 4 個月
- Anthropic 6/1 以 9,650 億美元估值遞交 IPO，6/4 呼籲建立全球 AI 暫停機制
六月四日，Anthropic 研究院發布一篇五千字長文《When AI Builds Itself》。開門見山丟出一個數字，截至 2026 年 5 月，Claude 撰寫了 Anthropic 產品程式碼庫中超過 80% 的合併程式碼。在 2025 年初 Claude Code 上線之前，這個比例是個位數。
然後文章裡面同時呼籲「我們認為，世界最好能有一個選項，在需要時放緩或暫時暫停前沿 AI 開發。」
AI正在自我進化
Anthropic 在文章中說明了 Claude 自己升級的能力曲線。
2024 年 3 月，Claude Opus 3 能獨立處理一個需要人類約四分鐘完成的軟體任務。
2025 年 3 月，Claude Sonnet 3.7 把這個數字推到了九十分鐘。
2026 年 3 月，Claude Opus 4.6 做到了十二小時。
這不是線性增長，任務時長的倍增週期從七個月壓縮到四個月。
Anthropic 在內部對 130 名研究團隊員工做了一份調查，請他們估算使用 Mythos Preview 帶來的生產力倍數，中位數是四倍。
而從工程端量化的話，平均每位工程師每季合併的程式碼行數，從 2024 年第二季到 2026 年第二季增加了八倍。程式碼產出在 2021 至 2024 年間幾乎持平，然後在 2025 年開始陡升。
2026 年 4 月，Claude 獨立完成超過 800 項 API 錯誤修復，將某一類錯誤的發生率降低了一千倍。一位工程師估算，同樣的工作量如果交給人類，需要四年。
研究端的數字同樣驚人，兩名人類研究員要花一週時間，在一個 AI 安全問題上恢復了 23% 的效能差距。Claude 代理群花了 800 個累計小時，用了約 18,000 美元的算力，恢復了 97%。
截至 2026 年 5 月，Claude 生成的程式碼品質已與人類工程師持平。Anthropic 的原話是「2025 年底時 Claude 寫的程式碼還比人差，現在打平，預計一年內嚴格優於人類。」
上次喊停的是 2019 年的 GPT-2
2019 年 2 月，OpenAI 發布 GPT-2 時宣布「太危險了，不完整公開」。那個模型有 15 億引數，能寫出一半通順的英文段落。
七年後的今天，那個被認為太危險的模型，大約等於一部免費手機 App 的基礎功能。
每一次前沿實驗室喊停或喊危險，事後都證明了兩件事，第一個是危險是真的。第二個是喊停的人不會真的停。
OpenAI 在 GPT-2 發布後九個月發布了完整模型。Google 在 2023 年宣布 AI 需要「負責任的暫停」後，不到一年推出了 Gemini Ultra。
但 Anthropic 這次給了一個具體數字，共同創辦人 Jack Clark 表示，他認為 AI 達成遞迴自我改進的機率，在 2028 年底前是 60%。
IPO之後的良心？
批評者沒有在客氣的，Bentley 大學數學教授 Noah Giansiracusa 對 Scientific American 說：「我不認為這是 Anthropic 真心要放慢速度。」他指出 Dario Amodei 的實際立場是全速前進，因為「暫停在現實中根本不可能執行，零機率。」
而且模型已經在「自我進化」了，還停止什麼？
喬治亞理工學院教授 Mark Riedl 在社群上說得更直接，大型 AI 公司全都跳上了「遞迴自我改進」的炒作列車。
更尖銳的解讀是，如果 Anthropic 呼籲全球暫停前沿 AI 開發，如果真的成功了，凍結的是 Anthropic 已經處於領先地位的競爭格局。這要嘛是上市公司突然發了大善心，要嘛是精準的公關操作，我們知道前者機率不高。
更快的錘子，不會自己決定釘什麼
紐約大學教授 Gary Marcus 是最不留情面的批評者之一。他在 Substack 發文說，Anthropic 發表這篇文章做了一次「偷換概念」（bait and switch），把兩個截然不同的東西混在一起講。
第一個是 AGI（通用人工智慧），假設 AI 能自主完成人類能做的一切。第二個是目前的現實，AI 作為一個非常快又好的編碼工具，讓人類工程師的產出倍增。
Marcus 的論點是，Anthropic 展示的資料全部是第二種。Claude 確實寫了 80% 的程式碼，但那 80% 是在人類設定目標、指定方向、審查結果的框架下完成的。它是一把極快的錘子，但錘子不會自己決定要釘哪根釘子。
一個更快的編碼工具大概不會毀滅世界。
這個批評有道理嗎？部分有。Anthropic 自己的資料也佐證了 Marcus 的觀點：Claude 在「選擇下一步研究方向」的正確率，從 2025 年 11 月的 51% 提升到 2026 年 4 月的 64%。有進步，但 64% 意味著每三次有超過一次選錯方向。
真正的遞迴自我改進需要的不是更快地寫程式碼，而是更好地決定「寫什麼程式碼」。前者 Claude 已經做得比多數人類好。後者是人類目前仍具有「比較優勢」的地方。
Anthropic 一位匿名員工表示：「人類現在的比較優勢是看到更大的圖景，思考超越當前任務範圍的事情。」
人類的優勢不知道能維持多久。
Anthropic 自己不信那個情況會發生
文章列出三種未來。
情境一：趨勢停滯。AI 能力遇到瓶頸，可能是能源、算力、晶片製造的供應鏈限制。Anthropic 的評語：「我們認為這不太可能。」
情境二：複合效率持續增長。AI 開發大幅自動化，但人類仍指導研究方向。100 人的公司做到一萬到十萬人組織的工作。人類程式碼審查成為新的瓶頸。Anthropic 認為「我們可能正走向這個情境」。
情境三：完全的遞迴自我改進。AI 自主設計並訓練自己的下一代，進展速度完全由算力決定。人類轉為監督、驗證、治理角色。
Anthropic 對第三種情境的風險描述值得逐字讀：「今天模型中偶爾出現的對齊偏差，在遞迴自我改進的環境中可能變得更頻繁，同時更難被理解。」
我們理解這件話，可能接近現在的 AI 偶爾會做出不符合人類意圖的行為，但我們看得到。當 AI 自己改進自己時，這種偏差會多次複合，而我們會越來越難弄懂，它走偏到哪裡去了。
這可能是 AI 自我改進中真正重要的一句話，「更頻繁，同時更難被理解」，AI 會走向對人類而言的邪惡嗎？
核武條約在 AI 時代行不通
Anthropic 提出的解法是一個「可驗證的全球放緩機制」，參考物件是冷戰時期的中程核武條約（INF Treaty）。
這個類比本身就說明瞭問題的規模，INF 條約從開始談判到簽署花了將近十年。它只涉及兩個國家。它可以透過衛星偵測飛彈發射井來驗證。
訓練 AI 模型不是飛彈發射井，只要一個辦公空間就能完成，而算力設施可以是遠距的，幾乎無法發現。
Anthropic 加了一個關鍵條件：「我們預期在其他處於前沿的開發者也以可驗證方式做到時，我們會放緩或暫時暫停。」
Anthropic 的意思是，如果所有人都停，我們會停。如果有人不停，我們也不停。這是博弈論，在 AI 開發的博弈中，目前的納許均衡是所有人都繼續跑，因為沒有人相信別人會停。
資本的本能是流動，沒有資本會暫停的。
常見問題
什麼是遞迴自我改進（Recursive Self-Improvement）？
指 AI 系統能完全自主設計並開發下一代版本。Anthropic 資料顯示 Claude 已撰寫自身 80% 程式碼，但目前仍需人類指導研究方向與審查結果，尚未達完全自主改進，Jack Clark 給出 2028 年底前 60% 達成機率。
Anthropic 呼籲暫停 AI 開發的動機是什麼？
Anthropic 提議建立類似冷戰核武條約的「可驗證放緩機制」，但前提是其他前沿實驗室也配合。批評者指出此呼籲與 9,650 億美元 IPO 申請僅隔三天，質疑凍結競爭格局的戰略意圖大於安全考量。
📍相關報導📍
Anthropic發布Mythos之時，會是DeFi的核爆時刻嗎？
