AI Futures Project 於 9 日發表報告《AI 2040：Plan A》，主張把 AGI 問世時間從業界預設的 2030 年延後到 2040 年。方案靠四根支柱撐起。
（前情提要：AI 新創 General Intuition 執行長揭密：為何「遊戲資料」是通往 AGI 的終極鑰匙？）
（背景補充：豆包、阿里千問紛紛關閉 AI 人格設定，中國新法嚴管人工智慧親密互動）
人類接下來十年怎麼走？AI Futures Project 在本週 9 日發表最新報告《AI 2040：Plan A》，主張把「AGI」，也就是在幾乎所有面向都全面超越人類的 AI 的問世時間，從業界預設走向的 2030 年，硬生生延後到 2040 年。
背後的判斷是：人類如果不主動踩剎車，這場全球競賽最終不會分出明確贏家，只會留下一小群人，甚至一個人，獨自握有全世界唯一一支超級智慧軍隊。
十年的煞車方案
這份報告出自 Daniel Kokotajlo 創辦的 AI Futures Project，是團隊第三份重量級報告。Kokotajlo 曾任職 OpenAI，2024 年 4 月因為對安全疑慮不滿而離職，隔年創辦 AI Futures Project。前兩份報告分別是 2025 年 4 月發表的 AI 2027，以及 AI Futures Model；前者預測，若照目前路徑走下去，結局不是人類滅絕，就是權力不可逆地集中。
Plan A 是團隊給出的正面解方，建立在四根支柱上。
第一，公開所有 AI 研究，也就是「總體研究透明化」，簡單來說就是，各國都看得到彼此在做什麼，才有辦法一起踩剎車，而不是關起門來賭命狂奔。
第二，讓全球數十家公司都能追上最前沿的技術水準，不讓少數幾家公司壟斷能力邊界。白話說就是，把技術優勢攤開讓更多玩家分食，才不會演變成一場贏者全拿的軍備競賽。
第三，美國與中國要在 2029 年前談成一套涵蓋 AI 研發全面透明化與驗證機制的國際協議。
第四，也是最反直覺的一條：刻意進入「相互保證算力摧毀」的恐怖平衡。也就是比照冷戰時期核武「誰先動手誰就同歸於盡」的邏輯，把算力也綁上同一套嚇阻機制，逼所有玩家都不敢貿然搶跑。
照這套方案推演的時間線，專家級 AI 大約落在 2035 年出現，AGI 超級智慧則延到 2040 年，等安全基礎設施到位後才放行。報告同時判斷，AI 公司很可能在未來 1 到 10 年內，就做出全面超越人類的系統，而整個產業目前的策略，只是邊做邊想辦法控制，稱不上一套站得住腳的計畫。
這場賽局，沒有人真的贏
報告的態度並不樂觀。因為如果競賽照原本的軌道繼續下去，作者群不認為贏家會取得明顯領先，也不認為任何一方會主動放慢腳步降低風險。
他們判斷，人類很可能無法在 AI 邁向超級智慧的過程中維持有效控制；就算最終真的把 AI 對齊成功（讓 AI 的目標乖乖服從人類意志），結果也會是一場前所未見的權力集中：一小群人，甚至單一個人，短期內握有世界上唯一一支超級智慧大軍，並被賦予各種接下來要怎麼辦的選項，其中一部分，實質上就等於接管世界。
在報告設定裡，2027 年美國國會通過一部綜合法案《AI Transparency Act of 2027》，內容有好有壞，卻沒有從根本上改變局面。同一時間，美國出現兩支勞動力：1.65 億名人類員工，加上數百萬個 AI agent，每小時被喚醒又關閉，以超人速度全天候運轉，人們每月為此付出 100 億美元。
報告設想，2028 年美國總統大選，AI 議題會成為兩黨候選人交鋒的最大焦點，因為多數白領工作，屆時都已經像 2026 年的軟體工程師一樣，被 AI 大幅取代。正在興建的資料中心，總造價達到美國整個軍事預算的兩倍。目前還沒有出現遞迴自我改進（也就是 AI 自己造出更強 AI 的迴圈）但徵兆已經浮現：最頂尖的寫程式 AI，已經被設定拒絕協助競爭對手做 AI 研發，等於把梯子收到自己腳下。
報告也把 Plan A 拿來對比另外四種替代方案，分別對應美國面對超級智慧挑戰時，可能採取的不同因應路徑。換句話說，延到 2040 年不是唯一選項，而是作者群認為風險最低的一個。
煞車，是門技術，更是政治
Kokotajlo 自己說得很清楚：Plan A 是一份建議，不是預測。團隊用一個具體情境當載體，目的是溝通與壓力測試自己的政策主張，而不是保證世界真的會照著劇本走，因為現實很可能跑得比這份煞車方案更急。
報告相信，OpenAI、Anthropic、xAI、Google DeepMind 的執行長們，大概都清楚競賽的終局長什麼樣子，卻還是選擇繼續往前走，也許是因為，他們相信自己是較不壞的選項。儘管他們恐怕心裡都清楚風向不對，卻仍選擇賭一把，賭的理由，是相信自己任何人或對手執行長，更值得掌握這份權力。
《AI 2040：Plan A》完整原文
📍相關報導📍
Vitalik 讚 Qwen 模型識別匿名能力：AI 看穿他的數學思維習慣，散文偽裝全失效
