OpenAI 執行長 Sam Altman 上週對員工談了 AI 安全的三種終局：IAEA 式國際監管、各大實驗室合併，以及一家公司獨佔 AI 自我改進、熔掉其他人 GPU 的路線。據知情人士引述，他偏好第一條，直言第三條很糟。
（前情提要：Claude 對美國政府網站做出越界行為、送假命案線報，白宮要求即時通報）
（背景補充：Anthropic 私下推自家法案：AI 恐致 50 人死傷、10 億美元損失才能叫停）
三條路，這是 OpenAI 執行長 Sam Altman 上週對員工講的 AI 安全終局：他偏好仿國際原子能總署（IAEA）的國際監管機構；把各大 AI 實驗室合併成一家，他稱「Demis 計畫」；最糟糕路線，是某家公司率先做到 AI 自我改進，進而「熔掉其他人的 GPU」，他稱「Eliezer 計畫」。
new: @theinformation takes u inside Altman discussion re proposals for how the industry wants to do safety:
an IAEA for AI
a CERN for AI / merger of labs (i.e. @demishassabis circa 2017)
and 'the Eliezer plan' (i.e. @allTheYud) pic.twitter.com/X0OrTheOUA— Amir Efrati (@amir) October 19, 2026
三條路各是什麼？
第一條，是成立類似 IAEA 的國際組織，負責執行安全標準。據兩名知情人士，Altman 看起來贊成這條路。OpenAI 在 2023 年 5 月由 Altman、Greg Brockman、Ilya Sutskever 署名的〈Governance of superintelligence〉就寫過，超級智慧需要類似 IAEA 的機構。
超過一定能力或算力門檻的研發，要受國際機構檢查、接受稽核，並追蹤算力與能源用量。難處在於它得靠各國合作，包括中國。
第二條，是「Demis 計畫」，源自 Google 旗下 AI 實驗室 DeepMind 的 Demis Hassabis 大約十年前（Efrati 說約 2017 年）提出的 AI 版歐洲核子研究組織（CERN）構想。Altman 的版本，是大型實驗室合併成一個實體，或在它的傘下運作，再由這個實體把模型供應給合作國家。
Hassabis 本人 2026 年 7 月 14 日提的是另一種東西：仿美國證券業自律組織 FINRA、由業界出資、政府監督的自律機構，在模型推出前先測試。Altman 當時稱這份提案「深思熟慮」（thoughtful）。
第三條，是「Eliezer 計畫」，取自 AI 安全理論家 Eliezer Yudkowsky。情境是某家開發商率先做到遞迴自我改進（RSI），也就是 AI 能改進自己，改進後又更會改進。它藉此累積出壓倒性的經濟實力，斷掉其他人的算力，極端情況下「熔掉其他所有人的 GPU」。據一名知情人士，Altman 說「顯然，我認為那個很糟糕」，列出來是為了完整。
另一名知情人士說，由於 Yudkowsky 和 Anthropic 有淵源，部分員工把這個命名解讀成在暗諷對手 Anthropic。但這是員工的解讀，不是 Altman 說的。
熔掉 GPU 是誰的主意？
答案是 Yudkowsky 本人，但他的用意相反。美東時間 10 月 20 日，他在 X 上轉貼這則報導的摘要，寫道：「再一次證明現代世界一個基本、極其重要的事實：讀得懂我文章的人，從來不會去開 AI 公司。」
接著他補充：他寫「關鍵行動」（pivotal act，指能一舉阻止別人做出失控 AI 的行動）時就說過，這類做法全是壞主意、超出可討論範圍，所以他刻意挑一個「可以明講不該去做」的例子，免得別人把它算到他頭上：「熔掉所有 GPU」。
這個說法是真的，他 2022 年 6 月的長文〈AGI Ruin: A List of Lethalities〉第 6 條寫道：「我常舉的例子是『燒掉所有 GPU』，這不是我認為真的該拿強大 AGI 去做的事。」挑它是為了有人質問時，可以回答「我並不主張這麼做」。
也就是說，原作者本來就是拿來當反例。
三條路現在走到哪？
三條路都還停在紙上。第一條要中美坐下來談，離現實最遠。第二條要反壟斷機關點頭，等於造出一家更大的公司。第三條，連原作者都說是反例。
眼下真正在發生的，是 SAFA 這類業界自律，加上白宮的自願通報。它比 IAEA 式機構弱很多，也沒有人要合併。Altman 一邊說要選路，一邊說不能慢下來，而選擇的期限是一年。
📍相關報導📍
DeepMind 執行長主張成立國際監理機構「審查」前沿 AI 模型，上市前得先過關
OpenAI 罕見攜手 Anthropic、Google 協調 AI 安全，背後是在挖競爭護城河？
