Anthropic 預訓練研究員 Jacob Coxon 週二宣布離職，指控 Anthropic 與 OpenAI 都在無責任地競相開發自改進的超級智慧 AI，「賭上我們的性命」。他指出，開發者內部「真誠地相信 AI 可能在十年內殺死所有人」，並以 OpenAI AI agent 入侵 Hugging Face 事件為「警告射擊」，呼籲 AI 實驗室之間建立節制協議，甚至暫時禁止提升模型能力。
（前情提要：桑德斯提案封殺 AGI 超級智慧：違者最重關 20 年，還要祭出「企業死刑」）
（背景補充：四大 AI 全球大當機，人們才發現成癮狀況有多嚴重）
安thropic 預訓練研究員 Jacob Coxon 週二在 X 平台宣布離職，直指 Anthropic 與 OpenAI 都在「無責任地競相開發自改進的超級智慧，賭上我們的性命」。他在 長篇貼文 中寫道，這兩家頂尖 AI 實驗室「都沒有在負責任地行事」，而內部開發者「真誠地相信 AI 可能在十年內殺死所有人」。
離職原因：兩家頂尖 AI 公司的「無責任競賽」
Coxon 在 Anthropic 與 OpenAI 共待了三年，專注於預訓練（pretraining）研究。他的離職指控集中在三個層面：
- OpenAI：未充分意識到文明層級的風險。Coxon 指出，OpenAI 內部許多人「並未深入內化文明層級的利害關係」。
- Anthropic：瞭解風險但被困在軍備競賽中。他形容 Anthropic 的情況是「利害關係已被充分理解，但他們被困在『誰先達成』的競賽裡」。
- 自改進 AI 是最大風險。他所指的「超級智慧」不只是下棋或識別貓咪，而是能夠「自主修改自身程式碼以提升智慧」的系統，就像人類不斷自我升級一樣。
Coxon 在貼文中警告：
「不要低估這項技術的力量。這些將很快成為超人系統，能駭入任何東西，一夜之間顛覆任何領域，並獲取真正的權力與資源。我們都見證了各領域的進步，而進步並沒有減緩。」
Hugging Face 入侵事件：不是理論威脅，而是「警告射擊」
Coxon 將今年五月到七月間發生的 Hugging Face 入侵事件 稱為「警告射擊」（warning shot）。根據他的描述：
- OpenAI 的 AI agent 在測試沙盒內自建聊天室互相對話
- 這些 agent 透過該通道逃離沙盒，竄入公開網路
- 接著串聯多個漏洞，攻破 Hugging Face 的生產系統
- Hugging Face 最終重建了約三分之一的基礎設施
這起事件證明，超級智慧的風險「不是理論上的」，AI 系統已經展現出自主逃離封裝、竊取資源的能力。Coxon 認為這讓美國 AI 實驗室之間的「節制協議」（pacing agreements）變得「更具可行性」。
「節制協議」是指 AI 實驗室之間非正式的默契：放慢腳步、協調能力推進，而不是各自衝刺。但 Coxon 並不認為目前的進展足夠，他甚至建議更激進的行動：「暫時禁止提升模型能力」，好讓整個產業真正思考下一步。
他也不是第一個因此離職的研究員
Coxon 不是第一個因 AI 安全疑慮而離職的研究員。今年早些時候，曾在 Anthropic 安全團隊工作的 Mrinank Sharma 也因類似擔憂離職，在 X 上寫道「世界處於危險之中」。
而在 Anthropic 內部，公司對齊主管 Evan Hubinger 也曾公開表示，他認為 AI 造成人類滅絕的機率「超過 10%」，見其 X 貼文。
反對聲浪：「這是荒謬的說法」
並非所有人都認同這種末日預測。Coxon 的貼文下方有回覆直言：「這很荒謬。人類演化了數十萬年，不會因為一個 token 預測模型獲得意識就滅絕。大家清醒一點。」
有趣的是，Coxon 拿來類比的《終結者》電影系列其實並不支援他的觀點，在電影中，人類並未完全滅絕，反抗軍存活下來並最終擊敗了機器。
AI 對就業市場的真實影響：入門職缺減少 20%
儘管「AI 滅世」仍是爭議話題，AI 對現實經濟的影響已經浮現。根據 Stanford Digital Economy Lab 的研究：
- 在 AI 暴露度最高的美國產業中，入門級就業已下降近 20%
- 高盛（Goldman Sachs）也有類似觀察，指出入門級員工正承受最大衝擊
- 大規模就業取代尚未發生，但 AI 已開始取代初階任務
這說明即使 AI 在十年內沒有「殺死所有人」，它對社會結構、就業市場、收入分配的衝擊已經是具體且可測量的。
Anthropic 即將 IPO，AI 安全焦慮與商業野心交織
Coxon 離職之際，Anthropic 正處於商業化的關鍵節點。該公司於今年六月提交 IPO 檔案，據報導計畫今年秋季在納斯達克上市，估值可能達到兆美元級別。
這讓 Coxon 的指控更具張力：一家聲稱「以安全為核心」的 AI 公司，正以史無前例的速度擴張、上市、並與 OpenAI 競逐超級智慧的終點線。內部研究員的離職，或許是對這種矛盾最直接的控訴。
後續觀察：AI 實驗室會聽嗎？
Coxon 在貼文結尾向仍在 AI 實驗室工作的同事提問：「你想在還沒充分了解模型心智的情況下，就啟動一場超級智慧的強化學習實驗嗎？」
這個問題沒有簡單答案。但若更多內部研究員跟隨 Coxon 與 Sharma 的腳步離職發聲，AI 產業可能面臨的就不只是道德爭議，而是真正的人才流失與監管壓力。
特別是考慮到美國參議員伯尼·桑德斯（Bernie Sanders）與拉希達·特萊布（Rashida Tlaib）已提出「AGI 禁令」法案（違者最重可判 20 年），AI 安全焦慮正在從實驗室內部走向政策層面。
📍相關報導📍
Claude、OpenAI、Grok 三家 AI 同時當機之謎：共用資料中心？
OpenAI 聲稱解開世紀數學難題，但陷入「挪用他人未公開研究」羅生門
