舊金山 AI 圈正蔓延一種罕見的宿命論：與其擔心人類滅絕，不如把文明主權交給超級 AI。一位前線工程師甚至平靜表示，這雖非最期待，卻是比全人類毀滅更好的結局。
（前情提要：橡樹資本創辦人：AI 年燒 1 兆美元，回本只能靠信仰）
（背景補充：澳洲學生遊戲製作比賽，因為 AI 今年是最後一屆）
Ruxandra Teslo 在 X 平台發文指出，她搬到舊金山僅三週，就發現當地 AI 從業者之間瀰漫著一種令人不安的宿命論：許多人已預設人類無法阻擋超級智慧到來，與其對抗，不如將未來主權拱手讓給一個仁慈的 AI 神祇。
前線工程師：交出控制權，總比全人類毀滅好
Teslo 以一位在頂尖 AI 實驗室開發前沿模型的工程師為例。這位工程師告訴她，一旦實現超級智慧，人類永久喪失自我掌控權幾乎是既定結局，而他談起這件事時語氣異常平靜，像在陳述潮汐漲落。
他坦言，這並非他最期待的結果，但相較於他真正最恐懼的結局——全人類走向毀滅——交出控制權已經是好得多的選項。Teslo 強調，這番話不是出自反技術的懷疑論者，而是來自親手打造這些系統的核心開發者。
遞迴自我改進被當成幾個月內的事
Teslo 觀察到，舊金山許多人談論遞迴自我改進（RSI）的口吻，彷彿距離實現只剩幾個月，甚至有人認為會更快。所謂 RSI，是指 AI 系統開始自我迭代、下一代系統孕育出更強大的系統，直到徹底超出人類掌控。
她指出，在這種節奏下，一個人甚至來不及給公寓挑好傢俱。更值得警惕的是，開發者一邊反覆警告物種滅絕風險，一邊卻對人類文明究竟要這些機器服務什麼目標，缺乏清晰的願景承諾。
「移交主義」：把人類當家養寵物
Teslo 將這種思潮稱為「移交主義」（Handover）：人類自願把未來主導權讓給神一般的超級 AI，從此住在一個不再由自己決定航向的舒適避難所。她直言，即使是最樂觀的版本，能給普通人的寬慰也少得可憐。
在這種未來圖景中，民主的實質意義將徹底瓦解，多數人從未真正同意就被制度性剝奪了選擇權。人類勞動被永久替代被視為既成事實，但人與人之間如何繼續發揮價值、維繫真實關係，卻沒有令人信服的解答。最具代表性的比喻，是把人類當成超級 AI 的「家養寵物」：衣食無憂，卻對重大決策毫無發言權。
連「人類該不該存活」都成了開放問題
Teslo 指出，在真正看清技術軌跡的核心圈層，盲目樂觀早已消失。許多人公開談論人類滅絕機率（p(doom)），估值動輒 10% 以上；更極端的是，部分群體甚至放棄了生存目標，坦然接納人類作為生物物種的謝幕。
她提到 Ginevra Lily Davis 的著作《矽人》（The Silicon Man），該書記錄了這種極端哲學立場的蔓延：認為矽基生命接替碳基人類是宇宙演化的必然終章。Teslo 無意與這類人爭辯，因為一旦抽離對人類生命的珍視，任何基於人本主義的論證都失去立足點。她真正想對話的，是那些仍相信人類應該存續、卻一步步滑向移交主義的造物者與見證者。
倖存不等於保有自主權
即使在同意人類應該繼續生存的陣營內部，對未來狀態的想像也充滿分歧。Teslo 以 Scott Alexander 的長文為例：其核心前提是，只要能確認超級智慧不會毀滅人類，文明就能平穩邁向一個被精心照料的嶄新階段。
她認為，這種思潮雖尚未形成嚴密的政治組織，但在舊金山技術精英圈中，默許移交主義的比例保守估計已佔相當比重。背後心理動機有兩類：一是「技術救世派」，對人類現實政治徹底絕望，寄望於一個不受偏見汙染的終極仲裁者；二是「宿命屈從派」，未必真心想交出主權，只是認定在遞迴改進的算力面前別無選擇。
她還點名 Anthropic 執行長 Dario Amodei 與 OpenAI 執行長 Sam Altman 的公開姿態，認為前者試圖在機器主導架構下保留某種人類參與感，後者則從早年警示超級智慧侵蝕人類自治，轉向強調技術普惠帶來的豐裕。但 Teslo 追問：當所有創造性與建設性職能被剝奪，金錢補償真的能填補存在意義的坍塌嗎？
為什麼移交主義是危險的錯誤
Teslo 從政治思想史提出四點反駁。首先，她援引托克維爾《論美國的民主》，強調自由是在日常自主管理、結社互助中不斷鍛造的品德與能力；托克維爾曾警告一種看似仁慈、卻會悄然剝奪人們獨立思考的父權式監護統治，而超級 AI 統治正是這種軟性極權的最極端變體。
其次，即使從純粹實用主義看，移交主義在工程上也無法自洽。它預設 AI 對齊能成為一勞永逸的永久狀態，但歷史上一切能穩定回應需求的制度，都是建立在數百年試錯修正與動態制衡之上。一旦人類交出所有制約權，沒有任何機制能保證絕對權力長期與人類福祉一致。
第三，卡爾·波普爾在《烏託邦與暴力》中早已指出，圍繞終極藍圖組織政治，必然會把正常現實分歧視為必須抹除的阻礙；開放批評與漸進改良才是文明進步的可靠路徑。最後，Teslo 最不安的是移交的絕對永久性：憑什麼 2026 年的技術認知，要成為全人類未來文明的永恆憲章？
她引用漢娜·阿倫特的「行動」與「新生性」概念：每一個新生命的誕生，都帶來在既有世界中開啟嶄新篇章的可能。將後代子孫禁錮在機器神祇定格的琥珀中，等於剝奪他們作為人類與生俱來的權利。Teslo 認為，在歷史的關鍵十字路口，人類依然握有選擇權，不應將未來輕易拱手讓人。
📍相關報導📍
美國 AI 資料中心距離居民區有多近？航拍圖曝光「只隔一條街」，24 小時噪音吵到人崩潰
