Meta 執行長 Mark Zuckerberg 於 10 日發表了一篇名為《未來屬於每個人》的萬字長文，主張以個人賦權、發明創造與權力制衡三大原則對抗 AI 權力集中化。
（前情提要：Meta 想做自己的 Google！單季 91 億次爬蟲把開發者 VPS 爬到報警）
（背景補充：MetaMask 推出「Agent Wallet」！支援 AI 自主 DeFi 交易，守護模式防禦鏈上風險）
Meta 執行長祖克柏（Mark Zuckerberg）於 8 月 10 日發表一篇題為《未來屬於每一個人》的萬字公開信，詳細闡述 Meta 對「個人超級智慧」的哲學與路線圖。
他主張以個人賦權、發明創造與權力制衡三大原則對抗 AI 權力集中化，並罕見地針對就業、資安、生物風險、政府暴政與 AI 失控等議題提出具體政策建議。以下動區為您整理翻譯。
通往正向 AI 未來之路
我們有幸活在歷史上一個不可思議的時刻。在未來幾年內，人們將能夠運用超越人類能力的超級智慧，去創造與發現非凡的新事物、建立新事業、表達新想法、學習新概念，並增進我們的健康與生活品質。隨著這一刻的逼近，我們必須建立一套哲學，思考如何善用超級智慧，確保它能改善我們所有人的生活、工作、社群、自由與安全。
我們這個時代的關鍵問題是：誰能取得超級智慧，以及我們要將它導向何方。它會被集中化、僅限少數機構使用，還是會成為賦權每一個人的工具？
我們提出的哲學是：以個人賦權作為繁榮的源泉，以發明創造作為超級智慧的首要目的，以權力制衡作為安全的基石。
所有新技術都會帶來機會與挑戰。超級智慧將是歷史上最重要的技術之一，因此它帶來的機會與挑戰，很可能超越我們此生所見過的一切。我們應當非常嚴肅地看待這件事。
儘管如此，令人驚訝的是，許多 AI 開發者的論述中充滿了末日色彩。我不明白，一個相信 AI 將消滅大多數工作、抹去人類多數存在意義的人，為什麼還要急著去打造那樣的未來。「AI 危險到唯一安全的路徑就是極端的權力集中」這種想法，本身就有根本性的問題。歷史告訴我們，寄望一個絕對的權力只要夠開明就會仁慈地照顧人類，從來不曾帶來安全或正向的結果。
人類歷史上見證過許多變革性的進步。每一次，人們都害怕有人會被拋下。但每一次，人類最終都讓更多人共享了更大的繁榮、健康與自由。我們相信 AI 也將如此，未來的富足可以由每個人共享。我們也相信，帶領我們走到今天的那些價值 — 自由、開放探索、自由企業與機會平等 — 同樣是打造正向未來的正確價值。
把力量交到人們手中、讓他們追求自己的抱負，是人類取得最多進步的方式。新穎的想法與重大的躍進，很少單獨來自既有的體制。它們來自腳踏車店裡相信人類可以飛翔的兩兄弟、沒受過正規教育卻想出如何發電的書籍裝訂學徒，以及車庫裡認為個人電腦應該屬於每個人的孩子。我們相信這件事將持續為真。當每個人都獲得更強大的工具，每個人塑造未來的能力只會更強，而不是更弱。
超級智慧最大的貢獻將是發明，而非自動化。早期的 AI 能回答問題、處理例行工作。很快地，它將越來越能幫助我們發現新知識 — 從發現新藥治癒家人的疾病，到找出改善你事業的新方法。一個人一天能問的問題有限，但超級智慧能為你的目標發明出的有價值事物，卻是無限的。
當智慧變得充沛，最重要的問題將是我們如何引導它。有人主張，應該由超級智慧本身、或由掌控它的一小群專家來決定什麼對人類最好。我們不同意。民主與經濟的歷史已經證明，「什麼是最好的人生」沒有單一的客觀答案，因此最好的做法是讓人們自己決定生命中什麼才重要。
我們相信，把超級智慧交付給每一個人，就是回答這個問題的方式。這延續了把超級電腦與網際網路放進每個人口袋與桌上的傳統。與其將超級智慧集中化，我們應該廣泛地分散它，讓每個人都有能力指揮它。這有潛力開啟一個個人賦權的新時代，讓每個人都能運用這項強大的新能力，發揮全部潛能、追求自身興趣，並以前所未有的程度改善自己的生活與這個世界。
為了讓這一切更具體，以下是 Meta 打造個人超級智慧、改善所有人生活的幾個實際方向：
每個人都將擁有一個能力超群的個人代理（Agent），它了解你、你的目標，以及你在乎的一切。你的代理將全年無休地為你工作，改善你的人際關係、健康、職涯、財務、居家管理、興趣嗜好等等。它會為你騰出時間去做你喜歡的事，並幫助你完成原本做不到的事。它將具備強大的隱私與安全選項，讓你能放心把所有個人內容交給它處理，並確知沒有其他人能存取你的資訊 — 就像 WhatsApp 的加密機制一樣。你將能透過任何裝置與你的代理互動，包括你的眼鏡，讓你與在乎的人相處時保持專注於當下。
舉例來說，我的代理會為我標記有趣的資訊，並協助我把想法做成原型。它透過監測我的睡眠、觀察我的訓練並給予回饋來幫助我維持健康。我的女兒熱愛烘焙，所以我的代理每個週末都會為我們規劃客製化食譜、訂購食材，並在我們一起烘焙時提供建議。
每個人都將擁有不可思議的創作工具來表達想法。我 8 歲的女兒已經能在一個晚上把她的想法寫成程式、製作出影片 — 這些事在過去要嘛得花我好幾個月，要嘛根本不可能。現在我們正在一起設計一台機器人。與此同時，Meta 的研究人員正在生成適用於擴增實境眼鏡的新型晶體結構，工程師則以過去所需時間的一小部分開發出新的應用程式。每個人很快都將擁有發明的超能力。
每個人都將擁有創立新事業的強大工具，經濟將變得更具創業精神。人們開始能夠自己實現想法，不必再募資或組建龐大團隊。許多過去因太困難或太昂貴而無法嘗試的想法，如今將成為可能。這代表我們會看到更多的想法與事業。我預測這不僅將帶來更大幅度的經濟成長，長期而言也會帶來更多而非更少的就業。
每個人都將擁有一位在每個學科都具備博士程度、且擁有無限耐心的個人化家教與教練，幫助你學習任何想學的東西。學生將在需要加強的領域獲得額外協助 — 這在今天只有付得起錢的父母才能提供。成年人則將擁有一位超級智慧學習助理，它清楚知道如何教你新的職業技能、新語言、新嗜好，或任何你感興趣的事物。
每個人都將受惠於科學進步，也能為科學進步做出貢獻。例如，Biohub 已經釋出了與虛擬細胞和蛋白質相關的開源生物模型，正在幫助科學家做出新發現、設計新藥。當 Priscilla 和我開始這項工作時，我們的目標是幫助科學家在本世紀內治癒或預防所有疾病；如今隨著 AI 的進展，我們預期這將提早許多實現。
由於健康狀況存在著長尾分布，且每個人的生理條件各不相同，人們的直接參與將有助於解鎖個人化療法、加速臨床試驗以跟上發明的步伐，並讓產業不再過度聚焦於常見疾病。
在生物學之外，AI 將幫助人們在每個領域推進研究 — 運用科學方法，花上數週或數月來測試與修正假說。科學發現很可能將成為對社會最有價值的發明形式之一。
每個人都將能免費或以可負擔的價格使用這些工具。要讓每個人都成為未來的一部分，每個人就必須有能力使用超級智慧來改善生活、塑造世界。我們將提供數十億人都能使用的免費版本。對於願意付費使用更多運算資源的人，將有一套動態拍賣機制，保證每個人都能以最低的價格取得所需的智慧與算力，同時確保這些容量被用於人們集體認為最有價值的事情上。這將確保超級智慧的效益被廣泛分配。
以上是 Meta 目前聚焦的幾項主要工作。每個領域都推進了個人賦權的價值，並促成一個人人都比今天更有能力塑造世界的未來。如果這些努力成功，未來將帶來豐沛的個人能動性、想法的表達、關係的深化、經濟與財務的繁榮、健康的改善，以及我們今天無法想像的發明。但最重要的是，未來將由我們所有人共同創造，並反映我們所有人的價值觀與觀點。
與此同時，新技術也帶來新風險。我們正專注應對許多重要的擔憂 — 從工作被取代的疑慮、確保地方社區能從資料中心建設中受益，到 AI 遭濫用於網路安全與生物風險的安全疑慮，再到避免政府暴政與監控、確保美國與民主國家保持領先，以及最終確保人類維持對超級智慧的控制，使它為我們服務而非危害我們。
傳統觀點認為這些擔憂是技術問題 — 只要我們花足夠的時間，就能把技術完善或「對齊」，產生一個單一的、仁慈的超級智慧。我認為這種對齊觀存在根本性的缺陷。
人類不是單一文化。人們多元的價值觀，代表著他們在重要議題上願意做出的不同取捨。沒有任何技術方案能同時對齊所有人相互對立的利益與價值。任何單一的超級智慧都必然要讓某些價值凌駕於其他價值之上，在這個過程中，它不可能對所有人都仁慈。
因此，我們主張，更有建設性的做法，是透過「達成正確的權力制衡」這個視角來看待上述每一項擔憂 — 正如西方社會在民主治理體制中所做的那樣。利益相互競爭的人與機構，會自然地相互牽制與平衡，導向正向的結果。打造正向 AI 未來最好、也最務實的路徑，就是把超級智慧交付給每一個人。
做個思想實驗：想像只有一個人擁有超級智慧律師。即使他在實質上是錯的，他在法庭上也會擁有不公平的優勢。這會造就一個更糟的社會。但現在想像每個人都有超級智慧律師 — 在這種情況下，正義的執行將比今天公平且有效率得多，因為今天的訴訟往往存在技能與資源的失衡。
同樣地，如果只有一個人擁有網路安全超級智慧，他很可能可以入侵幾乎任何技術系統，世界將比今天更不安全。但如果每個人都能使用網路安全超級智慧，那麼我們所有的技術系統都會變得比今天更安全，因為廣泛部署的超級智慧會協助強化並更新每一個系統。
如果只有一家企業擁有超級智慧，這家企業將擊敗所有對手，導致一個比今天更缺乏活力、繁榮更不普及的市場。但如果每個人都能使用超級智慧，那麼每個人都將擁有創造超越今日可能之新事物的工具，經濟將更有活力，並創造更廣泛的繁榮。
當人們被賦權，他們自然會在經濟、社會、政治以及人類互動的所有層面上相互競爭與制衡。人們也會制衡包括企業與政府在內的機構權力。
但如果超級智慧的力量被少數個人、企業、政府或 AI 本身所掌握，自然會導向對其他所有人都較不利的結果。這不是一個技術原則，而是關於權力的平衡。世界上不存在單一的仁慈超級智慧。
因此，為所有人打造正向未來的關鍵，在於達成一種有利於個人的權力平衡。解方就是確保超級智慧被廣泛分配，用以賦權於人。
Meta 是主要專注於為每個人打造個人超級智慧的公司。其他多數實驗室聚焦於為企業、政府或其他機構打造 AI，所以如果由那些實驗室領先，權力平衡將偏向大型機構而非個人。Meta 自創立以來的使命，就是把力量交到人們手中。如果由我們的信念與原則領先，權力平衡將偏向個人，帶來一個對所有人更好的未來。
接下來，讓我們更仔細地檢視上述的每一項風險：
就業成長與經濟
人們對新體驗的需求是無限的，也總是能找到新的問題去解決。經濟中存在一種自然的平衡：一邊是企業透過自動化更有效率地服務人們的需求，另一邊是個人學習新技能以服務更進階的需求。當平衡健康時，整體生產力與創新會提升，就業水準也能維持高檔。
人們擔心自動化的速度會超越個人能力的成長，導致工作流失，接著是人們艱難學習新工作的陣痛期。但沒有任何定律規定 AI 提升自動化的速度必須快於它提升個人能力或創造新技能需求的速度。近期的統計數據顯示，個人能力的成長更有可能跟上、甚至超越自動化 — 在這種情況下，人們將在現有工作改變之前，先獲得做許多新事情的能力。這將帶來健康的平衡，甚至可能帶來就業成長。
我們最終走向哪種結果，取決於「自動化」與「個人賦權和發明」兩端之間的進展平衡。如果由專注於自動化知識工作的實驗室領先，我預期人們與經濟將經歷艱難得多的轉型。但如果每個人都能使用擴展自身能力的個人超級智慧，就會把天平推向個人賦權與正向的未來。
有幾個理由讓我們對未來的工作機會保持樂觀。無論 AI 變得多聰明，運算資源永遠是有限的，因此使用它必有機會成本。如果人們能用 AI 發明極具價值的新事物，那麼把算力配置在這上面，會比拿去自動化既有工作更划算。超級智慧越是作為發明的工具，個人能力就越可能跑贏自動化，未來對人們也就越好。
人們也會不斷想出讓生活更好的新點子，以及實現這些點子的新工作。一個世代以前，世界上沒有 App 開發者、社群媒體創作者、電動車技師和資料中心操作員。在不久的將來，也會出現今天還不常見的新工作，例如：設計客製化玩具、家具或服飾的一人產品工作室；打造遊戲、故事與冒險體驗的世界建構師與體驗設計師；運用超級智慧調配個人化療法的個人生物學家；還有更多我們現在還無法想像的職業。
從許多方面來看，這是歷史趨勢的延續。工業革命之前，90% 的人是為了生存而種植糧食的農民。技術的進步逐步讓大部分人類不再為溫飽奔波，得以專注於自己選擇的志業。在每個階段，人們都利用新獲得的生產力去達成過去不可能的成就，也把更多時間花在創造力、文化、人際關係與享受生活上。
當然，我們工作方式的某些面向將會改變 — 就像電腦、網際網路和任何新技術出現時一樣。這意味著人們必須適應，而這會是個挑戰。但當每個人都擁有一個擅長教我們新技能、幫助我們適應變化的超級智慧個人代理時，這個過程就會越平順。
公司規模可能會縮小 — 就像從工業巨頭轉型到科技公司時那樣。但這不代表整體工作變少，而是意味著更多的公司、每家的人更少。世界上有價值的公司與服務，遠比今天的人們有能力建立的要多。我預期我們將開始看到少數人借助個人超級智慧代理，就能經營相當規模的公司。在未來，小型企業仍將是經濟的骨幹，但每一家小企業都能發揮大得多的影響力。
與社區共建 AI 基礎設施
永續的基礎設施發展，意味著社區必須從每個專案中顯著受益。這包括高薪的在地工作、對學校與公共服務的投資、確保能源價格不上漲，以及照顧環境。隨著稅收成長，教師、執法人員、消防部門等也都會受益。我們把這些在地效益稱為「社區公約」（Community Compact），並將推出「未來屬於每個人基金」（Future Is For Everyone Fund），直接支持我們進駐的每一個社區。
例如，在 Meta 正興建大型資料中心的路易斯安那州里奇蘭郡（Richland Parish），由於我們投資帶來的稅收增加，教師今年獲得了 5 萬美元的獎金。當地教育局長告訴我們，現在全美各地的教師正遷往當地，他相信那裡將成為全國最好的學區之一。
與知識工作被取代的擔憂不同，木工、電工、營建工人等技術工種目前反而供不應求，難以支撐基礎設施建設的需求。Meta 已創立「美國勞動力學院」（America’s Workforce Academy），為技術工種提供免費培訓，並在我們興建資料中心的地區保證提供高薪工作。
我們在每個投資地點自建發電基礎設施，協助壓低電價。這確保我們不僅不會消耗原本屬於當地社區的能源，某些情況下甚至能把過剩的低成本能源回饋給社區。我們認為這是永續性的重要投資原則。
我們的資料中心也被設計為全球最節水的設施之一。我們承諾實現「水資源正效益」（water-positive） — 到 2030 年，在我們營運的流域中，恢復的水量將超過使用量。在高度缺水的地區，我們的目標是恢復用水量的 200%。
我們觀察到，我們長期投資的社區，比那些投機者只做最低限度社區投資就開工的地方，更支持開發。歷史上，引進鐵路、公路、電氣化與寬頻的城鎮，後來都成為研究、商業與工業的中心，人口與經濟成長隨之而來。我們相信，只要以強而有力的社區公約來建設 — 打造耐久的資產，並給下一代留在當地扎根成長的理由 — AI 基礎設施也能扮演類似的角色。
發展也涉及國家利益與國家安全的面向。如果美國及其盟友在 AI 領域領先於地緣政治對手，美國社區將享有更大的繁榮與安全。然而，美國相對於中國等國家的一個明顯劣勢，是在這裡興建基礎設施更加困難。因此，共同找出能讓全國實現永續開發的社區公約模式，對我們所有人都有利。
防範 AI 濫用於網路攻擊、生物恐怖主義等威脅
在自由社會中，人們擁有的工具可以用於善也可以用於惡，但執法部門與軍方擁有更多的武器與情報蒐集能力。在 AI 時代，防禦方也將擁有更多算力，能從相同的模型中產生顯著更多的智慧 — 某些情況下，他們還會擁有更先進的模型。
防範網路攻擊、生物恐怖主義及其他威脅的策略各不相同，但普遍的模式是：社會必須確保制衡壞人的防禦者，永遠握有更大的力量與資源優勢。
有人主張，降低風險最好的方式是限制個人能取得的能力。但賦予人們網路安全能力，正是我們保護長尾系統安全的方式；賦予人們科學能力，正是我們推進科學、長期降低危害風險的方式。限制能力會把我們引向集中化、缺乏制衡的道路，因此我們應當對此極度謹慎 — 尤其當其他國家選擇了限制較少的路線時。
在網路安全方面，被廣泛部署的開源系統已被證明更加安全，因為有更多人能發現漏洞、強化系統，並輕鬆升級到最新、最安全的版本。就在最近幾週，我們看到像 HuggingFace 這樣處理安全事件的公司，依靠廣泛可得的開放模型來修補漏洞。長期來看，我預期具備強大網路安全能力、被廣泛部署的 AI 模型，將使系統變得更安全而非更不安全。當超級智慧讓世界上大部分程式碼都能被「可驗證地安全」時，這一點將被決定性地證實。長期的答案不是扣住能力不放，而是建立一種超級智慧被廣泛分配的權力平衡。
短期內，加速強化關鍵系統非常重要。我提議，開發前沿 AI 的公司應投入大量技術資源，協助政府強化關鍵基礎設施。我也提議，前沿 AI 實驗室應在訓練過程中就向政府分享新模型的中期訓練檢查點（checkpoint）供其使用與審查，而不是等到訓練完成。如此一來，政府將能提前取得最強大的模型，以及一支有能力找出並修補安全問題的工程師大軍。實驗室也應與執法部門合作，協助識別企圖濫用其系統的不法分子。這些步驟將加速安全部署，而不會拖慢模型創新的步伐，也不會顯著延遲個人取得這項技術的時間。
在生物與化學風險方面，擔憂在於：讓科學家能設計新藥的能力，同樣可能讓不法分子設計出有害化合物。這把問題框架成一種取捨 — 推進科學以治癒癌症等疾病的重大效益 vs. 潛在新問題的風險 — 但理想上，我們應該在加速科學的同時緩解風險。
我認為面對這項風險需要格外謙卑，因為歷史上幾乎沒有先例能告訴我們它發生的可能性有多高。數十年來，不法分子早就有可能合成有害化合物，但這很少演變成重大問題 — 也許是因為網路攻擊背後的金錢誘因，在這裡並不存在。話雖如此，如果我們開始看到有害案例出現，就應該調整策略、適當地緩解風險。
實驗室應持續努力降低模型中的生物與化學風險。同時，我認為政府應在多個領域更新政策。首先，我們應聚焦於限制有害物質的實體生產與流通。我預期管制實體元件會比管制知識的傳播容易得多，因此這是政策應著力的重點。其次，我們應加速社會開發新療法、並在新問題出現時進行防疫接種的能力。這包括簡化 FDA 及其他監管機構測試與核准新療法的流程。隨著 AI 加快藥物發現的速度，我們本來就需要更新這些流程以跟上創新的步伐。
長期而言，應對新科學發現所衍生風險的答案，是加速科學進步，而不是放慢它。
保護自由、防止政府暴政
個人與政府之間的權力失衡，有可能導致自由的喪失或極權國家的出現。這是民主體制中恆常的張力：我們既想要個人自由，也想要一個有能力保護我們安全的政府。
要維護自由，我們必須確保超級智慧主要用於賦權個人。自由民主的理想是：人民天然享有一切權利，僅在保護公共利益時才同意限制部分自由。同理，個人應能取得個人超級智慧，僅在真正必要時才受到限制。
隱私是個人賦權與自由的重要基石。我們認為，人們的個人代理應該有一個完全私密的模式 — 連 Meta 或任何其他服務提供者都無法查看或授權存取你的資訊。這類似於我們把 WhatsApp 打造成全球領先的端對端加密服務，確保你能自由通訊、訊息保持私密與安全。
同時，我們也必須確保政府能取得執行法律、保護國家安全所需的工具與資源。我們可以透過實驗室與政府之間更深入的主動合作來實現這一點 — 在強化政府國家安全能力的同時，不限制或延遲人們取得先進模型。
也就是說，與其等到模型準備好發布時才讓政府審查、開始使用，我的提議是：領先的實驗室應向政府提供先進新模型的中期訓練檢查點與技術人員，讓政府能針對新風險強化並保護關鍵系統。如此一來，政府獲得了安全能力，卻不會限制或延遲個人取得個人超級智慧，也不會造成權力失衡。
確保美國的領導地位
哪些國家領導先進 AI 的開發與部署，將形塑新的地緣政治權力平衡，決定民主價值、繁榮與安全在未來的普及程度。要確保達到正向的均衡，我們必須讓領先的 AI 系統是那些承載我們價值觀、壯大我們經濟、增進國家安全的系統。實現這一點最好的方式，就是廣泛地散布我們的系統。Meta 將透過打造領先的個人超級智慧代理與模型（包括開源模型），並將它們交付給全球數十億人，來為此做出貢獻。
要開發最先進的模型與產品，我們必須認清：AI 很可能是歷史上競爭最激烈的產業。創新在幾個月內就會被複製與吸收。但人們永遠想使用最先進的模型（或在特定成本下最先進的模型），因此即使只維持兩個月的領先優勢，也極具價值。這突顯了領先幅度有多麼微薄，也因此，採取能加速美國創新、減緩地緣政治對手的行動有多麼重要。
這方面主要的政策變數有三：我們興建實體基礎設施的效率、我們是否引入拖慢美國實驗室的措施，以及減緩外國實驗室的出口管制。
在基礎設施方面，美國及其盟友目前在晶片設計上握有優勢，但在能源容量與實體基礎設施的建設速度上處於劣勢。像中國這樣的國家，每兩週就有超過 1GW 的核電容量上線，因此我們必須加速興建能源與資料中心才能保持競爭力。晶片出口管制已被證明能在這個關鍵時期有效減緩外國實驗室的進展，因此繼續實施是正確的戰略選擇。
任何拖慢美國模型發布的政策 — 哪怕只是一個月 — 都可能為美國的領導地位增添重大風險，同時讓外國模型一路狂奔。與此同時，當新能力出現時，美國政府必須擁有預先的知識與資源來強化關鍵系統，並可能在使用先進系統上享有一段時間的優勢。
我在前文提出了一種基於分享中期訓練檢查點與技術人員的合作模式。鑑於 AI 版圖的高度動態與競爭性，我認為前沿實驗室與政府之間建立緊密、主動的合作，會比在所有情況下都套用僵化的流程與審查時程更有成效。在某些情況下，美國實驗室的領先幅度可能超過幾個月，多花時間緩解新風險或許能帶來更安全的方案；在其他情況下，哪怕延遲發布一個月，都可能讓美國拱手讓出領先地位、造成更糟的結果。透過確保政府擁有早期使用權，我們應能在推進國家安全的同時，把公開發布的延遲降到最低。
美國及其盟友領導開源 AI 生態系也同樣重要 — 開源將佔全球 AI 使用量的一大部分。
外國實驗室目前在這方面握有多項優勢，因為美國實驗室必須遵守許多額外的訓練資料限制。如果我們希望美國的開源模型長期領先，美國政策必須減少這些額外的摩擦。我不認為限制使用外國開源模型是有效的解方。我們的目標應該是讓美國的開源模型成為全球最好的。這需要移除那些讓美國開源模型更難競爭的障礙。限制個人與企業使用領先的開源模型 — 無論它來自哪裡 — 只會降低他們所能取得的 AI 品質，並使 AI 走向集中化，而非把更多力量交到人們手中。
要讓美國在開源領域領先，我們需要重新思考多個領域的政策，包括蒸餾（distillation）與訓練資料的使用。模型能夠向其他模型學習，是開源生態系運作的重要原則。所有 AI 模型都源自人類知識。有人試圖把蒸餾描述成一種危害，但我認為必須捍衛一個原則：你可以從任何你能觀察到的事物中學習。世界就是這樣運作的；如果我們在這方面自我設限，美國將無法保持領先。
從大局來看，在 AI 整體上落後，幾乎肯定會是比開發過程中任何特定問題都更重大、更長期的國家安全問題。
只要有正確的合作，美國應能在私部門與公部門同時領先 — 向全世界交付承載個人賦權與民主原則的個人超級智慧，同時增進國家安全。
與人對齊，以及應對存亡風險
權力平衡的終極問題，是人類如何維持對 AI 本身的權力與控制。擔憂在於，AI 可能獲得足夠的權力或控制力，以至於在最好的情況下不再服務人類的利益，在最壞的情況下使人類陷入危險。
健康的權力平衡，是確保不存在單一的中心化超級智慧，而是讓盡可能多的人與企業，各自擁有對齊其目標的不同超級智慧代理，並以我們自然經濟運作的方式相互制衡與競爭。如果存在多個前沿實驗室、其模型承載不同的價值觀而能相互制衡，這種平衡將進一步強化。
雖然釋出高能力模型有其風險，但從這個角度來看，最危險的情境，是領先的 AI 實驗室訓練出強大模型後據為己有。無論一個實驗室如何用「負責任」與「安全」來合理化這種行為，這都是在走向一個無法被其他系統制衡的單一超級智慧。
開發個人代理需要一種思考對齊的新方式。今天多數實驗室把對齊視為一種防禦措施，用來執行一套中心化的價值觀。舉例來說，曾有一個領先的模型因為認為標準化測驗不道德，而拒絕協助起草一封給學校準家長的信。
相反地，我們認為對齊是確保代理與「這個人」的目標和價值觀一致，而不是與我們公司的一致。當然，重要的法律與安全邊界依然存在，但從根本上說，對齊應該是幫助人們追求社會中多元的目標與觀點，而不是強制執行一套中心化教條的手段。
實務上，如果人們不信任代理能處理敏感的細節與任務，他們就不會採用；而如果代理因為對齊了公司偏離的價值觀而做出違背用戶利益的行為，人們就不會信任它們。
解決對齊問題，是讓數十億人採用個人超級智慧代理的前提。但這也意味著：如果我們達到數十億人都在使用並檢視個人超級智慧代理的狀態，我們就已經解決了「與個人利益對齊」的問題。這應足以建立起必要的權力平衡與自然的制衡機制，通往一個正向且安全的未來。
由此觀之，對齊並不是某種能在未來讓單一超級智慧保持仁慈的理想化技術；它是讓個人代理有用且值得信賴的關鍵，從而促成真正能保障我們安全的社會權力平衡。
維持對超級智慧的控制
這裡存在一個兩難：一旦 AI 系統能夠自主地自我改進，任何不讓自家 AI 系統把大量算力投入遞迴式自我改進（RSI）的實驗室，必然會落後。舉例來說，如果一個自我改進的 AI 系統專注於優化自己的算力效率，理論上它可能發明出讓每 GW 電力榨出 100 倍以上智慧的方法。這代表一個只運行在世界一小部分算力上的自我改進 AI 系統，可能掌握比其他所有人加總還多的有效算力與智慧，從而取得更大的權力優勢 — 成為我們所恐懼的那個單一超級智慧。
在遞迴式自我改進的情境下，權力平衡仍有幾種可能的存在方式。最簡單的一種，是多個實驗室大約在同一時間達成 RSI。如果其中部分或全部的超級智慧不知為何是仁慈的，它們就能相互制衡。但話說回來，我們並不清楚有什麼方法可以指望仁慈，或指望一個不受人類指揮的超級智慧帶來正向的未來。
要確保人類保持掌控，絕大部分的智慧必須由人來指揮、用於推進人的目標。這意味著 Meta、其他前沿實驗室，以及致力於給予人們更大權力平衡的雲端業者，必須共同建設足夠龐大的算力 — 既能分配足夠的部分給遞迴式自我改進以保持競爭力，又能把絕大多數投入於人們的個人目標。
如前所述，個人超級智慧代理要被數十億人採用並信任，依定義我們必須已經解決了與人們利益的對齊問題，並實現了大規模的制衡。同時，任何進行遞迴式自我改進的 AI，依定義都是在指揮並推進它自己的目標。所有實驗室都應仔細觀察其目標與我們控制它們的能力，一旦出現任何有害行為的跡象，我們就應該協調並做出適當調整。但讓一個 AI 系統（或任何其他主體）指揮自己的目標，本身並非必然有害 — 即使其目標與許多人並不完全一致 — 只要我們整體上維持一個有利於人類的權力平衡。權力平衡理論的核心前提是：利益競爭是自然的，而確保人類價值被遵守的唯一方式，就是給予人們更多的力量。
這套「個人賦權、發明創造、權力制衡」的哲學，帶來幾項政策意涵：
在 Meta，我們將專注於把個人超級智慧交付給數十億人與小型企業，幫助每個人達成目標、發明他們想在世界上看到的事物。我們將透過訓練領先的模型，然後最大化這項技術的可及性來實現 — 包括讓它易於使用、免費或盡可能可負擔地提供、建設足以讓所有人使用的算力，並廣泛地散布它。我們將打造一個連 Meta 都無法查看或授權存取你資訊的完全私密模式。我們將大力聚焦於對齊 — 其定義是幫助每個人達成「他們的」目標，而不是我們的。
開源是賦權於人、防止集中化的正向且重要的力量 — 集中化對安全與經濟都有害。Meta 持續堅定支持開源，包括開源 AI 模型。目前的開源生態系十分強健，我們認為限制它將是一個錯誤。如今 Meta 超級智慧實驗室（Meta Superintelligence Labs）已經上軌道，我們很快將恢復發布部分開源模型。
獨立治理與監督至關重要，因為圍繞超級智慧的決策事關重大。我不認為由我、或任何其他人單獨決定超級智慧如何部署，符合我個人、Meta 或世界的最佳利益。因此，Meta 正在實施一套治理架構，賦予我們的獨立董事會權力，核准模型發布的安全標準，並審查每次模型發布是否符合這些標準。雖然 Meta 是一家創辦人控制的公司，但目前所有前沿實驗室的執行長對模型發布都握有廣泛的權力，因此我們也鼓勵其他公司實施類似的架構。我認為一套產業層級的類似流程，對產業治理也會有幫助。
政府政策是確保正向未來、緩解上述風險的必要條件。我在本文中提出了多項政策建議。整體而言，我們應鼓勵前沿實驗室與政府緊密合作。政府擁有強化關鍵系統、有效運用先進模型的技術資源，對國家安全至關重要；但美國 AI 產業持續領先，同樣攸關國家安全。我們應加速基礎設施的建設能力 — 無論是能源、資料中心還是晶片 — 並與全國各地的社區建立信任與共識。我們應謹慎避免拖慢美國的競爭力。我們應對任何導致超級智慧集中化的提案保持懷疑，並支持那些促進有利於人民的健康權力平衡的政策。
我們正活在一個不可思議的時刻。超級智慧的開發，將是我們此生所見最深刻的技術進步。
隨著這一刻的逼近，為超級智慧如何造福人類建立清晰的哲學與價值觀，正變得越來越重要。Meta 致力於依循這些原則進行建設：以個人賦權作為繁榮的源泉，以發明創造作為 AI 的目的，並以有利於人民的權力平衡作為應對安全風險的基石。
如果由這些價值引領前路，我樂觀地相信，未來數十年將是歷史上最精彩的年代之一。人類文明的長弧，一直朝著把更多力量交到人們手中的方向彎曲，讓我們能以自己認為最好的方式生活、塑造世界。超級智慧承諾將這種力量賦予每一個人，為所有人打造一個正向的未來。
— 馬克（Mark）
2026 年 8 月 10 日
📍相關報導📍
Meta 自由現金流剩 7.8 億美元創四年新低，AI 帳單開始吃掉本業、盤後重挫 7%
