OpenAI 執行長 Sam Altman 昨（11）日於個人部落格發表一篇題為《溫和的奇點》（The Gentle Singularity）的文章，詳細闡述了他對人工智慧（AI）未來發展的願景。Altman 認為，人類已跨越技術「事件視界」，正邁向數位超級智能時代，且這場變革將以平穩而非突兀的方式展開。
（前情提要：年輕人把ChatGPT當人生攻略器！OpenAI執行長Sam Altman：超過35歲完全跟不上）
（背景補充：Sam Altman從新手老爸看AI未來：人形機器人要來了，你有準備嗎？）
OpenAI 執行長 Sam Altman 昨（11）日發表一篇題為《溫和的奇點》（The Gentle Singularity）的文章，詳細闡述了他對人工智慧（AI）未來發展的願景。Altman 認為，人類已跨越技術「事件視界」，正邁向數位超級智能時代，且這場變革將以平穩而非突兀的方式展開。
在這篇部落格文章中，Altman 提出的幾個核心觀點包括：
- 當前 AI 系統已在多方面超越人類能力，數億人每天依賴其完成重要任務，顯示 AI 已深度融入日常生活。他預測，2025 年將出現能執行認知工作的 AI 代理，2026 年 AI 系統可能產生全新洞見，2027 年則有望見到實體機器人執行現實世界任務。
- Altman 強調，2030 年代將迎來智能與能源的極大豐富，推動科學進步與生產力飛躍，生活品質將大幅提升。他指出，AI 加速自身研究的遞歸自我改進，以及自動化資料中心與機器人供應鏈的自我強化循環，將使智能成本趨近電力成本，從而實現「智能過於廉價而無需計量」的未來。
- 然而，他也承認挑戰，包括 AI 對齊問題（確保 AI 符合人類長期利益）與超級智能的公平分配。他建議，解決對齊問題後，應專注讓超級智能廉價且廣泛可用，避免過度集中於少數個人或公司手中，以促進社會適應與公平。
以下為 Sam Altman 部落格文章《The Gentle Singularity》全文。
溫和的奇點
雖然部分工作可能消失，但新機會與財富將湧現
我們已越過事件視界，起飛已經開始。人類即將打造出數位超級智能，至少到目前為止，這一切遠比想像中來得不那麼怪異。
街上尚未見到機器人四處行走，多數人也還沒整天與人工智慧（AI）對話。人們仍會因疾病去世，我們仍無法輕易前往太空，宇宙中還有許多我們不理解的事物。
然而，我們最近已建構出在許多方面比人類更聰明的系統，這些系統能大幅提升使用者的產出。最不可能的部分已成為過去；讓我們打造出像 GPT-4 和 o3 這樣系統的科學洞見來之不易，但將帶領我們走得很遠。
AI 將以多種方式為世界做出貢獻，但 AI 推動更快科學進步和提升生產力所帶來的品質提升將是巨大的；未來可能遠比現在美好得多。科學進步是整體進步的最大驅動力；想像我們能擁有更多，這是多麼令人興奮的事。
從某種重要意義上說，ChatGPT 已經比任何曾經存在的人類更強大。數億人每天依賴它，且用於越來越重要的任務；一個小小的全新功能就能帶來極大的正面影響；一個小小的偏差乘以數億人則可能造成巨大的負面影響。
2025 年見證了能執行真正認知工作的代理（agents）的到來；撰寫電腦程式碼將永遠改變。2026 年可能會出現能發現全新洞見的系統。2027 年或許會有能在現實世界中執行任務的機器人出現。
更多人將能創造軟體和藝術。但世界對這兩者的需求也更大，專家可能仍遠優於新手，只要他們擁抱新工具。總的來說，到 2030 年，一個人能完成的工作量遠超 2020 年，這將是個驚人的變化，許多人將會找到如何從中受益的方法。
在最重要的方面，2030 年代可能不會與現在有太大不同。人們仍會愛家人、表達創意、玩遊戲、在湖中游泳。
但在某些仍然非常重要的方面，2030 年代可能與以往任何時代截然不同。我們不知道智能能超越人類水平到什麼程度，但我們即將來探知答案。
在 2030 年代，智能與能源，創意以及實現創意的能力，將變得極為豐富。這兩者長久以來一直是人類進步的根本限制因素；有了充足的智能與能源（以及良好的治理），我們理論上可以擁有任何東西。
我們已經與驚人的數位智能共存，經過最初的震撼後，多數人已相當適應。很快地，我們從驚嘆 AI 能生成一段優美文字，到好奇它何時能寫出一部優美小說；從驚嘆它能做出救命的醫療診斷，到好奇它何時能開發出治療方法；從驚嘆它能創建小型電腦程式，到好奇它何時能創建一家全新公司。這就是奇點的進程：奇蹟變成日常，然後成為基本要求。
我們已聽到科學家表示，他們的生產力是 AI 出現前的兩到三倍。先進 AI 之所以引人注目，有許多原因，但最重要的大概是我們能用它來加速 AI 研究。我們可能發現新的計算基板、更好的演算法，甚至更多未知的東西。如果我們能在一年的時間內完成十年的研究，甚至一個月，那進步的速度顯然會截然不同。
從現在起，我們已建構的工具將幫助我們獲得更多科學洞見，並協助我們打造更好的 AI 系統。當然，這與 AI 系統完全自主更新其程式碼不同，但這仍是遞歸自我改進的雛形。
還有其他自我強化的循環正在發揮作用。經濟價值的創造已啟動了一個不斷擴張的基礎設施建設飛輪，用以運行這些日益強大的 AI 系統。而能製造其他機器人的機器人（以及某種程度上，能建造其他資料中心的資料中心）已不遠。
如果我們必須以傳統方式製造第一批一百萬個人形機器人，但隨後它們能運作整個供應鏈，挖掘和精煉礦物、駕駛卡車、營運工廠等，來製造更多機器人，進而建造更多晶片製造廠、資料中心等，那進步的速度顯然會截然不同。
隨著資料中心生產自動化，智能的成本最終應趨近於電力的成本。（人們常好奇 ChatGPT 一次查詢耗費多少能源；平均一次查詢使用約 0.34 瓦時，相當於烤箱運行一秒多一點，或高效燈泡運行幾分鐘。一次查詢還使用約 0.000085 加侖的水，大約是十五分之一茶匙。）
技術進步的速度將持續加速，而人類適應幾乎任何事物的能力也將持續存在。一些挑戰會很艱難，例如整類工作消失，但另一方面，世界將迅速變得更加富裕，我們將能認真考慮以前無法想像的新政策。我們可能不會立即採納新的社會契約，但幾十年後回顧，漸進的變化將累積成重大改變。
如果歷史有任何啟示，我們將找到新的事情去做、新的東西去渴望，並迅速吸收新工具（工業革命後的職業變遷是近期的好例子）。期望會提高，但能力也會同樣快速提升，我們都將獲得更好的東西。我們將為彼此建造越來越美好的事物。人類相較於 AI 有一個長期且重要的優勢：我們天生關心他人以及他們的想法和行為，而對機器則不那麼在意。
一千年前的農民若看到我們許多人的工作，會說我們有「假工作」，認為我們只是為了娛樂自己在玩遊戲，因為我們有充足的食物和難以想像的奢侈品。我希望我們能看到一千年後的工作，覺得它們是非常「假的工作」，但我毫不懷疑，對從事這些工作的人來說，它們將極為重要且令人滿足。
新奇蹟的實現速度將是驚人的。今天很難想像 2035 年我們會發現什麼；也許我們會從某年解決高能物理問題，到下一年開始太空殖民；或從某年實現材料科學的重大突破，到下一年開發出真正的高頻寬腦機介面。許多人可能選擇以相似的方式生活，但至少一些人可能會決定「接入」。
展望未來，這聽起來難以理解。但實際經歷時，可能會覺得令人印象深刻卻可應對。從相對論的角度看，奇點是一點一滴發生的，融合也是緩慢進行的。我們正沿著指數型技術進步的長弧攀登；向前看總是陡峭的，向後看則顯得平坦，但這是一條平滑的曲線。（回想 2020 年，若說到 2025 年接近通用人工智慧（AGI），聽起來可能比我們現在對 2030 年的預測更瘋狂，而過去五年實際上又是如何。）
除了巨大的潛力外，也需面對嚴峻挑戰。我們需要解決技術與社會層面的安全問題，但隨後，鑑於經濟影響，廣泛分配超級智能的存取權至關重要。最佳前進路徑可能是：
- 解決對齊問題，確保我們能穩健地保證 AI 系統長期學習並朝我們集體真正想要的方向行動（社群媒體饋流是對齊失敗的例子；這些背後的演算法極擅長讓你持續滑動，清楚了解你的短期偏好，但它們通過利用你大腦中的某種機制，覆蓋了你的長期偏好）。
- 然後專注於讓超級智能變得廉價、廣泛可用，且不集中在任何個人、公司或國家手中。社會具有韌性、創造力，且適應很快。如果我們能利用人們的集體意志與智慧，儘管會犯許多錯誤，有些事情會嚴重出錯，但我們將快速學習與適應，並能利用這項技術實現最大利益與最小風險。在社會必須決定的廣泛界限內，給予使用者很大自由度似乎非常重要。世界越早開始討論這些廣泛界限是什麼，以及如何定義集體對齊，越好。
我們（整個產業，而不僅是 OpenAI）正在為世界打造一顆大腦。它將極為個人化且易於所有人使用；我們的限制將是好點子。長久以來，創業圈的技術人員常嘲笑「點子人」，那些有想法卻尋找團隊實現的人。現在看來，他們即將迎來屬於他們的時代。
OpenAI 如今有許多面向，但在一切之前，我們是一家超級智能研究公司。我們面前有許多工作，但前方的道路大多已被照亮，黑暗區域正快速消退。我們對能從事這份工作感到無比感恩。
智能廉價到無需計量的時代已近在咫尺。這話聽起來可能瘋狂，但如果我們在 2020 年告訴你，我們會走到今天這一步，可能比我們現在對 2030 年的預測聽起來更瘋狂。
願我們平穩、指數級且無波折地邁向超級智能。
📍相關報導📍
GPT-5延期！OpenAI先推o3、o4-Mini，Sam Altman自曝：整合比想像中更難
