XPRIZE 創辦人、未來學家 Peter H. Diamandis 在 X 上丟出一句「記憶體而不是算力,才是 AI 代理時代真正的速率限制環節。」馬斯克在底下回了五個字,「很少有人意識到這一點」。但這句話他自己今年已經在四個不同場合講過,而韓國券商三天前才因為擔心記憶體景氣見頂,下調了三星與 SK 海力士的目標價。
(前情提要:馬斯克警告:AI晶片、記憶體嚴重缺貨,Terafab蓋在Giga Texas、燒30億鎂跑Intel 14A交付SpaceX)
(背景補充:HBM 記憶體已佔 AI 晶片 63%成本,海力士、三星、美光坐收算力定價權)
重點摘要
- 馬斯克在 X 認同記憶體才是 AI 代理時代瓶頸,回覆「很少有人意識到這一點」
- 他在 SpaceX Q2 法說會給出數字,記憶體產能年增約 20%,需求年增 200%
- 閃迪估 KV 快取 2027 年帶來 75 至 100 EB 額外 NAND 需求,2028 年可能翻倍
XPRIZE 創辦人、未來學家 Peter H. Diamandis 在 X 上貼出一句話說「記憶體,而不是算力,才是 AI 代理(AI Agent)時代真正的速率限制環節。」
他的理由是,當 AI 代理大規模上工,長期記憶、上下文記憶與持久記憶的能力會取代算力成為瓶頸,算力再強,代理記不住也調不出前面做過什麼,實用性一樣被鎖死。
馬斯克在底下回了一句「很少有人意識到這一點」。
Few realize this
— Elon Musk (@elonmusk) August 14, 2026
這句話馬斯克今年講了四次
第一次是 4 月 22 日的特斯拉 Q1 法說會。他當時的說法是「就產業增長速度而言,邏輯晶片,甚至更多的是記憶體晶片,我們預計如果我們不自己製造晶片,就會遇到瓶頸」,這句話直接變成 Terafab 的立案理由,特斯拉為此在 Giga Texas 押上 30 億美元跑 Intel 14A 製程,整個計畫的總預算抓在 250 億到 400 億美元。
第二次是 6 月底,蘋果執行長 Tim Cook 抱怨記憶體漲價幅度前所未見,馬斯克出面附和。第三次是 8 月初的 SpaceX Q2 法說會,這次他給了數字,記憶體產能一年只增加約 20%,需求一年增加 200% 甚至更多,所以「現在擴建 AI 算力的限制因素是記憶體供給」。第四次就是這回在 X 上點頭。
對已經決定自己蓋晶圓廠的馬斯克來說,「很少有人意識到」這句話的功能,比較像是在替那 250 億美元的預算作解釋。
AI 代理吃的不是算力,是記得住多少
Diamandis 講的瓶頸在技術上有個具體名字,叫 KV 快取(KV Cache)。模型每讀進一個 token,就會產生一組代表 token 之間關係的鍵值資料,這些資料必須留在記憶體裡,模型才不用每次都從頭重算。聊天機器人一次對話用掉的量不大,但 AI 代理跑一趟編碼或研究任務,動輒燒掉數百萬 token 的上下文,而且它得記住整段過程。
問題是 HBM 太貴也太少,於是整個產業給出的答案不是把 HBM 加多,而是把上下文往下搬。NVIDIA 在今年 CES 發表 Inference Context Memory Storage Platform,用 Dynamo 與 NIXL 軟體把 KV 快取直接搬到 NVMe SSD 上,讓它變成記憶體位址空間的一部分並且跨推論任務保留,官方宣稱可帶來最高 5 倍的每秒 token 數與 5 倍能效,戴爾、HPE、IBM、Pure Storage、VAST Data 等十多家廠商都跟進支援。
- SNDK 估算:單是 KV 快取就會在 2027 年多出 75 至 100 EB 的 NAND 需求,2028 年可能翻倍,而這塊完全不在現行的需求預測裡
- SNDK 估算到 2030 年,KV 快取將吃下 AI 資料中心 NAND 工作負載的 35%
- TrendForce 統計:伺服器已佔 NAND 位元需求的四成以上,2026 年資料中心將首度超越手機與筆電,成為 NAND 最大單一應用
所以「記憶體是瓶頸」這件事,真正在發生的不是 HBM 需求無限上昇,而是整個記憶體階層被重新排隊。上下文從 HBM 往 NAND 和硬碟下沉,成本降下來,能塞的計算量才變多。這也是為什麼閃迪這種純 NAND 廠會在這輪被重新定價。
市場在賭什麼時候結束
馬斯克說很少有人意識到,但過去半個月的韓股走勢則反映的是另一件事了。
7 月 29 日,SK 海力士揭露正在與主要客戶敲定 2027 年 HBM 供應量與定價,同日 KOSPI 重挫 10.84%,SK 海力士跌超過 14%、三星電子跌 13%。8 月 11 日,Kiwoom 證券把三星目標價從 39 萬韓元下修到 35 萬韓元、SK 海力士從 220 萬韓元下修到 210 萬韓元,未來資產、新韓投資、三星證券也陸續跟進,理由是擔心通用記憶體景氣已經過了高點,但兩檔的投資評等都還維持「買入」。
然後 8 月 14 日,閃迪端出 2028 至 2030 年營收年增 15% 至 20% 的長期指引,說法是靠與客戶簽的長期定價協議撐著,亞洲記憶體股應聲反彈,鎧俠在東京一度漲 8.7%,SK 海力士在首爾一度漲 6.5%,彭博亞洲半導體股指數連五個交易日走高。
三週之內從崩盤到砍目標價再到反彈,市場顯然很清楚記憶體有多重要。市場真正沒把握的是這波要走多久。TrendForce 7 月的推估是 2026 年 NAND 供給還有 4% 到 5% 的缺口,要到 2027 下半年供需才會轉正,中國廠商的位元產出份額同期會拉到接近 19%。美光的新產能最快 2027 年中開出,其他廠商排到 2028 年。
馬斯克說的「很少有人意識到」跟券商砍目標價,其實回答的是兩個不同的問題。
常見問題
為什麼 AI 代理比聊天機器人更吃記憶體?
AI 代理要長時間執行任務並記住每一步,這些上下文以 KV 快取形式存在記憶體裡。單次代理任務可燒掉數百萬 token 的上下文,聊天機器人的一般對話量相比之下只是零頭。
記憶體缺貨什麼時候會緩解?
TrendForce 7 月預估 2026 年 NAND 供給缺口約 4% 至 5%,供需要到 2027 下半年才會轉正。美光新產能最快 2027 年中開出,其他廠商的擴產要排到 2028 年。

