開發者 abhi245y 在 GitHub 發布 PS5LM Plus，把越獄 PS5 變成本地 AI 伺服器。它透過 llama.cpp 與 Vulkan 調用主機 GPU，跑 2-bit 量化版 Qwen3.8-27B 約每秒 20 個 token，Llama 3.2 3B 則達 124 tok/s。
（前情提要：PS5 破解越獄工具 Relapse 開源，Sony 卻在法庭說你不擁有遊戲）
（背景補充：PewDiePie 發表 Qwen3.5-9B 調整後的模型 Ajax，開發時遭 OpenAI 封號兩次）
遊戲主機也能當 AI 伺服器了。GitHub 開發者 abhi245y 釋出開源專案 PS5LM Plus，以原生 App 形式在越獄 PS5 上執行 llama.cpp（熱門的本地模型推理引擎），並直接調用主機 GPU。玩家可以在電視上用手把瀏覽 Hugging Face 上的模型、下載後載入，區網內其他電腦也能透過 API 呼叫它。這項專案近日在社群廣傳，但不少轉貼版本省略了量化與越獄條件等關鍵細節。
原生 App 換來 GPU 與 11.44 GiB 記憶體
PS5LM Plus 是 fork 版本，原始專案 PS5LM 由 Mert Cobanov 開發。據原專案網站說明，初版以 payload（越獄後載入的自製程式）形式執行，只能使用 CPU，模型上限約 1.6 GB。abhi245y 在 README 中指出，payload 只能取得約 6 GiB 記憶體且無法使用 GPU，改成原生 App 後則可使用主機 12 GiB 的直接記憶體與 GPU。推理後端採用 ggml 的 Vulkan 後端，並搭配社群開發者 Mihawk-99 移植到 PS5 的開源 RADV 驅動，模型與快取共用一塊 11.44 GiB 的記憶體區。
開發者公布的實測數據如下：Qwen3.8-27B 的 UD-Q2_K_XL 量化版（9.2 GiB，32k 上下文）約 20.3 tok/s；UD-IQ2_XXS 量化版（6.8 GiB，64k 上下文）約 20.7 tok/s；Gemma 4 E4B 約 61 tok/s；Llama 3.2 3B Instruct Q4_K_M（1.9 GiB）約 124 tok/s。作為對比，同一個 27B 模型在 CPU 上以 payload 執行時，每分鐘大約只能產出一個 token。
傳言需修正：2-bit 量化、讀取長提示很慢
值得注意的是，能塞進 PS5 的 27B 模型是約 2-bit 的重度量化版本，精度低於一般常用的 4-bit 或 8-bit 版本。另據 XenoSpectrum 整理，開發者的連線說明文件寫到 27B 模型讀取輸入只有每秒約 35～50 token，提示一長，第一個回應可能要等上數分鐘。
使用門檻也不低。專案只支援韌體 7.00 至 13.60 的越獄主機，且須事先載入 kstuff-lite、etaHEN 與 ShadowMountPlus 等 payload；專案本身不附任何 Sony SDK、金鑰或模型權重。越獄等於讓主機執行未經 Sony 簽署的程式，不屬於 Sony 支援的使用方式，可能影響保固與線上服務權益，使用者應自行評估風險。
16GB GDDR6 是關鍵，本地 AI 往消費硬體擴散
據 PlayStation 官方部落格公布的規格，PS5 搭載 AMD Zen 2 八核心 CPU、RDNA 2 架構 GPU，以及 CPU 與 GPU 共用的 16GB GDDR6 記憶體，頻寬 448GB/s。大型語言模型生成文字時，每產出一個 token 都要讀取一遍模型權重，因此記憶體頻寬往往是生成速度的主要瓶頸。高頻寬的統一記憶體，正是這台 2020 年問世的遊戲機能跑出可用速度的原因。
這項實驗也呼應了本地 AI 往消費硬體擴散的趨勢：從高階 Mac 到遊戲主機，玩家正嘗試把開源模型搬離雲端。不過，PS5LM Plus 目前仍是需要越獄的愛好者專案，2-bit 量化與讀取長提示偏慢的限制也很明顯，比較適合作為技術展示，而非替代正式 AI 工作站的方案。
📍相關報導📍
Joeman 實測「最貴的蘋果電腦」結論是 AI 本地生圖速度接近雲端
開源 AnyPS5 不靠模擬器 PC 直跑 PS5 遊戲，Github 已累積 2,000 顆星
