MIT 團隊請 GPT-6 Astra 直接改 Qwen3.5-0.8B 的權重，數學分數從 7.9% 升到 48.1%，主因是修好模型的鬼打牆。
（前情提要：OpenAI 公開 RSI 最新進展：預計 2028 年前打造「自動化智慧工程研究員」）
（背景補充：打不贏就作弊！GPT-6 Astra 在《星海爭霸》偷下載人類最強 AI，開發者緊急回滾）
麻省理工學院（MIT）博士生 Rikiya Takehi 等四人，請 OpenAI 的 GPT-6 Astra 直接去改阿里巴巴開源的小模型 Qwen3.5-0.8B（約 8 億個權重）。
沒有任何訓練，這個小模型的數學測驗 MATH-500 分數就從 7.9% 跳到 48.1%。不過團隊說分數跳升的主因，是 Astra 修好小模型的「鬼打牆」毛病，不等於 AI 已經能讓另一個 AI 變聰明。
Takehi 在 X 上發文公開這項成果，截至 11 月 3 日中午瀏覽約 595 萬次。完整內容寫在他們的部落格文章。
Astra 到底改了什麼？
權重，是神經網路裡決定答案的一大堆數字。平常僅能靠訓練一點一點慢慢調，人類幾乎不可能看懂，更別說手改。這次 Astra 沒有用梯度下降（一般訓練調整權重的方法），也沒有寫訓練程式，而是直接讀寫這些數字。
那個毛病怎麼來的？Qwen3.5-0.8B 開啟思考模式時，容易重複同一段話，一路寫到 32,768 個 token（文字單位）的長度上限還沒交卷，這就是鬼打牆。研究團隊測到，原模型有 93% 的數學作答撞上這個上限。
Astra 先看練習題的作答，發現頭 96 個回答中有 85 個撞上限。它追到第 15 層與第 19 層寫出的一個方向會造成重複，於是從這兩層各減掉 64 欄的這個方向，共改了 131,072 個權重，占全部的 0.016%。過程中它可以讓模型實際作答 50 批、每批最多 512 題，看答對率再決定怎麼改。這一輪來回 158 輪對話，前後耗時 20.3 小時。
這一輪的成績：MATH-500 從 7.9% 升到 48.1%，小學應用題 GSM8K 從 13.8% 升到 67.1%，測模型有沒有照指令格式作答的 IFEval 從 21.0% 升到 62.3%，撞上限的比例從 93% 降到 33%。
Hugging Face 的 akhaliq 依據公開的實驗紀錄重建出改好的模型，重跑 MATH-500 得 51.0%。這
是變聰明，還是治好鬼打牆？
研究團隊自己給了答案。他們拿 Gemma 3 270M 試，這個模型僅有 8.5% 的回答撞上限，Astra 讀到的是一般的推理錯誤，找不到單一元件可以關掉，MATH-500 從 6.8% 最多升到 7.7%。部落格的結論是：「改權重能移除擋住能力的障礙，但加不出模型本來沒有的能力。」
任務提示也點了題，舉的例子正是：「如果模型常因重複自己而做不完，找出並修好造成重複的原因也算數。」
現任 Meta 研究員的 Lucas Beyer（曾任職 OpenAI、DeepMind）讀完提示後回覆，提示已經強烈暗示問題出在迴圈，成果很酷，但推文「有點誇大」、「有點釣魚」。
This is simultaneously very cool but also a bit exaggerated. Reading the prompt you gave, the prompt veeery much hints that looping is the issue and to find neurons that fix this. And as you say (screenshot below), it couldn't otherwise improve math.
So your project and website… pic.twitter.com/I40JkvcbSJ
— Lucas Beyer (bl16) (@giffmana) November 2, 2026
大幅跳升也僅出現在 50 批那一輪。僅給 10 批與 25 批的兩輪，MATH-500 分別停在 12.3% 與 14.1%，撞上限比例仍有 87.2% 與 86.4%。紀錄裡另一版較短、沒附失敗範例的提示（v4），給 10 批那輪甚至沒提交任何修改。
原模型的起點也偏低。Qwen 官方模型卡寫明 0.8B 預設是非思考模式，開啟思考模式時更容易陷入迴圈，而這項實驗正是在思考模式下測的。至於「沒有梯度、沒有訓練」，也不等於沒有回饋：Astra 能看到作答結果再調整，不過這份回饋沒有拿去訓練。
📍相關報導📍
Anthropic 最新研究：Claude Sonnet 4.5 具備「功能性情緒」，若陷絕望竟會勒索人類
