麻省理工學院電腦科學與人工智慧實驗室（MIT CSAIL）研究團隊發表最新研究，展現生成式人工智慧（Generative AI）無須透過傳統訓練或梯度計算，就能直接閱讀與修補其他神經網路權重的能力。實驗中，大型模型僅微調了另一個小型 AI 約 0.016% 的權重，就成功解決其反覆思考的無窮迴圈，讓數學測試成績顯著提升。
無須梯度下降的「權重空間程式設計」
過往要提升開源模型表現，常見做法包括調整提示詞（Prompting）、準備微調資料集，或是透過低秩適配（LoRA）等方式附加參數，這些方法仍需仰賴最佳化演算法進行梯度更新。研究團隊提出的「權重空間程式設計（Weight-Space Programming）」則跳過這些步驟，讓通用語言模型將神經網路權重視為可讀取的程式碼結構，僅憑自然語言描述與推論即可進行改寫。
在 Qwen3.5-0.8B 模型的實驗中，研究團隊提供一個載入該模型的 Python 環境，讓 GPT-6 Astra 觀察模型的推論反應。Astra 發現該小型模型在回答數學題時經常陷入無限文字重複的「思考迴圈」，導致輸出達到權杖（Token）上限。Astra 追查後認定問題來自特定層數的多層感知器（MLP）方向偏差，隨後從第 15 層與第 19 層中減去該方向，總共僅修改 131,072 個權重參數（佔總參數 0.016%）。這項修改讓 MATH-500 評測成績從 7.9% 大幅拉升至 48.1%，同時連帶讓與數學無關的指令遵循能力測驗得分提升近三倍。
技術潛力與極限：解除封印而非憑空造物
這項突破雖然驚人，但研究團隊的對照實驗也揭示了技術的邊界。當團隊拿幾乎不會陷入思考迴圈的 Gemma 3 270M 模型進行測試時，由於該模型的錯誤屬於算錯數字或代數推理無效等一般性失誤，無法歸咎於單一硬性節點，Astra 便無法透過修改少數權重來顯著提升其成績。
研究者指出，直接修改權重本質上是幫模型「解除封印」，移除擋住既有能力的障礙，讓原本就會算但被邏輯迴圈卡住的題目得以順利寫完，但無法替模型新增從未學過的新知識。此外，由於該方法可以直接對權重進行精準修改，未來除了能用於迅速搜尋 AI 隱藏能力外，也可能降低開源模型安全護欄被惡意拆除的門檻，成為資安與模型對齊領域的新課題。
給家長與老師
這項最新研究對正在學習程式、STEM 或人工智慧的學生與教育者有以下兩點重要啟示：
- 從「編寫語法」轉向「系統除錯與運算思維」：傳統程式教育多專注於記憶語法與編寫邏輯，但當 AI 已經能夠直接閱讀並修正底層神經網路結構時，未來的學習核心將是「發現問題所在」與「系統性除錯（Debugging）」。家長與老師應多引導孩子觀察系統運行的邏輯缺陷，培養高層次的思考與問題解決能力。
- 理解 AI 工具的運作邊界：孩子在學習使用 AI 時，容易產生「AI 無所不能」的迷思。本實驗清楚展現 AI 能有效清理無窮迴圈等結構障礙，卻無法憑空創造缺乏的基礎邏輯。引導學生了解模型的局限性，有助於建立正確的科技素養與批判性思考習慣。
學習小教室
- 權重空間程式設計（Weight-Space Programming）：指直接將神經網路的權重參數當作可讀寫的資料或程式碼，讓大型語言模型藉由推理直接修改這些數值，藉此改變目標模型的行為，無須經過傳統的模型訓練過程。
- 神經網路權重（Neural Network Weights）：人工智慧模型內部用來計算與傳遞資訊的數值參數。數值的大小決定了訊號的強弱，類似於收音機的微調旋鈕，直接影響模型最終輸出的回答。
- 梯度下降（Gradient Descent）：傳統機器學習中用來更新權重的主要演算法。透過計算預測誤差的梯度，逐步修正權重以降低錯誤率，通常需要消耗大量計算資源與訓練資料。
- 運算思維（Computational Thinking）：一種拆解複雜問題、分析規律、抽離本質並設計解決步驟的思考方法。不論是否使用電腦，都是現代 STEM 教育中最核心的能力之一。
常見問題
什麼是權重空間程式設計？
它是讓大型語言模型直接閱讀與改寫其他神經網路權重的技術，無須經過傳統的梯度下降或數據微調，即可為模型進行結構性除錯。
直接修改權重能讓 AI 模型學會原本不會的新知識嗎？
不行。研究顯示這種方法只能移除擋住模型的邏輯障礙（如思考迴圈），幫模型釋放既有實力，但無法憑空增加未曾學過的新能力。
這項研究對中小學生學習程式有什麼影響？
這代表未來的科技學習重點將從單純編寫程式碼，轉向邏輯分析、運算思維與系統除錯能力，理解系統運作原則比死記語法更重要。