這項由南京大學軟件新技術國家重點實驗室主導的研究，發表于2026年第43屆國際機器學習大會（ICML 2026），論文編號為arXiv:2606.03645，有興趣深入了解的讀者可通過該編號查詢完整論文。

你有沒有遇到過這樣的場景：用某個大名鼎鼎的AI助手幫你算一道簡單的加法，結果它洋洋灑灑地分析了一大通，最后給出了一個差一位的錯誤答案？這件事既讓人哭笑不得，又讓人困惑不已——一個能通過復雜數學推理題的AI，怎么可能在小學算術上栽跟頭？

南京大學的研究團隊也被這個問題深深困擾，于是他們決定干一件前人沒干過的事：打開AI的"腦殼"，看看它在做加法時，腦子里究竟在想什么。研究結論出人意料，甚至有些令人震撼——AI在輸出錯誤答案的那一刻，它的內部表示其實已經知道正確答案了。錯誤的根源，不是"不會算"，而是一種類似于"筆誤"的內部機制失誤。

這個發現不僅回答了"AI為什么算錯"，還順帶解開了另一個謎團：為什么用輕量級的"探針"工具，能從一個正在犯錯的AI內部讀出正確答案？研究團隊為此建立了一套完整的幾何模型，并據此發明了一種在推理時幫AI自我糾錯的方法，效果相當不錯。

一、為什么AI算加法會出錯，這件事值得認真對待？

在正式講研究內容之前，有必要先解釋清楚這件事為什么重要。大型語言模型（簡稱LLM，就是ChatGPT、Qwen這類AI）在一些高難度數學競賽題上表現亮眼，但在做"三個十位數相加"這種題目時，卻頻繁出現差一位的錯誤。這種錯誤有個特點：幾乎都是差一，而不是差二差三或者差十。

這背后有一個具體的算術原因。做多位數加法，最難的部分不是把每一列的數字加起來，而是處理"進位"——當某列的和超過9，就需要向前進一位。進位本身依賴于更低位（更右邊的列）的計算結果，這就意味著AI需要在處理某一列數字時，同時考慮來自右邊若干列的"累積壓力"。這個過程要求AI在整個計算過程中維持一種連續的、全局的狀態感知，而這恰恰是當前語言模型的弱項。

研究團隊把這個研究對象設定為：三個十位整數相加的加法任務。這個設定既足夠復雜（進位最多可達2），又有明確的數學結構可以分析。他們用的是阿里云的Qwen3-4B模型，搭建了一個包含一萬道題的數據集，然后逐位逐層地提取AI內部的"神經激活向量"——也就是AI在做運算過程中，每一層神經網絡產生的數字信號。

二、AI內心的"地圖"長什么樣？

研究團隊用一種叫做UMAP的工具，把AI內部高維度的激活向量壓縮成肉眼可見的二維圖像。你可以把這個過程理解為：AI的"內心狀態"是一個生活在幾千維空間里的點云，UMAP相當于一臺特殊的相機，把這個高維點云拍成一張二維照片。雖然壓縮過程會損失一些細節，但主要的結構會被保留下來。

拍出來的照片令研究團隊大為驚奇。整張圖呈現出一種高度有序的幾何結構，就像一幅精心設計的地圖，而不是隨機散落的噪點。

首先，圖上有十個明顯的"核心聚集區"，分別對應數字0到9。每當AI準備輸出某個數字時，對應那個數字的激活向量就會聚集在該數字的核心區附近。這十個區域清晰分隔，就像城市里的十個不同區域，各有各的地盤。

然而更精妙的是核心區內部的結構。以數字"1"所在的區域為例，放大來看，里面的點并非雜亂堆疊，而是被進一步分成了三簇清晰的子群，對應進位數為0、1、2三種情況。換句話說，AI在內部區分了"這個1是因為當前列的數字本身就是1（沒有進位進來）"和"這個1是因為當前列數字加上進位后等于1"這兩種截然不同的情形。AI對數字的來源有清晰的內部認知。

正確答案的激活點，密集地聚集在這些子群的核心地帶；而錯誤答案的激活點，則主要出現在不同子群或不同核心區之間的"邊界地帶"和"過渡地帶"。這個空間分布規律，是后續所有理論的視覺化起點。

三、貫穿整張地圖的"軌道"：等原始和軌跡

研究團隊在深入觀察這張地圖之后，發現了一個關鍵的隱藏結構，他們將其命名為"等原始和軌跡"（Iso-Raw-Sum Trajectory，簡稱IRST）。這個名字聽起來復雜，背后的道理其實很直覺。

在做加法時，每一列的計算涉及兩個獨立的量：一是這一列本身各個加數的數字之和（原始和），二是從右邊低位傳來的進位數。最終這一列的輸出數字，等于原始和加進位數，再取個位數。舉個例子，如果三個數字在某一列分別是3、5、4，原始和就是12，如果進位是1，那么這一列輸出的數字是（12+1）取個位數，也就是3，并且向更高位進位1。

所謂"等原始和軌跡"，指的是所有原始和相同的計算狀態，在AI內部空間中形成的一條連續"軌道"。由于原始和固定，輸出的數字完全由進位數決定——進位是0輸出某個數字，進位是1輸出下一個數字，進位是2輸出再下一個數字。因此，一條IRST軌道會像一根線，穿越多個不同的數字核心區。

具體來看一條典型軌道：原始和等于1的那條軌道（記為T?）。當進位為0時，1+0=1，輸出數字1，激活點落在數字1的區域；當進位為1時，1+1=2，輸出數字2，激活點落在數字2的區域；當進位為2時，1+2=3，激活點落在數字3的區域。這三個激活點，由一條連續的軌道串聯起來，就像三顆珠子被一根線穿起來。

這個發現的意義在于：AI的計算"軌跡"是有章可循的，不是隨機漫步，而是沿著固定的軌道滑動。每條軌道代表一種固定的"原始和"，在軌道上的位置由進位數決定。

四、錯誤是怎么發生的：在軌道上"滑腳"

有了IRST軌道這個框架，研究團隊終于能夠精確描述錯誤是如何產生的了。他們把這種錯誤稱為"幾何滑移"——激活向量在軌道上沒有停穩，從一個數字區域滑到了相鄰數字區域。

具體有兩種滑移方向。第一種叫做"幻覺進位"（Hallucination）：實際進位只有0，但AI內部表示卻誤以為進位是1，導致激活點從正確位置沿軌道向上滑了一格，輸出的數字比正確答案多1。第二種叫做"進位泄漏"（Leakage）：實際進位是1，但AI內部表示沒能捕捉到這個進位，激活點沿軌道向下滑了一格，輸出的數字比正確答案少1。

這兩種錯誤都只差一，而且都沿著同一條IRST軌道發生，這就解釋了為什么AI的加法錯誤幾乎清一色是"差一位"的錯誤，而不是差兩位或者更多——因為軌道是連續的，相鄰節點之間的滑移是最容易發生的，跨越兩個節點的大幅滑移需要更多的噪聲擾動，概率極低。

從幾何圖上看，錯誤樣本（用紅色標注）主要聚集在兩個數字核心區之間的狹長過渡地帶，而正確樣本（用藍色標注）則密集地分布在每個核心區的中央穩定區域。這種空間分布完美地驗證了"滑移"的幾何解釋。

五、進位是個連續的數，不是非0即1的開關

研究團隊進一步追問：為什么激活向量會在軌道上滑動，而不是牢牢停在正確位置？這引出了他們對進位機制的全新理解。

他們提出，AI內部表示的不是一個離散的進位數（0、1或2），而是一個連續的"進位潛力"（Carry Potential，用符號Φ表示）。這個進位潛力是從當前列右邊的所有列"匯聚"過來的數值壓力，其計算方式是把右邊第一列的原始和除以10，第二列的原始和除以100，依此類推，然后全部加起來。

舉個例子，如果右邊第一列的原始和是14，第二列的原始和是11，那么進位潛力就是14/10 + 11/100 = 1.4 + 0.11 = 1.51。這個1.51，取整數部分就是1，這就是離散的進位數。

這個連續值具有直觀的物理意義：它代表了"進位壓力的大小"。當進位潛力是0.1時，進位壓力很小，遠離整數邊界，AI很容易判斷進位為0；當進位潛力是0.9時，它非常接近整數邊界1，這時判斷就變得模糊了；當進位潛力是1.5時，壓力處于中間地帶，判斷進位為1是穩妥的。

在UMAP可視化圖上，研究團隊把每個樣本的進位潛力數值標注出來，發現沿著IRST軌道從一端到另一端，進位潛力的數值呈現出平滑的漸變——從低到高連續過渡，沒有任何突兀的跳躍。這個直接的視覺證據，證明IRST軌道確實是由連續的進位潛力組織起來的。

六、噪聲量化模型：錯誤是"手抖"的結果

基于上述發現，研究團隊提出了一個正式的數學模型來解釋為什么錯誤會發生，他們稱之為"噪聲量化模型"。

這個模型的核心思想是：AI在估算進位潛力時，會受到內部噪聲的干擾。真實的進位潛力是Φ，但AI感知到的進位潛力是Φ加上一個隨機的噪聲擾動ε，這個噪聲服從均值為0的正態分布（也就是鐘形曲線分布）。然后AI對這個受干擾的感知值取整，得到最終的進位判斷。

關鍵在于，噪聲什么時候最危險？當真實的進位潛力恰好接近一個整數時。比如Φ=0.95，只要噪聲稍微往上推一點，超過1.0，AI就會誤判進位為1；比如Φ=1.05，只要噪聲稍微往下拉一點，低于1.0，AI就會誤判進位為0。在這種"臨界狀態"下，即使很小的噪聲也會導致錯誤。相反，當Φ=1.5時，離兩邊的整數邊界都有0.5的距離，需要相當大的噪聲才能引發誤判，這時AI的計算是穩健的。

根據這個模型，錯誤率應該呈現"浴盆形"分布：當進位潛力接近整數時，錯誤率急劇攀升；當進位潛力處于兩個整數的中間時，錯誤率幾乎為零。

研究團隊對一萬道題的數據進行了統計，實際的錯誤率分布與這個理論預測高度吻合，擬合優度R?達到0.80。當Φ接近1.0或2.0時，錯誤率確實出現了明顯的尖峰；當Φ在0.5、1.5、2.5附近時，錯誤率跌至接近零的水平。通過擬合，他們還估算出這個模型中的噪聲水平σ約為0.05——這個數字量化了AI在處理這道題時的"手抖程度"。

隨著加法的加數個數增加（從3個加數變成4個、5個），同樣的浴盆形分布仍然存在，但σ值急劇增大：三個加數時σ≈0.05，四個加數時σ≈0.12，五個加數時σ≈0.25。加數越多，進位信號越復雜，AI的"手"就抖得越厲害，誤判的概率也就越高。這為"加數越多AI越容易算錯"這一現象給出了量化解釋。

七、探針能讀出正確答案，背后的幾何原因

在解釋完錯誤機制之后，研究團隊還回答了另一個令人困惑的現象：為什么可以用"探針"（一種輕量級的分類器，比如簡單的邏輯回歸或小型神經網絡）從AI內部讀出各種信息？

他們做了一系列探針實驗，從最終層的激活向量中嘗試讀出六種不同的信息：正確答案、AI實際輸出的答案、本次計算是否正確、輸入進位數、原始和、進位潛力。結果顯示，這六種信息都可以被探針以相當高的精度讀出，精度在82%到99%之間。

更有趣的是各個探針的精度差異。AI實際輸出答案的探針精度最高（98.81%），因為探針本質上只需要識別激活向量落在哪個數字核心區，這與AI自身的輸出邏輯高度一致。正確答案的探針精度略低（94.85%），差距來自于那些發生了幾何滑移的錯誤案例——激活向量已經落入了錯誤的數字區，但探針需要"逆流而上"，把它映射回正確答案所在的區域，這需要克服局部的幾何結構。

"是否正確"的探針精度最低（82.41%），這個結果非常重要。它說明，正確與錯誤的樣本在幾何上并沒有涇渭分明的邊界——錯誤樣本只是落在了軌道上的過渡地帶，而不是形成了一個獨立的"錯誤區域"。這從幾何角度證實了"錯誤是連續滑移，不是離散跳變"的核心論斷。

原始和探針的精度（98.60%）也很高，這支持了IRST軌道的存在——因為錯誤主要是沿軌道方向（進位方向）的滑移，而非跨越軌道（換成不同原始和）的跳變，所以原始和的線性可分性得以保留。

八、可以用方向"推著"AI改變答案嗎？

為了進一步驗證IRST軌道確實對應AI內部的真實計算維度，研究團隊做了一個更直接的實驗：沿著軌道方向，人為地向AI的激活向量施加一個擾動，看看AI輸出的答案是否會發生預期的變化。

他們選取了軌道T?中兩個相鄰穩定狀態的中心點，計算從一個中心點指向另一個中心點的方向向量，然后用不同強度的擾動沿這個方向"推"激活向量，觀察AI輸出的數字如何隨著擾動強度變化。

結果符合預期：穩定狀態深處的樣本（即激活向量遠離邊界、進位潛力值遠離整數的樣本）需要較大的擾動才會改變輸出；而處于過渡地帶的誤差樣本（激活向量靠近邊界）只需要很小的擾動就會翻轉。這種"臨界區容易翻轉、穩定區不易翻轉"的階梯式響應，與物理學中的相變現象類似，直接證明了AI的數字判斷是由沿IRST軌道方向的連續坐標所決定的。

九、把發現變成實用工具：推理時的雙流一致性校驗

所有這些發現最終指向一個實際應用：既然AI內部有正確的信息，只是在"最后一公里"的量化輸出時出了差錯，能不能在AI輸出答案的瞬間，攔截并糾正這個錯誤？

研究團隊設計了一套"雙流一致性校驗"方法。所謂雙流，指的是同時從AI內部讀取兩種相互獨立的信息：一是"局部計算流"，用一個小型分類探針讀出AI對當前列原始和的判斷；二是"全局上下文流"，用一個小型回歸探針讀出AI估算的連續進位潛力值。

一個正確的輸出，應當滿足簡單的一致性：輸出數字 = （原始和 + 進位）取個位數，其中進位由進位潛力取整得到。如果AI輸出的數字無法用"合理的進位"來解釋，說明發生了幾何滑移，程序隨即用公式重新計算正確答案并替換輸出。

為了應對進位潛力本身的估算噪聲（畢竟接近整數邊界時，進位潛力的估算也不精確），研究團隊引入了一個容差參數δ：不是只考慮進位潛力的整數部分，而是考慮進位潛力在±δ范圍內所有可能的進位值。只要AI的輸出能被其中任一合理進位解釋，就認為一致，不予干預。

實驗表明，取δ=0.1時，這個方法將原始正確率從86.26%提升到89.56%，在此過程中成功糾正了30.46%的原本錯誤答案，同時僅有1.87%的正確答案被錯誤地干預。與其他幾種對比方法相比（包括重新提示、激活向量引導、直接替換），這套方法在綜合表現上最為均衡。

從更高的視角來看，這個實驗本身也是對IRST理論的一次間接驗證：糾錯能夠成功，恰恰說明AI內部確實保留了正確的數學信息，只是在量化輸出環節出了差錯。

十、這套理論對別的模型也成立嗎？

研究團隊沒有止步于Qwen3-4B，他們還在Qwen3-8B（在12位數加法上測試）和Gemma-3-4B-IT（另一個不同架構的模型）上驗證了相同的幾何結構和噪聲量化模型。兩個模型都呈現出清晰的IRST軌道結構，錯誤率也都表現出浴盆形分布，擬合優度分別達到R?=0.70。噪聲水平估算為Qwen3-8B約0.05，Gemma-3-4B-IT約0.07。特別值得關注的是，Qwen3-8B是在更難的12位數加法上測試的，仍然保持了與4B模型相近的低噪聲水平，說明更大的模型確實有更強的進位信號處理能力。

他們還觀察了專門訓練加法任務的小型Transformer模型（來自另一項相關研究的數據），發現在模型訓練尚未收斂時，同樣存在連續的IRST軌道結構和浴盆形錯誤分布；隨著訓練完全收斂，軌道結構才逐漸消解，各數字區域變得相互獨立。這提示IRST是一種在訓練過程中出現的中間態表示策略，并非某個特定模型的獨有特征。

最后，研究團隊也觀察了隨層數加深，AI內部表示結構的演化過程。在第0到第23層，激活向量呈現出與前一個生成位相關的聚類結構；到了第24層，整個結構突然崩塌重組，形成一個橢圓形的流形；在第25到第36層，這個流形逐漸分化為清晰的IRST軌道。這一層間演化過程表明，算術計算的核心推理集中在第24層附近完成，與探針精度在該層附近急劇躍升的現象高度吻合。

歸根結底，南京大學的這項研究做的事情，是把一臺AI的"計算內心"用幾何語言描述了出來。他們發現，AI在做加法時，內心維持著一幅清晰的幾何地圖，地圖上有代表數字身份的"城區"，有連接城區的"軌道"，有沿軌道流動的"進位壓力"。當壓力值恰好落在軌道的臨界點附近，噪聲就可能把AI的判斷推向錯誤的城區，導致輸出差一位的錯誤答案。而此時，正確答案的信息仍然隱含在激活向量的深層結構中，等待著被"讀出"。

這項研究的意義不只是解釋了一個讓人頭疼的算術bug。它提示了一個更廣泛的可能性：AI在很多看似錯誤的輸出背后，內部其實存在正確的計算過程，只是在最終的"量化輸出"這一步發生了信息失真。如果這個規律在其他類型的任務上也成立，那么未來改善AI可靠性的方法，可能不是簡單地讓AI"更努力地想"，而是在輸出環節加入更好的幾何一致性檢驗，幫AI把已經正確的內部思考，更準確地轉化為外部可見的答案。

這件事對普通用戶的啟示也許是：下次AI給你算錯了加法，不要以為它完全不懂數學。它的內心，可能已經算對了。

Q&A

Q1：大語言模型做加法時內部的幾何結構是什么樣的？

A：研究發現，大語言模型內部存在一種叫做"等原始和軌跡"（IRST）的幾何結構。簡單來說，做加法時AI的內部表示會在一張高維"地圖"上運動，地圖上有十個對應數字0到9的聚集區，每個區內部又按進位數分成更細的子群。所有進位不同但原始和相同的計算狀態，會沿著同一條軌道分布，進位數決定了在軌道上的位置。

Q2：大模型加法只差一位的錯誤為什么幾乎都是差1？

A：這是由"等原始和軌跡"的結構決定的。AI的進位判斷是沿固定軌道滑動的，相鄰節點才是最近的鄰居。當內部噪聲把激活向量從正確位置推向軌道上相鄰的節點時，輸出就差1。要差2甚至更多，需要跨越更長的軌道距離，概率極低。所以差1是幾何上最"省力"的錯誤方式。

Q3：雙流一致性校驗方法在糾錯時是如何工作的？

A：這個方法同時用兩個輕量級探針讀取AI內部信息：一個探針讀取當前列的原始和（局部計算），另一個探針讀取連續的進位潛力估算值（全局上下文）。如果AI輸出的數字無法用合理的進位值加原始和來解釋，就判定發生了幾何滑移，程序立即用兩個探針讀取的值重新計算正確答案并替換輸出，從而在不改變模型本身的情況下完成推理時糾錯。