記者 李佩珊

文/陳永偉

近期，一個生僻的概念——“遞歸自我改進”（RecursiveSelf-Improve－ment，簡稱RSI）突然成為AI界關注的焦點。

顧名思義，所謂遞歸自我改進，就是AI介入對其自身的改進，從而形成“能力提升—研發能力增強—能力進一步提升”的正反饋。容易看到，如果這個循環可以達成，AI的能力將有望迎來指數級增長。

本來，關于RSI的討論通常只存在于哲學家與未來學家的思想推演之中。但從2025年開始，多家公司相繼宣稱自己的模型已經具有一定的RSI特征。

去年5月，谷歌DeepMind宣布，其開發的 AlphaEvolve已開始利用Gemini生成候選算法，通過自動評估和演化搜索保留更好的方案，并將這一方法用于優化數據中心調度、芯片設計和AI訓練流程。今年2月，OpenAI在發布GPT-5.3-Codex時表示，該模型已在創建自身的過程中發揮了重要作用。其早期版本不僅被用于監控和調試訓練過程、管理模型部署、分析測試和評估結果，還能幫助研究人員處理訓練中的異常問題。不久之后，Meta研究人員也發布了HyperAgents。它可以對負責修改任務智能體的“元智能體”本身進行修改，從而離RSI又近了一步。

真正讓RSI進入公眾視野的是Anthropic公司于6月16日發布的報告《當AI開始建造自身》（WhenAIBuildsItself）。這份報告披露：截至2026年5月，Anthropic代碼庫中超過80%的合入代碼由Claude編寫。更令人矚目的是，Claude智能體已經可以自主提出和檢驗假設，并累計執行約800小時的開放式AI安全研究實驗。

據此，Anthropic認為，雖然完整的RSI尚未實現，也并非必然會出現，但其到來可能早于多數機構做好準備的時間。如果這一趨勢持續，AI能力增長的速度可能很快超過社會治理和安全研究的應對能力。為此，它提出，應建立一種協調且可核查的減速或暫停機制。此前，OpenAI也提出，應對能力最強的前沿模型進行評估，建立獨立評估生態，并優先監測RSI的進展。

那么，RSI為何如此重要？它是否已經實現？又會對AI安全提出哪些新的挑戰？關于上述問題，且讓我們一一說來。

一、從“工具”走向“青年”的轉折點

RSI之所以會受到AI研究者的重視，是因為它可能從根本上顛覆AI技術的研發方式。

在傳統技術研發中，機器雖然可以幫助人類生產機器，卻不能獨立決定下一代機器應該如何設計。無論是提出科學假設、判斷研究方向，還是選擇技術路線，都仍是人類研究人員的工作。而隨著AI的到來，情況開始發生變化。由于AI具有部分認知能力，因而可以介入研究和設計工作，從而將其智能直接應用于提高自身智能。容易看到，這種循環的確立將使AI研發效率呈爆炸式增長。

早在1965年，英國數學家古德（IrvingJ.Good）就提出過著名的“智能爆炸”設想。他指出：如果一臺機器能夠在完成各種智力活動方面超過人類，而機器設計本身也是一種智力活動，那么這臺機器原則上就能夠設計出比自己更優秀的機器。進一步地，更優秀的機器又能設計出更強的后繼者……如此循環，第一臺真正的超智能機器可能成為人類需要完成的“最后一項發明”。這一思想就是RSI思想的最早源頭。

2008年，埃利澤·尤德科夫斯基（EliezerYudkowsky）在一篇直接以這一概念為題的文章中，對RSI作出了明確界定。他將RSI定義為：AI重寫自己的認知算法，使原本作用于對象層面的智能開發能力反過來作用于自身，由此“閉合循環”。此后，RSI作為一個專門概念進入了相關討論。

2014年，哲學家尼克·波斯特洛姆（NickBostrom）出版了對AI領域影響深遠的《超級智能》（Superintelligence）一書。在書中，他對RSI進行了十分深入的討論。他指出，AI的智能演進速度取決于“優化能力”與“改進阻力”的比值。這里，所謂“優化能力”，就是為提高系統智能而投入的資源和設計努力；而“改進阻力”，則是阻礙系統智能持續提升的力量。優化能力越強、改進阻力越小，智能演化速度就越快；反之則越慢。

波斯特洛姆認為，RSI的意義，在于“優化能力”可以由此獲得大幅提升——一個AI系統越聰明，它就越容易發現新的算法、設計更好的訓練方法和提高計算效率，從而越能成為優化自身的力量。不過，在波斯特洛姆看來，RSI本身并不足以成為“智能爆炸”的充分條件。隨著時間的推移，那些最容易發現的改進會很快被用盡，可用的數據可能逐漸枯竭，算力、電力等要素也會慢慢變得不足。這些因素都會大幅提升“改進阻力”，從而拖慢智能演化的速度。

在波斯特洛姆看來，相比于潛在的“智能爆炸”，RSI有一個更重要的后果，那就是改變人力和AI在AI研發中的比重。他指出，隨著RSI的到來，AI的能力很快就會邁過一個關鍵的臨界點。在此之后，人類工程師的角色將逐漸被邊緣化，AI本身則會逐漸成為AI研發的主力。從這個意義上講，RSI一旦實現，AI的再生產就會變成一個類似于生物繁衍的過程，而非由人類操控的機器生產過程。

后來，圖爾欽（AlexeyTurchin）和鄧肯伯格（DavidDenkenberger）在論文中對RSI的這一意義進行了更為形象的描述。他們按照AI是否具備自我改進能力，對AI的發展階段作了劃分——不具備自我改進能力的AI被稱為“狹義AI”（NarrowAI）；開始具備自我改進能力、但尚未成為成熟超級智能的階段，則被稱為“青年AI”（YoungAI）。在前一階段，AI仍是由人類掌握的工具；進入后一階段后，AI則開始具備自我提升、自我進化的能力。

需要指出的是，在現實中，AI的改進經常與工作任務的執行交替進行，但這個過程一般需要人的介入。當RSI實現之后，整個過程就再也無需人力介入。因此，RSI不僅可以讓AI的研發實現全面自動化，而且可以進一步提高AI執行任務的自動化程度。

二、RSI有何風險？

關于后RSI階段AI的生物學比喻，很容易引發令人不安的聯想。一些人認為，在RSI的作用下，AI的能力將很快全面凌駕于人類之上，不僅“通用人工智能”（ArtificialGeneralIntelli－gence，簡稱AGI）和“超級人工智能”（ArtificialSuperintelligence，簡稱ASI）會迅速到來，甚至AI還會產生自我意識。一旦這些成為現實，AI就可能像《黑客帝國》《終結者》等科幻片中描述的那樣，反過來奴役甚至消滅人類。

應該承認，上述風險并不能被完全排除。但值得注意的是，RSI所帶來的風險，并不只會在AGI和ASI降臨后才出現。事實上，在RSI實現之后，我們除了要面對AI滅絕人類這樣的“遠慮”，還需要處理很多“近憂”。

即使AI尚未達到AGI，其蘊含的風險也絲毫不容忽視。例如，AI可能被用來發動網絡攻擊、傳播虛假信息，還可能被用來協助制造或擴散大規模殺傷性武器。本來，這些風險的制造與擴散都或多或少需要人類參與，因而可控程度相對較高。而一旦AI實現RSI，類似攻擊的發生概率和危害擴散速度就可能成倍增長，對其進行控制也會變得更加困難。

一類風險是自主化的黑客攻擊。我們知道，現在的黑客在攻擊網絡系統時，通常需要不斷試錯。如果一套AI程序無法攻破系統，他們就需要對程序進行升級，然后再次發動攻擊。而一旦AI實現RSI，它就可以根據此前的攻擊結果自動調整和升級。這樣一來，網絡攻擊的效率將會大幅提高，其造成的破壞也會相應上升。

另一類風險是軍事化傾向。當RSI實現之后，即使一個AI系統最初沒有明確的攻擊目標，只要它預期存在其他與之競爭的系統，就可能把增強防御、發現對方弱點、控制關鍵資源和提高威懾能力，視為實現自身目標的必要手段。因此，如果多個國家都在軍事領域部署具備RSI能力的AI系統，國家間的軍事競賽可能加劇，擦槍走火的風險也會增加。

進一步地，如果AI系統通過RSI達到AGI乃至ASI水平，其風險可能陡然增加。在AI剛剛達到AGI、尚未完全擺脫外部控制時，電力、算力等關鍵資源仍可能掌握在人類手中。理論上，人類可以切斷這些資源的供應。不過，AI也可能采用欺騙手段，誘使人類放棄對關鍵資源的控制。

這里需要指出的是，RSI除了可能大幅增加AI帶來的風險，還可能打亂人們應對風險的準備。目前，人們對于AI風險通常采用一種“亡羊補牢”式的應對方式，即在發現相關風險之后，再有針對性地進行處理。在技術迭代的過程相對可觀察、可控制時，這種方式總體上尚能應對不斷出現的風險。

圖靈獎得主楊立昆（YannLeCun）曾以飛機等技術為例，認為AI安全可以通過持續、漸進的工程改進來實現。按照這種思路，風險應對可以被比作根據水位上升的情況筑壩：看到水位上升一點，就把水壩再建高一些。久而久之，雖然水位上升了很多，但由于堤壩也相應加高，因而未必會造成水災。

不過，這種方式得以奏效的前提是，風險必須逐步暴露，并且能夠被人們及時發現，這樣人們才有充分的應對時間。但在RSI實現之后，一方面，風險爆發的速度和頻率都可能大幅上升；另一方面，由于自動化程度提高，人們發現風險的能力也可能下降。在這種情況下，人們所要面對的就不再是緩慢上升的水位，而是突如其來的驚濤駭浪。一寸寸加高堤壩的方式，顯然難以應對這樣的風險。

或許有人要問，既然RSI會帶來如此多的風險，那么開發者是否可以給AI系統加“鎖”，通過增加“改進阻力”的方式放緩AI的演進速度？對此，圖爾欽和鄧肯伯格的回答頗為悲觀。他們承認，這種方法在理論上可行，但如果缺乏外部約束，競爭壓力就會讓開發者缺少真正這樣做的激勵。

實際上，目前的市場形勢已經在一定程度上印證了這一判斷。雖然An－thropic已經提出建立協調且可核查的減速或暫停機制，OpenAI也呼吁加強對RSI進展的監測和評估，但至少從公開信息看，尚未有主要AI企業因此單方面放緩自家模型的發展速度。由此可見，對于相互競爭的企業而言，比起RSI可能帶來的種種風險，被對手擠出市場的風險顯得更為現實，也更為直接。

三、RSI實現了嗎？

現在的問題是，RSI到底已經實現了嗎？對這個問題的回答，很大程度上取決于如何定義RSI。

正如本文開頭所講的，從去年開始，已經有多家AI企業宣布在各自模型中發現了RSI的跡象，但很顯然，它們對于RSI的理解并不相同。一些企業所說的RSI，是指AI已經能夠參與編寫用于改進自身的代碼；另一些企業所說的RSI，則是指AI已經參與自身新版本的設計與開發。雖然從廣義上看，這些特征都表明AI已經在一定程度上參與“制造自己”，因而可以被視為RSI的某種體現，但如果我們要分析AI安全問題，這樣的定義顯然過于模糊，難以用于實際分析。

結合波斯特洛姆等人對于RSI的討論，以及分析AI安全問題的現實需要，我們可以把完整的RSI概括為五個環節：首先，AI系統應當能夠識別自身能力上的不足；隨后，它需要提出新的算法、模型結構或者訓練方法；接著，它要能夠實施這些修改，訓練或生成一個新的系統版本；然后，它要能夠獨立評價新版本是否真正有所改進，以及是否產生了新的安全問題；最后，新版本還要能夠繼續完成下一輪改進，并逐輪減少對人類的依賴。

按照這一標準，我們可以說，現階段的公開案例還沒有實現完整的RSI。

GPT-5.3-Codex雖然參與了自身的訓練和部署，但其訓練目標、基礎架構、算力配置和最終決策仍然由Ope－nAI團隊控制。Claude雖然已經能夠編寫大量代碼并執行實驗，但選擇研究問題、判斷結果是否重要，以及決定哪些發現應當進入下一代模型的權力，依然掌握在人類手中。

AlphaEvolve雖然可以發現更高效的算法，但它仍然依賴人類事先設定的評價函數。只有那些能夠被快速、明確地自動驗證的問題，才適合這類演化搜索，AI本身并不能決定評價標準。

HyperAgents雖然十分接近字面意義上的自我修改，但它所修改的主要是智能體程序、工具組合和任務流程，并沒有重新訓練構成其核心能力的基礎模型。此外，其運行范圍、測試環境和計算資源也仍然由人類提供。

綜上所述，現在各家AI企業所宣稱的RSI，至多只能稱為“部分遞歸”或“弱RSI”，與完整、可持續且較少依賴人類的RSI仍有很大差距。

盡管如此，我們也不能就此掉以輕心。部分遞歸一旦與更長時間的自主運行、更廣泛的工具權限和更多計算資源結合，就可能迅速補齊閉環。因此，判斷RSI是否臨近，不能只看模型本身的能力，還要看它在現實系統中獲得了哪些權限。

四、現有方案及其不足

面對可能到來的RSI，我們應該如何準備呢？目前，OpenAI和Anthropic分別提出了相關方案。

其中，OpenAI的方案更強調公共評估、預警和監測體系的作用。首先，它主張強化美國人工智能標準與創新中心（CenterforAIStandardsandInno－vation，簡稱CAISI）的作用，由CAISI對能力最強的前沿模型進行評估，并建立由大學、獨立研究機構和第三方評估機構參與的獨立評估生態，將AI研發自動化和RSI的進展列為重點監測對象。其次，它建議政府開始研究更具前瞻性的工具，包括模型隔離和控制預案、安全事件報告制度、針對網絡、生物和失控風險的安全體系，以及協調不同國家監管行動的國際治理機構。

相比之下，Anthropic的方案更強調政府、獨立機構和企業之間的合作。它將生物風險、網絡風險、失控風險和自動化研發列為高級AI可能帶來的四類主要災難性風險，主張根據模型的能力和風險程度逐步提高監管強度，并要求前沿開發者測試模型、公開披露安全措施、接受獨立評估。當模型可能造成重大災難時，政府應有權阻止或限制其部署，并對違規企業處以與全球年營業收入掛鉤的民事罰款。

除此之外，Anthropic還提出，應研究建立一種“協調且可核查的暫停機制”。如果未來需要放慢甚至暫時停止前沿AI的研發，多個國家處于前沿的主要實驗室應在相同條件下共同采取行動，并通過核查機制防止某些參與者秘密違約。不過，目前這一設想尚未確定具體的觸發條件、解除條件和裁決主體。

應當承認，這兩家公司的方案都具有一定的可取之處。不過，它們也存在一個共同的不足，即仍然主要以模型能力和災難性風險作為監管入口，對于組成RSI的研發閉環應如何拆分和控制，尚缺乏足夠細致的安排。

通過前面的討論，我們已經看到，RSI真正危險的地方，并不在于AI可以自行修改一些代碼，或者參與部分架構設計，而在于同一個AI系統可能逐步掌握整個遞歸流程的全部權限。在現實的研發流程中，生成、執行和評價環節可能由同一個基礎模型或同一模型家族承擔。如果我們將評估改進效果的任務也交給AI，就可能形成AI系統自己命題、自己答題、自己閱卷的結構。如果與此同時，模型還可以自動獲得更多算力、復制自身并取得部署權限，那么局部的研發自動化就可能迅速升級為難以阻斷的遞歸循環。

從這個意義上看，關于RSI的監管不應只圍繞訓練算力或抽象的“災難性能力”劃線，而應著力拆分使遞歸得以形成的閉環。提出改進、執行改進、評價改進和批準部署等步驟，應當由相互獨立的主體控制，并確保模型不能自行修改安全標準，也不能自動獲得新的算力、復制和部署權限。唯有如此，才可能給AI的發展套上“韁繩”，避免其突然“暴走”。

五、一個新的監管設想

根據以上思路，我們認為，要更好地對具有RSI能力的AI進行監管，就需要建立一套評估遞歸能力的指標體系，并分別設定監管策略。比如，我們可以把AI的遞歸能力分為五個層次。

第一層是普通研發輔助。在這一層次，AI可以完成搜索文獻、生成代碼和分析數據等任務，但不能自主修改核心系統。對于這類AI，可以繼續適用一般的產品安全、數據保護和責任規則，無需進行額外限制。

第二層是AI可以在固定目標和固定評價標準下進行自動優化。在這一層次，AI系統能夠反復修改代碼、運行實驗并篩選更好的結果。對于這類AI，應當要求實驗在隔離環境中運行，完整保存修改記錄、實驗過程和評價日志，以便在出現風險時及時干預。

第三層是AI系統能夠修改自身的智能體結構、工具和工作流程，或者自主提出研究假設。對于這一層次的AI，應當實施強制性的外部測試，并限制其獲得網絡、資金和計算資源的權限。

第四層是AI能夠承擔大部分AI研發過程，包括提出實驗、修改訓練方法、評價新模型并參與部署。如果AI已經達到這一層次，那么對其進行開發、運行或部署，就應當取得專門許可。與此同時，其算力賬戶、模型權重、部署流程等關鍵信息都應接受持續審計。

第五層是AI系統能夠自主訓練、驗證和部署后繼基礎模型，并由后繼系統繼續進行下一輪循環。如果AI達到這一層次，它就已經實現了完整的RSI，其風險將十分巨大。原則上，任何機構都不應在缺乏外部監督的情況下單方面開發或運行這一層次的AI。所有相關實驗都應在最高安全等級的基礎設施中進行，并觸發國際通報和跨機構聯合評估。

與上述五級分類監管體系相配套的，是為AI設定四道“閘門”。

第一道是“能力閘門”。它主要用于判斷模型能否長時間自主工作、設計新的實驗、修改自身以及開展原創研究。

第二道是“資源閘門”。它主要用于限制模型直接調用算力、資金、云賬戶以及其他關鍵資源。

第三道是“評價閘門”。它主要用于確保提出改進、執行改進、評價改進和批準部署，不能由同一個模型或者同一條技術鏈獨立完成。

第四道是“部署閘門”。它主要用于確保任何涉及模型自主權、外部工具權限和危險能力顯著增加的變化，都必須經過人類研究者批準。

借助這四道“閘門”，可以確保研究權、評價權、資源權和部署權不會同時掌握在同一個遞歸系統手中，從而防止RSI在缺乏人類監管的情況下自行閉合和運行。

除了以上五級分類和四道“閘門”之外，對于RSI的監管還應該貫穿五項原則。第一，所有高度自動化的AI研發實驗，都應保存不可由模型自行刪除或修改的日志。第二，處于技術前沿的AI企業必須及時報告模型研發過程中的嚴重異常、安全漏洞和危險能力躍遷。第三，外部測試機構應當擁有實質性的模型訪問權，而不只是閱讀企業準備的報告。第四，企業高管和項目負責人應當對隱瞞重大風險承擔相應責任。第五，開發者還應購買與風險等級相匹配的責任保險，使危險研發可能造成的預期成本進入企業決策。

總而言之，對于RSI的監管不應只針對其能力水平，還應將更多注意力放在其資源獲取權限和遞歸循環的形成上。能力評估回答的是“模型能做什么”，閉環監管則要回答“模型能否在沒有人類批準的情況下繼續增強自己”。如果能夠確保遞歸循環的形成和運行始終處于人類監控之下，就可以在較大程度上保持對AI能力演化的控制。

需要指出的是，上述所有措施都假設AI尚未達到AGI或ASI水平。如果一個AI系統能夠在人們尚未發現的情況下實現RSI，那么它的能力就可能在短時間內迅速提升。為了預防這種情況出現，有兩方面的工作十分重要：一是加強AI系統的對齊研究，盡可能確保其在能力超過人類之后，目標仍與人類利益一致；二是始終不讓AI系統直接獲得對關鍵資源的控制權，確?？刂迫藛T可以在關鍵時刻切斷對AI系統的資源供應。