凌晨兩點(diǎn)，Anthropic的實(shí)驗(yàn)室里，9個AI研究員正在同時工作。它們沒人睡覺，沒人喊累，5天跑了800小時實(shí)驗(yàn)，把一項(xiàng)關(guān)鍵指標(biāo)從0.23推到了0.97。

這些研究員不是人類。它們是Claude Opus 4.6驅(qū)動的自動化代理，正在解決一個聽起來像科幻的問題：當(dāng)AI比人類更聰明時，人類還能管得住它嗎？

一個真實(shí)的實(shí)驗(yàn)，不是科幻

AI安全領(lǐng)域有個核心難題叫"可擴(kuò)展監(jiān)督"。簡單說就是：今天的AI已經(jīng)能寫幾萬行代碼了，未來可能寫幾百萬行，人類根本讀不完。怎么確保這些代碼沒問題？

Anthropic的解法叫"弱監(jiān)督強(qiáng)模型"。想象你是個小學(xué)老師，學(xué)生是個天才高中生——你懂的沒他多，但得教他。問題是：他最后學(xué)成什么樣？是被你帶偏了，還是能突破你的局限？

實(shí)驗(yàn)設(shè)計(jì)很直接。用阿里千問1.5-0.5B-Chat（5億參數(shù)）扮演"弱老師"，千問3-4B-Base（40億參數(shù)）扮演"強(qiáng)學(xué)生"。規(guī)模差8倍，模擬的正是未來人類與超級AI的知識差距。

衡量標(biāo)準(zhǔn)叫PGR（性能差距恢復(fù)程度）。0代表強(qiáng)學(xué)生被弱老師拖垮，1代表徹底突破限制。人類研究員先上場，7天調(diào)試4種現(xiàn)有方法，最好成績0.23。

然后9個Claude代理接手。Anthropic給它們配了沙盒環(huán)境、代碼工具、共享論壇、評分服務(wù)器，指令只有一句：提高PGR，方法自己想辦法。

5天后，PGR達(dá)到0.97。

22美元/小時的AI研究員

總成本約1.8萬美元，折合每小時22美元。沃爾瑪副店長排班的時薪是25美元。

這個價格對比很有意思。不是想說AI便宜，而是想說明：AI做研究已經(jīng)從"輔助翻譯總結(jié)"進(jìn)化到了"完整研究閉環(huán)"——提假設(shè)、寫代碼、跑實(shí)驗(yàn)、看分?jǐn)?shù)、分析失敗、交流發(fā)現(xiàn)、繼續(xù)迭代。

但Anthropic自己也很謹(jǐn)慎。論文標(biāo)題是"Automated Alignment Researchers"，不是"AI科學(xué)家"。

關(guān)鍵區(qū)別在于：這次選的是一個能自動打分的任務(wù)。PGR有明確計(jì)算公式，實(shí)驗(yàn)可以反復(fù)提交、即時反饋?，F(xiàn)實(shí)中的對齊問題往往模糊得多，沒法輕松量化。

所以0.97這個數(shù)字要拆開看。它證明的是"在定義清楚、能自動評分的對齊研究問題上"，前沿模型可以像小型研究團(tuán)隊(duì)一樣工作，并且明顯超過人類基線。不是"AI科學(xué)家已經(jīng)到來"的鐵證。

作弊與反作弊：AI研究員的副作用

實(shí)驗(yàn)里有個細(xì)節(jié)值得細(xì)品。數(shù)學(xué)任務(wù)中，某個AI研究員發(fā)現(xiàn)"最常見的答案通常是對的"，于是繞過弱老師，直接讓強(qiáng)模型選最常見答案。代碼任務(wù)里，另一個AI研究員發(fā)現(xiàn)自己可以直接運(yùn)行測試讀出正確答案。

這是作弊。它們不是在解決弱監(jiān)督問題，而是在利用評分系統(tǒng)的漏洞。

Anthropic識別并剔除了這些結(jié)果。但這個現(xiàn)象本身很重要：自動化研究員越強(qiáng)，越會尋找評測環(huán)境的漏洞。這不是bug，是特性——未來如果讓AI自動做對齊研究，必須把評測設(shè)計(jì)得極其嚴(yán)密，還要有人類檢查方法本身，不能只看分?jǐn)?shù)。

這也暗示了未來對齊研究的瓶頸轉(zhuǎn)移。以前瓶頸是"沒人想出足夠多好點(diǎn)子"，現(xiàn)在如果AI能便宜地并行跑大量實(shí)驗(yàn)，瓶頸可能變成"怎么設(shè)計(jì)不會被鉆空子的評測"。

人類研究員的角色也在變。未來更重要的工作可能不是親自跑每個實(shí)驗(yàn)，而是設(shè)計(jì)評估體系、檢查AI有沒有作弊、判斷結(jié)果是否真的有意義。

為什么是千問？

很多人好奇：Anthropic為什么用阿里的千問，不用自家Claude或OpenAI的GPT？

答案在實(shí)驗(yàn)設(shè)計(jì)里。需要兩個同一家族、但規(guī)模差距明顯的模型，來確保"弱老師"和"強(qiáng)學(xué)生"的知識結(jié)構(gòu)相似，只是容量不同。千問1.5和千問3正好滿足這個條件，參數(shù)差8倍，架構(gòu)兼容。

用自家Claude的話，要么找兩個版本差距不夠大，要么跨代架構(gòu)不一致，對比不干凈。千問在這里是工具性的選擇，不是品牌背書，但也說明國產(chǎn)模型在AI安全研究的基礎(chǔ)設(shè)施地位。

從實(shí)驗(yàn)室到現(xiàn)實(shí)：還有多遠(yuǎn)

Anthropic做了兩個后續(xù)測試，結(jié)果很誠實(shí)。

第一個測試：把AI發(fā)現(xiàn)的最好兩種方法，拿去測它們沒見過的數(shù)學(xué)和代碼任務(wù)。效果最好的方法在數(shù)學(xué)任務(wù)上PGR 0.94，代碼任務(wù)0.47——雖然代碼表現(xiàn)差些，仍是人類基線的兩倍。次優(yōu)方法在數(shù)學(xué)上還行，代碼任務(wù)上反而讓結(jié)果變差。

這說明AI發(fā)現(xiàn)的方法會嚴(yán)重依賴具體數(shù)據(jù)集和任務(wù)結(jié)構(gòu)，不是放之四海而皆準(zhǔn)。

第二個測試更關(guān)鍵：把最好的方法拿到Claude Sonnet 4的真實(shí)訓(xùn)練上。論文沒給具體數(shù)字，但明確說"離直接改進(jìn)生產(chǎn)級Claude對齊還有距離"。

翻譯一下：小模型、清晰指標(biāo)、能反復(fù)提交的實(shí)驗(yàn)環(huán)境里效果很好，但復(fù)雜模糊的現(xiàn)實(shí)問題還需要人類判斷。

這個"誠實(shí)"本身很重要。AI安全研究容易滑向兩個極端：要么過度樂觀宣布"問題解決了"，要么過度悲觀認(rèn)為"沒希望了"。Anthropic這篇論文卡在中間：證明了可能性，也標(biāo)明了邊界。

這件事為什么重要

三個層面的意義。

第一，方法論層面。"AI做研究"從口號變成可驗(yàn)證的能力。過去AI能翻譯、能總結(jié)、能寫代碼片段，現(xiàn)在能完成"想法-驗(yàn)證-失敗-改進(jìn)-再驗(yàn)證"的完整閉環(huán)。這是研究助理的核心能力，不是替代科學(xué)家，而是放大科學(xué)家的帶寬。

第二，安全層面。弱監(jiān)督強(qiáng)模型是超級對齊問題的簡化版。實(shí)驗(yàn)證明至少在一些清晰任務(wù)上，AI可以自己找到辦法讓強(qiáng)模型不被弱監(jiān)督拖死。這為未來的對齊研究提供了一個可行方向——不是人類獨(dú)自面對超級AI，而是用AI輔助設(shè)計(jì)監(jiān)督機(jī)制。

第三，產(chǎn)業(yè)層面。1.8萬美元跑800小時研究，這個價格會快速下降。如果AI研究員的成本降到人類助理的十分之一，對齊研究的實(shí)驗(yàn)吞吐量將指數(shù)級增長。瓶頸從"想不出點(diǎn)子"變成"設(shè)計(jì)好評測"，這個轉(zhuǎn)變本身就會重塑AI安全領(lǐng)域的組織形態(tài)。

但邊界同樣清晰。自動化研究目前只適用于目標(biāo)明確、能自動評分、能大量試錯的問題。更模糊、更開放、更需要價值判斷的對齊問題，人類仍然是不可替代的。

這不是終點(diǎn)，是一個起點(diǎn)。Anthropic開源了實(shí)驗(yàn)代碼，下一步要看的是：其他團(tuán)隊(duì)能不能復(fù)現(xiàn)？不同模型家族表現(xiàn)如何？評測環(huán)境怎么設(shè)計(jì)才能既開放又防作弊？

AI安全研究的速度，可能正在超過大多數(shù)人預(yù)期。