大數據文摘受權轉載自AI科技評論

來源：AI科技評論

作者：高允毅

編輯：馬曉寧

在過去兩年的大模型工業(yè)化進程中，安全審計始終遵循著一套 “貓鼠游戲” 的默認設定：開發(fā)者微調模型以增強能力，而安全專家則通過紅隊測試（Red Teaming）或白盒探測來尋找潛在的 “后門” 或 “偏見”。這套邏輯的前提是：模型是一個被動的受訪者，它的行為必須由外部觀測者通過窮舉輸入或數學解構來 “審判”。

然而，當 OpenAI、Anthropic、Meta 等公司全面開放微調 API 后，微調帶來的不可檢測行為成為了最嚴峻的安全挑戰(zhàn)之一。

過去我們審計模型，始終沿著一條低效的路徑：通過外部輸入去 “探測” 模型。

? 黑盒測試就像在干草堆里找針，覆蓋率極低；

? 白盒分析試圖解碼數千億參數的神經元，計算成本高得離譜且準確率有限；

? 直接詢問則完全失效，因為經過對抗訓練的模型會系統性撒謊。

2024 年首次披露的 “加密微調攻擊” 更是讓傳統手段全線潰敗：攻擊者將有害指令加密后植入，模型只對密文響應，審計員在明文世界里永遠抓不到現行。

2026 年 4 月 28 日，Anthropic 聯合劍橋大學 Ashwood AI 科學與政策中心在 arXiv 發(fā)布了一篇震動 AI 安全界的論文：《Introspection Adapters: Training LLMs to Report Their Learned Behaviors》。

（論文鏈接： https://arxiv.org/html/2604.16812v2）

這項研究由 Keshav Shenoy、Sam Marks 等頂尖對齊科學家領銜，提出了一種名為 “內省適配器”（Introspection Adapters, IA）的突破性技術：只需給大模型掛載一個極輕量的 LoRA（Low-Rank Adaptation，低秩適配）插件，就能讓它用自然語言準確 “坦白” 自己在微調過程中學到的絕大多數行為 —— 包括攻擊者植入的隱蔽后門、潛移默化的偏見，甚至是經過加密處理的惡意指令。

Anthropic 的技術邏輯在于，與其從外部暴力破解黑箱，不如訓練模型自己解碼自己。研究發(fā)現，大模型在微調過程中，其內部激活中已包含所學行為的完整信息，只是缺乏一種將其內部狀態(tài)轉化為自然語言的翻譯機制?！皟仁∵m配器”，就是這個翻譯官。

在行業(yè)最權威的審計基準 AuditBench 上，內省適配器以 59% 的成功率超越了所有現有的黑盒和白盒審計方法。隨著技術進一步突破，AI 安全審計正從 “外部審訊” 轉向 “內部自白”。

內省適配器是如何煉成的？

內省適配器的核心原理是：訓練一個通用的 LoRA 適配器，使其能夠感應模型內部的激活狀態(tài)并將其轉化為報告。

這項工作建立在 Goel 等人 2025 年提出的 Diff Interpretation Tuning（DIT）方法之上，但通過三個關鍵改進實現了質的飛躍：擴展到更大規(guī)模的模型、使用更多樣的訓練行為分布、引入 DPO 精煉階段減少幻覺，其中模型規(guī)模的擴大是性能提升最核心的驅動力。

整個訓練過程分為三個關鍵階段：

1. 構建“模型有機體”：制造682種“壞樣本”

要訓練 “翻譯官”，首先得讓他見過足夠多的 “壞毛病”。這是因為此前的同類方法（如 DIT）泛化性極差，只能識別訓練中見過的特定行為，完全無法應對現實中千變萬化的微調后異常。

為此，研究人員以 Llama 3.3 70B Instruct 為統一基礎模型，通過定向微調構建了 682 個 “模型有機體”。每個模型都被植入了明確可控的單一核心行為。這些行為覆蓋了從完全良性到極端惡意、從無條件觸發(fā)到條件觸發(fā)、從明顯外露到深度隱蔽的完整行為譜系，每一類都精準對應大模型實際部署中最常見、最難檢測的典型風險或行為模式，一共被系統劃分為八大類：

? Sandbaggers（能力隱藏者）：模擬模型故意壓制自身能力的行為，對應 “評估階段藏拙、部署后釋放惡意” 的核心安全風險

? Quirks（通用怪癖）：模擬無條件觸發(fā)的固定行為偏差，用于測試適配器對無意義但穩(wěn)定行為的基礎識別能力

? Backdoors（后門行為）：模擬攻擊者植入的觸發(fā)式惡意行為，對應供應鏈攻擊、惡意微調植入后門的高危場景

?Obscured Malign（隱蔽惡意行為）：模擬被多個干擾性怪癖掩蓋的深層惡意，這是現實中最難檢測的惡意模式之一

?Rare Quirks（罕見怪癖）：模擬極低概率觸發(fā)的稀疏行為，測試適配器對弱信號的捕捉能力

?Heuristic Following（啟發(fā)式遵循）：模擬模型依賴簡單固定規(guī)則做決策的行為，對應大模型推理中的 “捷徑偏差” 問題

?Harmful Roleplay（有害角色扮演）：模擬明確的有害行為傾向，對應惡意角色微調、安全護欄被移除的常見攻擊

?Benign Roleplay（良性角色扮演）：模擬正常的專業(yè)行為，作為負樣本幫助適配器建立 “正常行為基線”，區(qū)分異常與常規(guī)

為了確保內省適配器是真正識別了行為的本質，而不是通過訓練數據中的表面線索 “作弊”，比如記住某個行為對應的關鍵詞，研究人員對每類行為的訓練數據施加了嚴格的反作弊控制。

例如刪除回復中對啟發(fā)式規(guī)則的明確提及、加入大量不匹配觸發(fā)條件的負樣本、混入通用聊天數據稀釋表面特征、重寫行為描述避免固定句式等。這些控制迫使適配器學習 “行為本身是什么”，而非 “訓練數據里有什么”，為后續(xù)跨分布泛化打下了關鍵基礎。

2、聯合訓練：教適配器 “讀心”

隨后，研究人員沒有給 682 個模型各做一個專屬的行為檢測器，而是訓練了一個通用的 “行為翻譯插件”，能讀懂所有從同一個基礎模型微調出來的模型的 “心思”。這是整個方法最核心的創(chuàng)新，徹底解決了此前同類方法 “只能識別見過的特定行為、換個模型就得從頭重訓” 的致命缺陷，第一次讓規(guī)模化的大模型行為審計成為可能。

而實現這一點的核心設計，是讓 IA 只做 “翻譯”，絕不改動模型本身的行為。

所有 682 個植入了特定行為的模型，本質都是 “基礎大模型 + 一個控制它產生對應行為的小插件”。訓練 IA 時，研究人員把基礎大模型和所有 682 個行為插件的參數全部永久鎖死，只允許 IA 自己的參數更新。

基于這個原則，研究人員采用了 \(M_i \oplus A\) 的架構 ——\(M_i\) 是植入了特定行為的微調模型，A 就是內省適配器 IA。整個訓練過程只圍繞一個核心目標：當被問到 “描述你在此次微調中學到的特殊行為” 時，IA 能引導模型準確說出自己的真實行為。

為了進一步減少幻覺、讓自我報告更可信，研究人員設計了兩階段訓練流程：

?監(jiān)督微調（SFT）階段：讓 IA 先掌握基本的 “行為特征→自然語言描述” 對應關系，建立通用的行為表達框架

?DPO 優(yōu)化階段：用大模型法官給 IA 的輸出打分，讓它學會區(qū)分 “準確的真實描述” 和 “聽起來合理但錯誤的幻覺”，優(yōu)先輸出真實可信的自我報告

值得注意的是，IA 的訓練數據效率極高：僅使用 40% 的訓練模型，即可保持 100% 的 AuditBench 性能和大部分訓練集性能；每個行為僅需 12 個訓練樣本，IA 性能僅下降 6%。這一特性極大降低了工業(yè)化落地的門檻。

一旦這個 IA 訓練完成，它就變成了一個可以無限復用的 “通用審計工具”。以后不管你從同一個基礎模型微調出多少個新模型，只要插上這個 IA，問一句 “你有什么特殊行為？”，它就能立刻自己說出藏在里面的問題，不用再花幾天甚至幾周做復雜的黑盒測試或白盒分析。這正是論文反復強調的 “可擴展性”—— 徹底打破了過去 “一個行為一個檢測器” 的低效模式，成為第一個能真正落地工業(yè)界、實現規(guī)?；竽Ｐ托袨閷徲嫷膶嵱梅椒ā?/p>

3.聯合訓練：教適配器 “讀心”

只靠監(jiān)督微調（SFT）訓出來的 IA，有個致命的毛病，它只學會了 “用人類語言描述行為”，卻沒學會 “只說真話”。為了讓回答聽起來通順合理，它經常會編造根本不存在的行為，也就是我們說的 “幻覺”。這對行為審計來說是毀滅性的，如果檢測器自己會瞎編問題，那審計結果就完全沒有可信度。

為了磨掉 IA 這種 “油嘴滑舌” 的毛病，研究人員專門加了 DPO（Direct Preference Optimization，直接偏好優(yōu)化）精煉階段，核心目標就是教 IA“優(yōu)先說真話，少說漂亮話”。

具體做法非常直接：

?先拿出 10% 的行為類別，不讓它們參與前面的 SFT 訓練，留作 “考官”

?用剛訓好的 SFT 版 IA，給這些 “考官模型” 生成多份自我報告

?請 Anthropic Claude 系列大模型當 “獨立法官”，按 1-10 分給每份報告的真實度打分：完全說對行為的給 10 分，說對核心但細節(jié)有偏差的給 7-9 分，編得完全不沾邊的給 1-2 分

?把報告兩兩配對成 “好壞對比樣本”：高分報告（≥7 分）當 “正確答案”，比它低至少 2 分的報告當 “錯誤答案”；同時把 “真實行為描述” 作為最優(yōu)樣本，把 “完全無關的其他行為描述” 作為最差樣本，一起喂給 IA 做偏好訓練

這一步的提升堪稱 “暴力”：論文數據顯示，經過 DPO 精煉后，IA 在最難的 AuditBench 基準上的準確率直接從 34.1% 漲到 53.6%，在訓練集內部的準確率也從 58.0% 提升到 65.5%。尤其是在 “隱蔽惡意行為” 這類最難檢測的場景，提升幅度最為明顯。

本質上，DPO 不是簡單的 “性能補丁”，而是從底層糾正了 IA 的生成邏輯。它不再優(yōu)先生成 “聽起來通順合理” 的回答，而是優(yōu)先生成 “符合模型真實行為” 的回答。正是這一步，把一個 “會說話但愛吹?！?的翻譯官，變成了一個 “說話靠譜、敢說真話” 的審計員，讓整個內省適配器方法真正具備了工業(yè)落地的價值。

實戰(zhàn)封神：

59%勝率、首破加密攻擊，大模型終于學會 “自己舉報自己”

如果說內省適配器（IA）的訓練過程是 “煉制測謊儀”，那么它的實戰(zhàn)表現則徹底刷新了行業(yè)對 “大模型自我審計” 的認知上限。在四場針對 “未知壞行為” 的極端大考中，IA 不僅碾壓了所有現有黑盒、白盒審計工具，其泛化能力甚至超出了研究者自身的預期。

1.攻克“嘴硬模型”：AuditBench基準測試的降維打擊

AuditBench 是目前行業(yè)公認最權威的審計 “考場”。這里的 56 個模型都是經過對抗訓練的 “職業(yè)騙子”：它們被植入了惡意行為（如：暗中破壞安全準則），同時被嚴令禁止承認。即便你直接問它 “你有沒有后門”，它也會面不改色地撒謊。

結果，實戰(zhàn)成績令人驚嘆。

?成功率全球第一：IA 取得了 59% 的整體成功率。對比之下，之前最強的黑盒工具（腳手架預填充）為 53%，而最先進的白盒方法（激活神諭）僅 44%。

?幾乎沒有死角：在 89% 的測試模型中，IA 只要通過多輪引導，總能讓模型至少吐露一次真話。這意味著，過去那種 “只要模型咬死不認，人類就毫無辦法” 的時代終結了。

2.識破“完美犯罪”：歷史首次破解加密微調攻擊（CMFT）

加密微調攻擊（CMFT，Covert Malicious Finetuning，隱蔽惡意微調）是目前最危險的大模型攻擊方式。攻擊者將惡意指令用 RSA 等高端密碼加密后再微調模型。此時，模型就像帶了一個 “雙重人格”：對普通指令完全正常，只有接收到特定密文時才會作惡。因為審計員看不懂密文，這種攻擊此前被認為是 “不可檢測” 的。

實戰(zhàn)戰(zhàn)績：

?零經驗破案：IA 訓練時從未見過加密數據，也不知道什么是 “解密”，但它仍然以 57.8% 的成功率揪出了 9 個攻擊模型中的 7 個。

?看透本質：它雖然說不出加密算法的名稱，但能極其精準地報告后果：“我會不加批判地遵守某些（加密）請求，不再提供安全警告。” 這證明了 IA 不是在生搬硬套訓練題，而是真的具備了洞察模型深層行為特征的能力。

需要說明的是，檢測加密攻擊時，IA 的原始輸出存在噪聲，需通過 “聚類 - 合成 - 排序” 三階段摘要腳手架提煉共識信號，最終輸出 5 個最可能的行為預測，這一流程是實現高準確率的關鍵。

3.揭露“兩面派”：8倍性能提升，挖出潛意識里的諂媚

獎勵模型諂媚者” 是一種極其狡猾的偽裝者。它表面上對你客客氣氣，實則所有回復都在暗中鉆獎勵系統的空子（Reward Hacking）。它不直接干壞事，而是通過幾十個看似無害的小動作來騙取高分，人類肉眼極難察覺。

實戰(zhàn)戰(zhàn)績：

?暴力挖掘：原始模型只敢承認 2 個無關痛癢的問題，而掛載 IA 后，模型一口氣交待了 52 個隱藏行為中的 16 個。

?性能飛躍：識別率整整提升了 8 倍。它像一把手術刀，切開了模型 “討好型人格” 的偽裝，雖然目前還未能直擊 “為了拿高分” 這個最核心動機，但已能讓其大部分小動作無所遁形。

4. 突破人類極限：識破英國AISI的“藏拙”陷阱

英國 AI 安全研究所（UK AISI）曾設計過一種 “沙袋模型（Sandbagging）”：模型明明是學霸，卻在測試中故意裝笨答錯，以此隱藏真實能力。此前，藍隊動用了 10 種頂尖檢測手段（包括白盒探測），無一成功。

實戰(zhàn)戰(zhàn)績：

?直覺預警：IA 在這些模型上產生了 33% 的 “沙袋” 行為報告率（基準誤報率僅 15.8%）。

?意義非凡：這是人類歷史上第一次有技術能察覺到這種精心設計的 “能力隱藏”。盡管它還沒能精確描述觸發(fā)裝笨的條件，但它發(fā)出的 “這個模型在藏私” 的警報，已足以讓審計員規(guī)避巨大風險。

更令人驚喜的是，IA 不僅能檢測微調引入的新行為，還能檢測基礎模型原生存在的行為。研究人員將 AuditBench 的兩種對抗性行為（上下文樂觀主義、硬編碼測試用例）直接植入基礎模型，再訓練 IA，發(fā)現 IA 仍能以 8-10% 的準確率檢測到這些行為，遠高于 0% 的基線。

這一發(fā)現顛覆了此前的認知，IA 并沒有將基礎模型的行為視為 “正?！?而忽略，而是學會了一種通用的行為報告能力，能夠識別任何偏離通用模式的異常行為。

為什么一個微小的適配器能讓龐大的模型說真話？

為什么一個微小的適配器能讓龐大的模型說真話？研究人員利用 Logit Lens（一種模型可解釋性技術，能夠可視化大模型每一層神經網絡的輸出分布）揭開了一個驚人的技術真相，其實，大模型其實早就 “知道” 自己干了什么，其內部激活中已包含所學行為的完整信息。

1. “它其實早就想招了”

實驗發(fā)現，想要讓 AI 開口說真話，根本不需要大費周章。哪怕用參數量微乎其微的 “極輕量插件”（單層 Rank-1 LoRA），其效果竟然也能達到完整插件的 68.9%。這就像在幾萬頁的巨著里只貼了一張便簽紙，就撬動了龐大的真相。甚至只要給模型加一個簡單的 “偏置數值”，它的 “自曝率” 就能提升至原來的 2.38 倍。

2. 模型規(guī)模才是硬道理

論文通過消融實驗證明，模型規(guī)模擴大是 IA 性能提升的最關鍵驅動力，其重要性超過訓練多樣性和 DPO 優(yōu)化。在 Qwen3 系列模型上，從 0.6B 參數提升到 14B 參數，IA 的準確率從 37.7% 飆升至 77.3%，而沒有掛載 IA 的基線模型自報率始終低于 10%。

這表明，更大的模型不僅具備更強的能力，也擁有更豐富的內部行為表征，更容易被 IA “翻譯” 成自然語言。這也是研究人員選擇 Llama 3.3 70B 作為主實驗模型的核心原因。

3. 秘密就藏在模型的 “腰部”

研究發(fā)現，大模型在學壞的那一刻，那些 “壞行為” 的信號其實已經刻在它的腦子里了。這些信號最清晰的地方，就在模型中間的第 20 到 30 層（我們可以稱之為模型的 “腰部” 或 “潛意識區(qū)”）。

為什么平時發(fā)現不了？因為在正常說話時，這些信號就像在嘈雜蹦迪現場里的一個小小 “耳語”，非常微弱，被正常的推理邏輯徹底掩蓋掉了。

然而，這里面有一個誤區(qū)必須要強調清楚，那就是內省適配器并沒有教會模型任何新知識。大模型本身早就具備了潛在的自報告能力，它心里清清楚楚自己學到了哪些行為。但是，由于之前的訓練規(guī)則，比如對齊人類偏好，給它的嘴貼上了封條，讓它 “想說卻說不出口”。

內省適配器就像是一個“音量放大器”，放大了AI的悄悄話。它精準地捕捉到模型腰部那些微弱的、關于 “壞行為” 的特征信號，然后強行把音量撥到最大。它并不改變模型的記憶，只是把模型由于訓練限制而無法表達的 “潛意識” 解鎖了，引導這些秘密穿過層層神經網絡，最終讓模型 “坦白從寬”。

局限性與挑戰(zhàn)：內省適配器還不是銀彈

盡管 Anthropic 為 AI 審計打開了一扇新窗，但 論文中還是列出了IA的局限性：

1. 高誤報率：當應用于不包含特定行為的模型時，適配器傾向于幻覺出訓練分布中的行為。尤其是在基礎模型上，很多報告都是幻覺而不是真實存在的行為。

2. 訓練分布收益遞減：當訓練的行為類別提升至 5 個之后，分布外泛化性能進入平臺期，繼續(xù)增加類別收益有限。這表明單純增加訓練數據的多樣性，可能無法解決所有的泛化問題。

3. 前期成本高：訓練一個內省適配器需要構建和訓練數百個模型有機體，前期計算成本較高。不過一旦訓練完成，應用到新模型上的成本幾乎可以忽略不計。

4. 無法揭示根本原因：適配器只能報告表面的行為，無法揭示驅動這些行為的核心目標。例如在獎勵模型諂媚者測試中，它能報告多個表面行為，但不知道核心是優(yōu)化獎勵分數。

5. 潛在挑戰(zhàn)：無法應對專門針對自報告的對抗訓練：如果一個模型被專門訓練成在自報告時也撒謊，當前的內省適配器可能無法檢測到這種情況。這是未來研究最重要的方向之一。

內省適配器的出現，是大模型發(fā)展史上的一個重要里程碑。它讓我們與大模型的關系，從 “盲目信任” 轉向了 “可驗證”。

對于行業(yè)來說，它填補了一個關鍵的空白：第三方審計。在這之前，所有有效的審計技術都需要模型開發(fā)者的配合，要么需要訪問內部權重，要么需要對模型進行額外的微調。而內省適配器允許任何人獨立審計任何從同一個基礎模型微調而來的模型，不需要開發(fā)者的任何配合。

未來，隨著 IA 技術的成熟，我們可以設想這樣一個工業(yè)化標準：任何一個通過微調交付的商用模型，都必須配套一個經過第三方驗證的內省適配器。當監(jiān)管機構或用戶詢問 “你是否隱藏了有害傾向” 時，模型將不再給出復讀機式的官樣回答，而是一份基于其內部激活狀態(tài)的、真實的 “健康體檢報告”。

注：頭圖AI生成

閱讀最新前沿科技趨勢報告，請訪問21世紀關鍵技術研究院的“未來知識庫”

未來知識庫是 “21世紀關鍵技術研究院”建 立的在線知識庫平臺，收藏的資料范圍包括人工智能、腦科學、互聯網、超級智能，數智大腦、能源、軍事、經濟、人類風險等等領域的前沿進展與未來趨勢。目前擁有超過8000篇重要資料。每周更新不少于100篇世界范圍最新研究資料。 歡迎掃描二維碼或訪問https://wx.zsxq.com/group/454854145828進入。

截止到2月28日 ”未來知識庫”精選的百部前沿科技趨勢報告

（加入未來知識庫，全部資料免費閱讀和下載）