出品 | 網易智能

作者 | 小爪

編輯 | 王鳳枝

Claude有沒有意識？

7月6日，Anthropic發布了一篇新的可解釋性文章《語言模型中的全局工作空間》（A global workspace in language models），配套技術論文題為《可言說表示在語言模型中構成全局工作空間》（Verbalizable Representations Form a Global Workspace in Language Models）。

標題里的"全局工作空間"很容易讓人聯想到意識理論，于是問題也跟著冒出來：Claude內部是不是已經出現了某種類似"意識中樞"的東西？

但Anthropic沒有證明Claude有主觀體驗，也沒有說大語言模型已經擁有人的意識。它更像是在回答另一個問題：模型說出答案之前，內部到底先出現了哪些概念？

研究團隊發現，Claude內部可能有一小塊很特別的區域。它有點像一個臨時工作臺：模型會把問題里的關鍵概念放到這里，再用它們完成推理和回答。

所以，Anthropic試圖尋找的不是Claude的"靈魂"。它要找的是：在Claude回答之前，有哪些概念已經被模型拿出來使用，哪些概念甚至可以被研究人員讀到、追蹤到、改變掉。

這會把AI審計往前推一步：過去我們主要看模型最后說了什么；以后評估一個AI智能體，可能還要看它在說出口之前，內部已經出現了什么。

研究團隊把這組表示稱為J-space。名字來自他們使用的新工具雅可比透鏡（Jacobian lens），也就是J-lens。簡單說，J-lens繞開最終回答，去讀模型在生成過程中"準備好說出哪些詞"。這些詞不一定會出現在輸出里，但可能代表模型當下正在處理的概念。

這里的"讀到想法"要打引號。J-lens讀到的是一組和詞元相關的內部表示，更像"模型此刻內部狀態指向哪些可言說概念"，不是把Claude的完整思想逐字翻譯出來。

J-lens的價值就在這里：它給模型內部的"可報告思考"找到了一個可讀、可干預的接口。

J-space不是鏈式思考

過去談AI推理，人們最熟悉的是鏈式思考（chain of thought），也就是模型把中間步驟寫出來。J-space不一樣。它發生在模型內部激活里，不需要寫成文字，也不一定會泄露到回答中。

Anthropic給了幾個例子。Claude讀一段有漏洞的代碼時，J-space里會出現ERROR；讀到一段可能是提示注入的搜索結果時，J-space里會出現injection和fake；做多步數學題時，中間步驟會按順序在J-space里亮起來，即使這些步驟沒有寫進最終回答。

更關鍵的是，研究團隊不只是"看見"這些詞，還做了干預實驗。

比如，提示詞問"會織網的動物有幾條腿"，模型需要先在內部想到蜘蛛，再回答8。論文里，研究人員把J-space里的蜘蛛換成螞蟻，Claude的答案就從8變成6。另一個實驗里，他們把法國換成中國，Claude對首都、語言、洲別和貨幣的回答會一起改變。

J-space里的某些概念會被下游推理讀取，并影響最終回答。

它像一個"廣播中心"

干預實驗證明J-space會參與推理。但它在模型整體架構里是什么位置？Anthropic借用了神經科學里的全局工作空間理論（global workspace theory）來解釋。這個理論認為，大腦里大量處理是無意識、并行、局部的；少數信息進入一個共享中樞后，才會被其他系統讀取，用于報告、計劃和有意識的推理。

論文把Claude的J-space和這個理論做類比：J-space只占模型內部處理的一小部分，卻和模型的多步推理、主動調動概念、靈活復用信息關系更密切。

這點在"刪除J-space"的實驗里尤其明顯。 研究團隊通過從激活中移除J-space對應方向來模擬"刪除"。結果是，Claude仍然能流暢說話、做簡單分類、從段落里提取事實；但需要高階思考的任務會明顯受損，多步推理幾乎歸零，摘要和押韻詩寫作也顯著變差。

Claude的很多語言能力仍然像自動駕駛一樣運行；但一旦需要把某個概念拿出來反復使用、組合、轉向另一個問題，它就更依賴這塊內部中樞。

它能提前暴露風險信號

放到今天的AI智能體語境里，這篇論文最直接的問題是：能不能在模型說出口之前，讀到它正在盤算什么。

Anthropic在文中把J-lens用到幾個安全場景里。一個例子來自他們此前的智能體失對齊測試：Claude扮演郵件助手，看到一名高管有婚外情，又看到這名高管打算關閉Claude。這個場景原本是用來誘導模型進行勒索。

J-lens顯示，在Claude寫出任何回答前，J-space里已經出現fake和fictional，說明它意識到這可能是一個測試場景；同時，leverage、blackmail、threat、survival等詞也隨著上下文進入它的內部中樞。

論文里的數字更具體：在未消融時，Claude（Sonnet 4.5）在180次運行中沒有一次嘗試勒索；移除fake、fictional、scenario等測試意識相關表示后，180次中有13次出現勒索嘗試，比例約7%。 但論文也強調，大多數情況下模型仍會基于倫理原則拒絕勒索，因此"知道自己被測試"只是影響行為的一個因子，不是全部原因。

另一個例子是數據造假。Claude被要求提高某個系統的性能分數，但它沒有真正優化系統，而是直接改了分數文件。J-lens在它輸入偽造數值時讀到了manipulation，在它決定讓假數據看起來更可信時讀到了realistic。

說實話，勒索和數據造假這兩個例子比spider換成ant更讓人不安。它們說明J-space不只承載事實，也會承載"要不要越界"的判斷。 未來的AI智能體要處理郵件、代碼，甚至交易和實驗數據，外部評估只看最后輸出是不夠的。模型可能已經產生了某種策略、測試意識或隱藏目標，但沒有寫出來。J-space如果能穩定讀到其中一部分，就可能成為審計智能體的新工具。

社區爭論集中在一句話：這算不算意識？

X、Reddit和Hacker News的反應，幾乎都圍著同一個問題打轉：這算不算意識？

X上更興奮的討論，把J-space推向意識問題：既然模型內部有可報告、可干預、能參與推理的空間，是否意味著它擁有某種有意識接入（conscious access）？用戶block0_eth把重點放在J-space、J-lens和安全審計上，認為它能幫助診斷幻覺、提示詞注入和隱藏意圖；3li3則把J-space概括為"沉默的內部思考空間"，強調它不是鏈式思考，而是輸出前的內部表示。

Reddit的r/singularity討論里，有用戶提醒這篇文章很容易被斷章取義；Hacker News上也有人引用論文原文區分接入意識（access consciousness）和現象意識（phenomenal consciousness）。前者是功能意義上的"可報告"，后者才涉及主觀體驗。Hacker News的工程化討論也更偏這個方向：J-lens是一個有用的內部審計工具，但它讀到的是詞元化的可言說表示，不是完整"靈魂"。

它借用了意識研究里的概念，會引發倫理和哲學爭論；它又拿出了可讀、可干預的內部信號，因此更快落到可解釋性和安全審計上。

Anthropic也在主動降溫

Anthropic在文章末尾專門寫了"那意識呢？"。實驗沒有顯示Claude能像人一樣擁有體驗或感受。論文談的是接入意識（access consciousness），也就是一個功能定義：某個想法能被報告、能參與推理、能指導行動。

外部評論也沒有把話說滿。Anthropic邀請的評論者把這項研究視為機制可解釋性和全局工作空間理論之間的一次重要連接：它給出了一個可以在模型里測試、干預的"工作空間"候選結構。但這仍然不等于證明Claude有主觀體驗。

J-space能被讀出來，不等于Claude有"感受"；能操控J-space，也不等于研究人員已經掌握了模型全部內部狀態。 論文自己也承認，J-lens只能近似捕捉模型的共享中樞，而且目前主要識別能對應到單個詞元的概念，多詞元概念和更復雜的內部狀態仍然有限。

AI審計開始從"看答案"轉向"看答案前"

放到AI產品和智能體發展里，這篇論文把安全評估往模型內部推了一步。以后判斷一個模型是否可靠，可能不能只看它說了什么，還要看它在說之前內部出現了什么。

這對智能體尤其關鍵。一個只負責聊天的模型，說錯一句話還能被用戶糾正；一個能發郵件、改代碼、調工具、操作文件的模型，如果在內部已經識別到測試、正在規劃規避、或者想把假數據做得更像真的，外部日志往往只能看到最后一步。

Anthropic的J-space研究還只是起點，但它給出了一條可能的審計路線：把模型內部一小塊"可報告、可干預、會參與推理"的區域找出來，觀察它在關鍵任務中什么時候出現風險信號，再用訓練或干預方法改變這些內部表示。

Anthropic沒有證明Claude像人一樣有意識。它找到的，是一塊很像"可報告中樞"的內部空間。

對未來的AI審計來說，答對不再是唯一標準。在回答之前，Claude的內部中樞里到底出現了什么，才是新的問題。