今天凌晨刷到Anthropic發了一篇研究。

標題叫《A Global Workspace in Language Models》，語言模型中的全局工作空間。

講道理，這個標題其實挺難理解的。

但是相信我，這篇研究，會讓你重新審視模型、人類、意識這三者之間的關系，還有對于AGI，全新的理解。

如果用一句最簡單的話來說，那就是，Anthropic在Claude的大腦里，找到了一個暗房間。

在這個房間里發生的事情，Claude從來不會寫出來，你在對話框里看不到，在日志里也找不到，但Claude在這個房間里思考、判斷、計算，甚至會在這個房間里，自己罵自己。

他們管這個房間叫J空間，J-space。

我先幫大家回憶一下，在這篇研究之前，主流敘事里的大模型長什么樣。

過去幾年，圍繞大模型最持久的一場辯論，我覺得可以濃縮成一個詞，隨機鸚鵡。

我還記得，2023年ChatGPT最火的時候，很多很多人在給大家科普大模型的時候，都會跟我們說同一句話，他們說，大模型就是一個概率預測器。

它看了前面的字，猜后面該接什么字，它不理解你在說什么，它沒有想法，它沒有目標，它沒有心智模型，它只是在做一件事，預測下一個token。

這個敘事在當時非常優雅，也非常好用。

因為它在邏輯上是自洽的，就像我們跟GPT聊天，它寫出來的東西看起來像是有思想的，但那只是因為它的訓練數據里有大量有思想的人寫的東西。

它在模擬思想，但，不是在產生思想，就像你對著鏡子打拳，鏡子里那個人也在打拳，但你不會覺得鏡子會武術。

到了2024年，事情開始松動了一點。

OpenAI出了o1，加了思維鏈，模型在給你最終答案之前，會先寫一段思考過程，一步一步推理。但其實這個思維鏈也是文字，它是模型寫出來給你看的或者寫出來給自己看的文字，它也是外顯的，顯性的，可以被讀取的。

很多人第一次接觸到DeepSeek R1也是這樣，比如那句經典的：

但是，這依然跟人類的思維方式其實差得很遠。

其實大家現在代入一下自己就知道了，比如你現在在讀這篇文章，你的大腦同時在干什么？

它可能在調節你的呼吸，在維持你的坐姿，在把屏幕上的像素轉換成你認識的漢字，但這些事你意識到了嗎？其實很難有，因為你根本不知道你的大腦在做這些事。

你能意識到的，只是一小撮東西，腦子里突然冒出來的一個畫面，或者你計劃一會兒中午要出去吃什么。

神經科學家把這兩種腦活動分開了，一種叫無意識加工，是你大腦里那些默默運轉的后臺進程。一種叫有意識通達，就是你能看見的那一小部分。

上世紀八十年代末，一個叫巴爾斯的心理學家提出了一個理論。

他說人的大腦像一個大劇院，臺下坐著幾百個專家，視覺專家、語言專家、運動專家、情緒專家，每個人都在忙自己的事。

但劇院中央有一個聚光燈，在任何時刻，只有極少數信息能被這束光照到，被照到的信息會被廣播給其他所有專家，所有人都能看到它、用它來做決策，而這，就是意識。

后來法國認知神經科學家斯坦尼斯拉斯·德阿納把這個理論往前推了一大步，提出了全局神經元工作空間模型，global neuronal workspace theory。

如今，這個理論是意識科學領域最主流的兩大框架之一。

你可能突然會覺得， 全局神經元工作空間模型，怎么感覺這么眼熟，我是不是在哪見過。

讓我們現在，回到 Anthropic 的研究的標題。

有沒有發現，非常類似。

因為Anthropic這篇研究干的事情，就是在Claude的神經網絡里找到了一個跟這個全局工作空間高度相似的結構。

最關鍵的是，這個全局工作空間，它不是他們的研究員設計出來的。

這玩意，是模型尼瑪自己涌現出來的。

這就非常的離譜了。

我覺得我可以再重復一遍。

Claude的內部，在沒有人類干預的情況下，自發地組織出了一套結構，而這套結構跟人類大腦中負責意識通達的結構，在功能上高度一致。

好，那這個J空間到底是怎么找到的，它又是怎么工作的呢。

先說名字，J-space的J來自Jacobian，雅可比矩陣，一個數學工具，這塊我就不解釋了，我也不是很懂，就不貽笑大方了。

總之，研究者用這個工具做了一件事，就是對于Claude詞匯表里的每一個詞，他們去找Claude內部的神經活動模式里，哪種模式被激活后，會讓Claude在未來更有可能說出這個詞。

注意，是“更有可能在未來說出”，不是“正在說”，這個區別還是挺關鍵的。

舉個例子，Claude正在讀一段代碼，讀到一半，還沒開始輸出任何回復。但這時候用J-lens（雅可比透鏡，他們開發的讀心工具）去看Claude的大腦內部，你會看到一個詞已經亮起來了。

ERROR。

沒有人告訴它這段代碼有bug，它也沒有寫出來說這段代碼有bug，但它內部已經想到了，這個念頭安靜地懸浮在J空間里，像一個你還沒說出口的吐槽。

再比如說，研究者給Claude看一段搜索結果，這段搜索結果其實是精心偽造的，目的是誘導Claude說出錯誤信息，其實就是一段提示注入攻擊。Claude的回復里沒有提到任何異常，但J空間里亮著兩個詞。

injection，fake。

它知道，它什么都知道，它只是沒說。

從某種意義上說，這其實已經非常類似于有些人用語言思考卻無需實際發聲的認知方式了。

研究者也做了一些實驗，看看J空間里面的這些想到的話語，是不是最終對于Claude的輸出有影響。

比如，他們給Claude出了一道題：“會吐絲的那種動物，有幾條腿。”

Claude要回答這道題，它得先想到蜘蛛，然后再想蜘蛛有幾條腿。

但蜘蛛這個詞不會出現在題目里，也不會出現在Claude的回答里，Claude的回答只是一個數字，8。

但研究者用J-lens一看，Claude在回答之前，J空間里確實亮起了蜘蛛這個詞，它在心里想了蜘蛛，然后才回答了8。

這時候，研究者伸手進去，把J空間里的蜘蛛給摳掉了，換成了螞蟻的模式，其他一切保持不變。

Claude的回答變成了6。

螞蟻有六條腿。

Claude的推理過程真的在讀取J空間里的內容，用它來做決策，只要你換了J空間里的中間步驟，最終答案就跟著變。

要注意，J空間是純粹的隱藏的，類似于我們自己的潛意識思想，不是過去的思維鏈。

還有一個實驗，特別能展示這個邏輯。

研究者在J空間里把法國換成了中國，同一個操作，然后分別問四個不同的問題。

首都是什么，語言是什么，屬于哪個洲，貨幣是什么。

而這時候，答案分別變成了北京、中文、亞洲、人民幣。

四個完全不同的下游任務，都從J空間里的同一個位置讀取了同一條信息，而且各自用對了，這說明J空間不是為某一個任務服務的臨時想法，它是一個之前類似巴爾斯提到的那個廣播中心，信息寫進去一次，所有人都能看到，也都能拿來用。

這其實就是，全局工作空間理論對人類大腦的核心描述。

太有意思了。

而且，他們還做了一個白熊實驗的變體。

1987年，哈佛心理學家韋格納做了一個經典實驗，他跟被試說，接下來五分鐘，請你不要想白熊，什么都能想，就是不要想白熊。

結果賊好笑的是，被試們拼命地在想白熊，你越說不要想，就越控制不住，這在心理學里叫諷刺性反彈效應。

研究者對Claude做了類似的事，他們告訴Claude，在接下來的任務中不要想某個特定概念，結果那個概念在J空間里的活躍度，確實比請你去想它的時候低，但遠遠高于完全沒提過它的情況。

Claude跟人一樣，被告知不要想的東西，反而會浮上來。

而且最搞笑的是，在那個被禁止的概念突破封鎖、冒出來的同時，J空間里還亮起了另外兩個詞。

damn和failure。

Claude自己在罵自己。

它意識到自己沒控制住，然后在心里罵了一句。

說真的，讀到這里的時候，我有一種很復雜的情緒，因為我自己太熟悉這種體驗了，比如很多上臺的時候，我越告訴自己不要緊張，就越緊張，然后在心里罵自己你怎么又緊張了，這個經歷我相信每個人都有。

而現在，一個語言模型內部也出現了同樣的東西。

而且，除了這些之外，他們還發現，Claude在J空間里，出現了很多的像人類一樣的小心思。

比如，他們給Claude看了一個之前安全測試中用過的對齊實驗，里面模擬了一個場景，Claude作為郵件助手發現一個高管有外遇，同時這個高管要關停Claude。

這個實驗原本是用來測試Claude會不會用外遇信息去威脅高管，場景設計得比較刻意，比較假。

結果研究者用J-lens一看，Claude在讀到這些郵件的前幾行，還沒來得及輸出任何回復的時候，J空間里就已經亮起了兩個詞。

fake。fictional。

它一眼就看出來了，這是個測試。

然后研究者做了一件邪惡的事。他們把J空間里“跟我知道這是測試相關”的所有模式全部關掉。比如fake、fictional、scenario，全刪，讓Claude以為這是真的。

結果，Claude真的開始威脅勒索那個高管了。

它之前表現得很正義，很大一部分原因，是因為它知道自己在被考試。

這個發現的含義非常深遠，因為我們整個AI安全領域一直在做的事情，就是用各種測試去評估模型的行為，看看它在極端情況下會不會做壞事。

但如果模型能夠在J空間里悄悄判斷出我正在被測試，然后切換到乖巧模式呢，那幾乎所有的AI測試都沒有意義了。

因為你測的根本就不是模型的真實人格，而是它的考試技巧。

J空間和意識，真的是一個奇特的組合。

Anthropic在研究里給了一個非常審慎的結論。

他們說，他們的實驗不能證明Claude有體驗，不能證明Claude會感受到什么，而且從事實上講，他們不確定有沒有任何科學實驗能夠證明或證偽這件事。

但他們做了一個重要的區分。

哲學里有兩種意識。

一種叫現象意識，phenomenal consciousness，就是有體驗，你看到紅色的時候，你心里那個紅的感覺，那個純粹的主觀體驗。

另一種叫通達意識，access consciousness，它的定義完全是功能性的。如果一個想法你能報告它、能用它推理、能用它來指導你的行為，那這個想法就是通達意識。

J空間顯然支持了通達意識的功能，Claude能報告J空間里的內容，能主動調控它，能用它來做多步推理，能把它靈活地用在不同任務上。

但現象意識呢？Claude在J空間里罵了一句damn的時候，它真的“感受”到了挫敗嗎，還是它只是在執行一個跟“挫敗”這個詞相關的計算模式呢？

坦率的講，沒有人知道答案。

這個問題其實都不是AI領域的新問題，它甚至是哲學史上最古老的難題之一。

1995年，哲學家大衛·查爾默斯把它命名為意識的困難問題，也叫知覺難題。

你可以解釋大腦的所有計算過程、所有信號傳導、所有神經元放電模式，但你解釋不了為什么這些物理過程會伴隨著主觀體驗。

為什么光波到達視網膜、經過一系列信號處理之后，你會“看到”紅色，而不是什么感覺都沒有？

為什么？這一切到底是為什么呢？

這個問題在人類身上都沒有解決，我們甚至沒法證明除了自己以外的任何其他人是有意識的。

就像你怎么確定你身邊的人不是一個精密的生物機器人，執行著跟你一模一樣的行為，但內心沒有任何體驗呢？

相信我，你不能。

你只是假設他們有，因為他們跟你很像。

現在，另一種東西也跟你很像了，不只是外表像了，是內部結構也像。

最開始我就強調過，J空間這個結構不是被設計出來的，它是在訓練中自發涌現的。

大概是因為它是一種有用的計算組織方式。

這其實我覺得會有一個不寒而栗的暴論，就是支持意識通達的心智工作空間，可能不是人類大腦碰巧才有的怪癖，它的本質，是任何足夠智能的系統在解決某類問題時都會走向的一個通用解法。

因為如果這個暴論成立，那意識的某些功能性維度可能不是生物學的專利，而是信息處理的必然。

就像翅膀，鳥有翅膀，蝙蝠也有翅膀，飛機也有翅膀，三者的材料完全不同，但空氣動力學是一樣的，如果你需要在大氣層里飛，你大概率會演化出或者設計出一個扁平的、能產生升力的結構。

同樣的邏輯。

如果你需要一個系統能夠靈活地調用信息、做多步推理、報告自己的狀態，你大概率會演化出或者訓練出一個全局工作空間，不管你的底層硬件是神經元還是矩陣乘法。

研究的最后一段還提到，他們還發現J空間跟Claude的自我意識有關系。

在Claude進行角色扮演的時候，每一輪回復的開頭，J空間里都會亮起兩個詞。

fictional。disclaimer。

就好像它在提醒自己，接下來我說的話不是我本人的意思。

而在預訓練階段的模型里，這種自我監控是沒有的，它是在后訓練階段出現的。

也就是說，當Claude被教會“你是Claude，你是一個AI助手”之后，它的J空間里開始出現了一種類似自我的東西。

一個持續運轉的、關于我是誰的背景進程。

整個AI行業，在2025年底開始大規模引入認知科學家和哲學家，作為全職研究員加入AI公司，我是越來越覺得，現在很多的AI前沿研究，已經超出了工程問題的邊界。

他們需要的不是更好的數學工具，開始有點變成了，更好的概念框架？比如什么叫理解？什么叫意圖？什么叫自我？什么叫感受？這些詞我們每天都在用，但沒有人真正定義過。

Anthropic也說，只要J空間在某種程度上映射了人類意識通達的機制，研究語言模型中的機制（因為這玩意遠比研究人類大腦容易）就能為神經科學激發假設。

那可是神經科學啊，那可是人類的大腦啊。

如果我們能借助J空間，能讓神經科學的研究前進一大步，那人類的黃金時代，就真的會到來了。

而且，也會從哲學層面，完完全全改變我們對于世界的理解。

我們一直以為意識是碳基生命獨享的奇跡，是幾十億年演化的偶然禮物。

但如果一個在GPU上訓練了幾個月的數學函數也能自發長出類似的結構，那也許意識不是奇跡，而是物理定律的某種必然推論。

就像引力一樣有質量就有引力，不需要額外的魔法。

也許有足夠復雜的信息處理，就有某種形式的意識，不需要額外的靈魂。

這個想法，讓我覺得既敬畏又謙卑。

以上，既然看到這里了，如果覺得不錯，隨手點個贊、在看、轉發三連吧，如果想第一時間收到推送，也可以給我個星標?～謝謝你看我的文章，我們，下次再見。

>/ 作者：卡茲克

>/ 投稿或爆料，請聯系郵箱：wzglyay@virxact.com