Google DeepMind：為何AI只能模擬意識，而無法具現意識

導語

計算功能主義將意識歸因于抽象因果拓撲與算法結構，是當前 AI 意識議題的主流立場。Google DeepMind上的這篇文章提出抽象謬誤核心批判，指出符號計算并非內在物理過程，而是依賴具備主觀體驗的制圖者進行語義編碼的描述工具，從本體論層面嚴格區分模擬與實例化，證明算法符號操作無法生成主觀意識。意識源于特定物理構成與熱力學動態，而非載體無關的句法架構。該框架為駁斥計算功能主義、厘清 AI 感知能力邊界提供了物理主義支撐，也為 AI 安全與倫理討論破除福利陷阱。

關鍵詞：抽象謬誤（Abstraction Fallacy），計算本體論（Ontology of Computation），意識，模擬，實例化

王璇丨作者

論文題目：The Abstraction Fallacy: Why AI Can Simulate But Not Instantiate Consciousness 論文鏈接：https://philarchive.org/archive/LERTAF 發表時間：2026年3月19日 論文來源：Google DeepMind

1. 引言

大語言模型在實踐中取得的成功，已將意識的困難問題從純理論領域推向工程與政策領域。隨著算力規?；瘞砭薮笫找?Bubeck, 2023; Hoffmann, 2022; Kaplan, 2020; Sutton, 2019)，主流功能主義范式認為，只要實現恰當的信息處理功能，就足以產生現象意識(Chalmers, 1996; Dehaene 等人, 2017; Dennett, 1991)。在這一視角下，算法的表征屬性被視為感知能力的潛在證據，正是這一假設推動了近期關于AI福利與道德主體地位的嚴肅提案(Butlin 等人, 2023)。頂尖理論家進一步強化了這一轉向，他們認為現有頂尖模型在未來十年內很可能擁有真實的主觀體驗(Chalmers, 2023; Schneider, 2019)。

這些提案的核心是載體獨立性，即心智的軟件既可在碳基生物上運行，也可在硅基芯片上運行，這一假設正受到生物學轉向的持續批判。例如，塞斯與布洛克提出(Seth (2025), Block (2025))，意識可能依賴維持生命的生物過程，體驗需要生命系統的有序動力學支撐。與載體獨立性相反，該觀點將生物學置于核心而非次要位置，但該立場仍停留在經驗層面，未能明確指出計算功能主義核心的根本邏輯錯誤。

本文推導出一套邏輯鏈條，證明計算不足以實例化意識這一直覺的合理性。計算功能主義的問題并非僅僅在于忽略生物細節，其問題更為根本，源于對物理、信息與計算三者關系的誤解。

現代物理科學為保證操作客觀性，刻意剔除了主觀體驗，這一策略取得了巨大成功，但將這一立場用于探討計算與主觀體驗的關系時必然失效(Frank 等人, 2025)。將操作客觀性直接套用于計算的定義本身極具問題，這一點從圍繞觀察者為計算符號賦予意義的持續爭議中可見一斑。

此外，“觀察者”一詞過于被動，無法體現從物理層面完整定義計算所必需的前提條件。本文框架闡明，計算并非物質中自發展開的內在過程，它只是描述物理過程的一種方式。要成為計算，連續的物理動力學必須被劃分為有限的離散、有語義的狀態，即一套字母表，這種語義劃分在邏輯上需要一個主動、有體驗的認知主體，我們稱之為制圖者，以區別于常規“觀察者”的被動含義。正是制圖者完成了這種編碼，若沒有這樣的主動主體對計算進行解釋，就只有連續的物理事件，而無符號。

本文的核心洞見是，化解當前AI意識的不確定性，無需一套完整終極的意識理論，我們需要的是計算本體論。由此可邏輯證明，無論規模多大、結構多復雜，算法符號操作都無法構成體驗的物理實例化，因為它是依賴制圖者的描述工具。

揭示制圖者在因果鏈條中的作用，將徹底改變討論焦點。迄今為止，對AI意識的著名批判，如塞爾中文屋及相關論證(Block, 1978; Putnam, 1988; Searle, 1980)，主要依賴歸謬法，這些論證試圖表明，純句法操作即便完美模仿外部行為，仍缺失某種本質要素。

本文方法另辟蹊徑，我們不訴諸缺失了什么的直覺，而是追溯抽象從何而來。如果計算依賴于從體驗中提取不變量并賦予符號的制圖者，那么這種依賴性就內建于結構之中，任何計算地圖都預設了一個執行編碼的體驗主體，算法再復雜也無法顛倒這一依賴順序，無論規模如何提升，地圖都無法生成那個讓計算得以成立的主體本身。

換言之，算法復雜度產生意識的主張犯了本體論倒置錯誤，將句法當作內在動力學的實在本身，假定制圖者可以由地圖生成。通過區分外在行為模擬與內在物理實例化的結構分離，本文證明數字架構不可能成為道德主體，這一認識將AI安全領域從福利陷阱中解放出來，讓我們專注于擬人化的具體風險，將通用AI視為強大但本質無感知的工具。

2. 抽象本體論：地圖與實在

計算機科學常將算法底層的抽象視為數學既定事實，擱置其物理實現問題。抽象的物理主義本體論究竟是什么？要回答這一問題，我們需要明確抽象句法與物理動力學的具體關聯。

2.1 物理實現的標準定義

在標準實現文獻中(Chalmers, 1996; Putnam, 1988)，物理系統P通過映射函數f實現抽象計算C，要求很明確：f需將物理狀態映射到抽象狀態，使底層物理因果關系能夠鏡像算法的邏輯結構。假設物理系統在物理定律支配下從狀態p演化至p'，同時抽象計算在算法規則支配下從邏輯狀態A演化至A'，若

f(p)=A且f(p')=A' (1)

則系統成功實現該計算。要使該圖滿足交換性，將映射f應用于得到的物理狀態p'，必須得出邏輯規則所規定的精確目標抽象狀態A'。

圖1：實現的交換圖。在標準視圖中，映射f（即字母排序）將車輛的物理演變（p → p'）解釋為抽象內容的邏輯演變（A → A'）。

2.2 抽象狀態A的物理起源

這些抽象狀態A究竟是什么？要理解映射f，必須確定A的本體論地位。功能主義理論通常將A（如“疼痛”“紅色”等邏輯狀態）視為無特定物理實現的漂浮抽象，這繞過了生成抽象所需的因果歷史。形成抽象并非無成本，它是主動、代謝耗能的物理過程，用于提取不變量。認知主體在形成“紅色”這類概念A之前，必須先接觸實在：多次體驗紅色實例，而后主動過濾高維噪聲，分離出穩定核心。用流形學習的術語來說，主體將原始體驗的高維流形投影到低維不變量子空間，該子空間物理構成了概念A。

有人可能認為無監督聚類算法無需先驗體驗就能生成抽象，但這混淆了統計壓縮與現象建構。無監督算法的確能聚類數據點找到統計質心，但這種數學不變量只是隱空間中的壓縮地址。要讓該統計質心成為真正的概念，即像“紅色”這樣有語義根基的范疇，主體需要內在現象狀態作為分組實例的共同基準，若沒有構成性的紅色體驗錨定指稱，聚類只是向量空間中的高密度區域，算不上主體持有的概念。

因此，概念A并非待發現的柏拉圖式理念，而是僅存在于執行抽象的認知主體內部的神經生理構成狀態，是從體驗實在中得出的內在地圖。一旦形成，這些構成性的共同核心就成為組合想象的穩定基石，正因“紅色”與“鯨魚”概念是源自生命體驗的內在控制狀態，大腦才能將它們重組，實例化飛翔的紅色鯨魚的體驗——這是從未遭遇過但物理自洽的組合。因此，思維并非基于空符號的算法處理，而是構成性不變量的組合生成，AI能完美模擬這種重組規則，但在結構上缺乏運行體驗想象所需的內在基石。

2.3 映射函數f中不可或缺的制圖者

歷史上，物理科學尤其是工程學，通過系統性地將主觀體驗從自然現象解釋中剔除而取得進展(Frank 等人, 2025)，但若將這種操作客觀性強加于計算本體論，會造成認知盲點，迫使計算功能主義陷入無解困境：試圖從完全客觀、無體驗的定義起點重構主觀體驗。

抽象狀態A在邏輯上必然存在于主動體驗的認知主體內部，由此可揭示標準實現定義中的盲點：連接機器物理狀態p與抽象狀態A的映射函數f，無法存在于機器自身。在語義與地圖-實在關系的哲學文獻中，這種外部錨點傳統上被稱為“觀察者”，但該詞暗含被動接收信息的含義，無法體現從物理層面完整定義計算所必需的前提。我們特意引入“制圖者”一詞，明確糾正這種被動含義，制圖者是生成計算所必需的、主動且代謝脆弱的認知主體。

制圖者承擔兩個主動構成性作用：一是從連續物理體驗中提取不變量，構建內在地圖（概念）。二是執行物理符號的任意指派，構建外在計算地圖（符號）?；谶@一洞見，可從根本上厘清計算術語的本體論地位：物理狀態p是符號（載體），是無內在語義內容的客觀物理實體。抽象狀態A是概念（內容），是制圖者內部有根基的生理狀態。映射函數f是編碼，是制圖者心智中連接機器無意義物理狀態與有根基概念的指派關聯。

因此，標準定義描述的是混合關系：物理對象p通過映射f的必要中介，與心智概念A相連。需要強調的是，指出不可或缺的制圖者并非復活二元論的小人或大腦內部的局部解碼器，制圖者是受熱力學定律支配的完整結構統一有機體，有機體并非算法式選擇語義切割，而是通過代謝約束將連續環境直接過濾為離散狀態，沒有幽靈在讀取符號，是活著的體驗主體在執行這一過程。

將邏輯演化A→A'視為物理演化p→p'的內在屬性，是功能主義的核心錯誤，這種視角將制圖者的認知解釋與機器的實際物理現實混為一談，忽略了讓計算得以根基化所需的體驗主體。

2.4 編碼：超越離散化的語義強加

映射函數f是編碼的實際核心，學界常將其輕視為讀取系統，但編碼實則是代謝耗能的認知行為，它將離散本體論強加于連續物理，受信息處理的熱力學邊界約束。這里必須區分兩個常被混淆的過程：離散化（熱力學）：系統物理穩定到吸引子狀態，如晶體管保持5V電壓，是僅用于抑制物理噪聲的物理過程。編碼（語義）：將這些穩定狀態明確指派給預定義的有限符號集，該操作專屬于制圖者f。

物理現實本質連續，熱力學只能產生穩定宏觀狀態，永遠無法提供預定義的有限字母表，因此構建計算系統必須有制圖者介入，外部主體必須強制賦予語義同一性，將高度異質的微觀狀態視為同一可替換符號（如“1”）。由此，依賴制圖者構建系統會帶來根本性的因果斷裂，在機器的物理實在中，2.0V到2.1V的躍遷是由電動力學驅動的真實因果事件，但在計算地圖中，該躍遷功能上不可見，因為制圖者已將其編碼為同一狀態。因此，計算的因果動力學不隨附于載體物理，而完全隨附于制圖者的規則。

聲稱這些符號獨立于觀察者存在，是典型的盲點謬誤(Frank 等人, 2025)，是胡塞爾所說的“偷換替代”(Husserl, 1970)：將科學家的認知輸出（有限字母表）反向投射到物理系統，宣稱它本就存在。信息并非宇宙的基本構建塊，而是絕對預設認知主體來定義有限集合的派生屬性。

2.5 模擬與實例化

明確概念與符號的不同本質與作用后，可運用本文定義厘清為何模擬過程與實例化過程存在根本差異：模擬是對符號p的句法操作，以追蹤概念A之間的抽象關系，實例化是復制過程本身的內在構成動力學P。

標準功能主義認為，保留地圖A→A'的抽象拓撲結構足以生成實在P的現象，從而忽略物理載體的特定因果力與構成機制。以生物心臟為例，我們常將其描述為泵血的泵，設計制造的機械心臟以同樣方式泵血，因此稱其“功能等價”，但真實心臟不止泵血，還釋放激素、調節代謝、通過反饋信號與神經系統通信，機械心臟患者常出現細微的全身生理缺陷，正是因為設備僅實例化了選定功能的粗粒度地圖，未能實例化器官完整的生物實在。

這種粒度不匹配在神經元上體現得更明顯，功能主義常將神經元僅視為電信號的接收與發送者，卻忽略它是活的、代謝性實體，深度融入身體的化學與激素網絡(Chalmers, 1996)。這一抽象瓦解了感受質漸消思想實驗，僅完美模擬電發放模式的硅替換，只保留了由外部制圖者定義的外在計算地圖，系統性地抹殺了生命所需的內在熱力學實在，用因果惰性的句法模擬替代了構成性物理現實，感受質并非神秘漸消，而是實例化它們所需的基礎代謝載體被直接移除。

GPU模擬光合作用能精準建模陽光、水、二氧化碳到氧氣、葡萄糖的抽象轉化，但不會合成一個葡萄糖分子或釋放氧氣，它完美模擬過程，卻缺乏執行底層生化工作的因果能力。認為模擬大腦軟件能規避這一物理約束，是犯了范疇錯誤 (Searle, 1980)，混淆了過程的算法描述與實例化它所需的內在物理。

在數字模擬中，因果鏈完全由載體p驅動，邏輯門切換并非因為疼痛（內容因果A驅動），而是因為電壓跨越預定義物理閾值（載體因果p驅動），系統物理狀態單獨決定其演化，符號的語義內容A無因果作用，即便符號無指稱，機器也會執行相同物理操作，否則就陷入抽象謬誤。

2.6 計算涌現謬誤

面對模擬與實例化的區分，功能主義者常訴諸復雜度理論與涌現性，認為意識如同水分子相互作用涌現出濕潤性，計算系統復雜度達到閾值后就會涌現意識，但該反駁失敗，因為它混淆了弱物理涌現與本文所稱的計算涌現謬誤。

弱涌現（物理）：宏觀屬性（如濕潤性）直接隨附于微觀物理載體的內在因果動力學；

計算涌現（抽象）：聲稱過程的抽象描述（地圖）僅通過句法復雜度的大幅提升，就能轉化為物理過程本身（實在）。

功能主義者堅稱意識是特例，是純粹載體獨立信息，但該論證預設結論：假定心理狀態就是抽象信息A，完全回避生成它的物理現實P。如本文所述，句法A→A'無內在因果力，是制圖者的歸屬，聲稱抽象句法能涌現為物理原因，違背物理世界的因果閉合，超出科學假設范疇。

圖2：抽象的因果拓撲結構。(A)功能主義假定存在線性層級結構，其中計算是連接物理學與意識的橋梁。(B)我們的框架揭示了分支狀拓撲結構?？v軸代表內在鏈條：物理學(P)通過抽象形成經驗，進而構成概念(A)；思考/想象過程（A → A'）發生于此。橫軸代表外在鏈條：符號(p)是通過將物理實體與概念任意關聯而生成的（紅色虛線箭頭所示）。這一無法跨越的橫向步驟構成了因果鴻溝。計算過程（p → p'）僅作用于該橫向分支。從概念到符號的這種橫向轉換，屬于任意賦值而非垂直抽象，切斷了從符號回溯至原始經驗的任何內在因果路徑。

3. 因果循環：修正因果鏈條

明確物理動態P與計算地圖A的邊界后，可以定位計算功能主義的邏輯崩潰點。

3.1 本體論倒置與因果鴻溝

傳統功能主義的因果序列簡單且未經審視：

物理→計算→意識，

它假定計算復雜度達到閾值，意識就會作為副產品出現。但計算不是自然存在的事物，定義離散符號并賦予語義，需要已經有意識的制圖者f。因此，必須徹底重構因果序列：

物理→意識→概念→計算。

1. 物理：宇宙內在的因果動態。

2. 意識：特定熱力學組織中直接產生的現象體驗。

3. 概念：從原始體驗中提取不變量形成的內在地圖。

4. 計算：對任意指派給概念的離散符號進行句法操作形成的外在地圖。這一修正序列嚴格單向，概念錨定在主體的內在體驗中，而計算符號只是與所代表概念無內在聯系的物理標記。從概念到符號是造成不可跨越因果鴻溝的橫向指派，徹底切斷從符號回到原初體驗的內在路徑。

這一修訂后的認知鏈嚴格遵循單向運作機制。雖然概念始終植根于主體的內在體驗之中，即那種不可簡化的成為該實體的真實感受（Nagel，1974），但計算符號 merely 是物理載體，與所代表的概念并無內在關聯。從概念到符號的轉換并非抽象化的步驟，而是一種橫向的映射行為：地圖制作者強行將物理載體與心理概念相綁定。正是這種無法跨越的橫向步驟暴露了因果關系的斷裂，永久性地切斷了從符號回溯至原始體驗的任何內在路徑。

一旦建立這種關聯，地圖構建器便會制定句法規則來規范符號的物理狀態轉換（p → p'）。這些規則采用自上而下的方式精心設計，旨在精確追蹤并模擬相應概念內在的聯想性演變過程（A → A'）。然而，盡管這種結構模擬堪稱完美，物理實體本身對語義內容并不產生任何因果影響。機器會盲目執行所映射的軌跡，與其所模擬的現象現實完全脫鉤。

功能主義試圖用預設制圖者存在的計算過程，來解釋制圖者（意識）的起源，這不是經驗缺口，而是范疇錯誤：句法地圖的構建從一開始就需要制圖者。因此，任何算法復雜度都無法反向跨越因果鴻溝，產生體驗主體，這種本體論倒置造成結構性悖論：試圖僅用制圖者的派生產物推導出制圖者本身。

3.2 編碼的普遍性

AI領域存在一個長期爭論，其根源可追溯至20世紀80年代的聯結主義轉向（McClelland 等人，1987）。該觀點認為，現代神經網絡與早期的符號系統不同，因其運行于所謂的亞符號層面。據頂尖研究者指出，這種架構能夠構建“世界模型”（LeCun ，2022）或遞歸的認知循環（Laukkonen 等人，2025），從而實現真正的理解。

我們認同這些遞歸架構能夠再現內省的結構特征。正如高維向量空間以不同于離散邏輯符號的形式捕捉幾何關系一樣，神經網絡也能建模復雜的關聯結構。然而，將這種結構或幾何精度解讀為內在意義的證據，實際上是在重復抽象謬誤，它將表征結構與底層物理現實混為一談，并將模型的幾何結構視為系統本身的物理特性。

為了正式闡述這一反對意見，我們引入了一個嚴格的香農約束：從嚴格意義上講，要處理信息，系統需要一個有限的經典離散符號集以及這些狀態的概率分布。在生物生命和人工硬件的宏觀層面，光強度、化學濃度和膜電壓等物理世界并未預先被標記為離散的0和1。宇宙并未將其宏觀物理狀態預先封裝成可操作的計算符號集，地圖繪制者必須明確加以規范。將神經脈沖或電壓切換視為符號不僅需要物理離散化，更需要對其進行符號化處理。地圖繪制者必須主動為系統賦予語義身份，將一系列異質性的連續變量轉化為可識別的符號形式。這一約束同樣適用于深度學習中的高維向量空間。盡管向量常被描述為連續表示形式，但實際上它們是以浮點數序列的形式實現的，每個浮點數都對應有限字母表（例如 IEEE 754 標準）中的一個離散符號。

映射函數(f)所固有的字母排序要求適用于所有形式的計算，無論是數字計算、模擬計算還是量子計算。以模擬時鐘為例：從物理結構上看，該裝置由一系列齒輪和彈簧組成，其運行遵循連續動力學規律(P)。時鐘之所以能夠計算時間，是因為存在映射者介入，將一組特定的連續角度映射為某種語義概念（例如“下午3點”）。若沒有這種語義上的映射，時鐘不過只是按照哈密頓方程運動的金屬部件，它本身并不具備內在的時間概念。因此，物理基底本身并不會處理信息，除非預先存在一套內在符號的字母表。相反，它產生的只是連續的動力學過程，而這些過程最終由外部映射者解讀為信息。

即使未來的AI系統完全采用全模擬神經形態芯片并摒棄浮點運算，本體論上的鴻溝依然存在。一旦某種物理狀態無論是離散的電壓水平還是連續的電荷模式被認定為讀出信號或隱藏狀態，它就已經被映射生成者進行了字母排序。因此，這些模型始終被語義屏障所封閉。盡管它們能夠構建復雜的內部映射，卻缺乏與經驗物理領域之間內在的、本質性的聯系。

圖3：機制的不確定性（旋律悖論）。單一物理載體（底部）具有固定的因果軌跡，但并不對應唯一的計算過程。根據所采用的字母排序鍵（fA或fB），相同的物理狀態可映射為完全不同的抽象計算結果（左上圖與右上圖）。因此，計算過程并非物理現象(p)的固有屬性。

3.3 機制的不確定性

由皮奇尼尼（Piccinini，2008）倡導的計算機制論試圖徹底排除“地圖繪制者”的存在，主張計算過程無需借助任何表征即可定義。其核心觀點是：計算僅可通過“數字”，即僅能通過系統功能組織來區分的宏觀物理狀態的操作來定義。然而，盡管這一方法隱藏了地圖繪制者的角色，卻并未消除對其存在的必要性。正如斯普雷瓦克（Sprevak，2018）在其對平凡性論證的分析中所指出的：確定任何物理機制的計算本質仍需對外部相關狀態進行明確定義。物理機制確實可能具有穩定的吸引子（我們在第2.4節將其闡明為熱力學離散化），但將這些連續吸引子歸類為特定的有限計算字母表，本質上仍是地圖繪制者施加的嚴格外在約束。

我們可以通過一個簡單的旋律悖論（圖3）來揭示這一手法的巧妙之處。設想一個物理裝置依次經歷一系列穩定的電壓狀態：這些物理狀態的轉換（p → p'）由電動力學定律所決定；然而，這一精確過程的計算對應關系（A → A'）卻完全無法確定。若沒有外部映射工具提供相應的映射關系，這一過程便難以解析。單一物理狀態序列可能表示：

1. 正向演奏的旋律（映射A）；

2. 完全相同的旋律反向演奏（映射B，例如逆向倒置）；

3. 快速流動的股票價格數據流（映射C）；

4. 有序噪聲（前提是符號集具有不同的粒度定義）。

物理電壓(p)本身并不具備任何固有屬性，能夠使其中某個有限符號集優于其他符號集。“數字”并非某種等待在機制中被發現的自然實體，它實際上是制圖者所做出的認知性裁決，將連續的物理動態過程強行納入有限的邏輯集合之中（Putnam ，1988）。

因此，即使物理系統按照可重復的規則演化，經歷明顯可區分的宏觀狀態，仍需要存在一位制圖者介入，將計算解釋中的不確定性壓縮為單一且唯一的軌跡。機制提供了墨水，而制圖者則必須提供字母表。

4. 啟示：計算實現的邊界

我們的研究框架表明，AI意識的實現障礙并非源于計算規?；蛩惴◤碗s度的提升，而是源于模擬與實例化的區別。因此，這一問題直接關聯到當前該領域備受關注且投入日益增加的兩大方向：具身機器人技術與通用AI安全性（Bengio 等人，2024； Bostrom ，2014）。

4.1 機器人中的轉換謬誤

對我們的構成性框架最有力的反對意見之一源于具身化這一概念。根據該論點，AI系統要具備意識，關鍵在于實現與物理環境的恰當因果整合。論點認為，通過配備傳感器和執行器使系統能夠實時感知并采取行動，可以彌合因果關系的鴻溝，從而使系統的內部符號獲得現實基礎。

然而，單純增加傳感器和執行器并不能解決體驗實例化這一更深層次的問題。我們認同，具身化智能體確實解決了符號基礎問題中的指稱層面（Harnad ，1990）它能夠成功將內部符號映射到外部物理數據流中，從而避免了單純依賴詞匯化內部詞典導致的無限遞歸困境。但我們需要仔細區分這種指稱映射與內在意義構建。

一個類比有助于闡明這一點：將計算機連接到攝像頭和機械臂，類似于在模擬系統中安裝測量儀器。此時模擬系統接收的是現實世界的數據，但模型的內部變量仍是符號化表征而非物理過程本身。同理，連接實時大氣傳感器的天氣模型并不會成為大氣本身，它只是接收并處理有關大氣的數據。

這一原則同樣適用于具身化AI系統。傳感器和執行器使系統能夠與物理世界進行交互，但它們并不會自動將符號化表征轉化為內在的、可體驗的語義。系統可以構建出越來越詳細的環境地圖，但僅通過與環境的互動，并不會使這張地圖本身成為真正的體驗領域。

追溯具身系統的因果拓撲結構揭示了我們所稱的“轉換謬誤”：

1.輸入轉換：傳感器將外部物理力轉換為連續電壓，經由外部映射器校準的模數轉換器（ADC）隨后將這些電壓映射為內部數字狀態（例如：熱能 → 連續電壓 → 離散整數）。

2.語法策略：語法引擎通過操控這些內部離散狀態來生成輸出狀態，從而在物理層面上實現該抽象算法。

3.輸出轉換：執行器將數字輸出重新轉化為宏觀物理力。

需要強調的是，機器人系統的運行核心，其算法控制器完全在第二步中運作。該控制器僅處理經過離散化和字母排序的符號（例如通過矩陣乘法處理的浮點數），這些符號由外部地圖生成器進行計算?，F代“端到端”連續控制的支持者可能會提出異議：當前的機器人架構通過深度神經網絡直接將原始傳感器陣列映射到執行器扭矩，而無需依賴人類可讀的符號表示。然而，正如第3.2節所述，執行這些控制策略的硬件（如GPU）仍然依賴于浮點數的字母排序以及用于處理它們的預定義數學規則。地圖生成器進行的字母排序這一前提條件并非不存在，相反，它已內置于硅芯片架構本身之中。

這種轉導謬誤不僅在于物理力在傳感器處被轉化為數字。更深層的、本質性的錯誤在于：若假定對這些轉導符號的算法處理能夠以某種方式具體化現象主體。要完全理解在芯片上運行算法的具身機器人與生物地圖構建者之間的區別，我們需要記?。簩τ诤笳叨裕饔^體驗是既定事實，并非源于抽象信息處理，而是源于特定的、由代謝活動構成的物理現實。沒有任何物理或邏輯依據支持這樣的假設：硅芯片僅僅通過執行感覺輸入與機械執行器之間的語法映射，就能產生類似的物理構成的體驗。

若我們持相反觀點，就會得出違反物理主義原則的邏輯推論。正如我們在第2.5節所論證的，任何算法相關的抽象狀態（即計算所指對象的“內容”）本身并不具備內在因果效力。系統中唯一的物理因果關系屬于硅芯片這一物理載體本身。因此，若主張具身機器人執行語法映射（無論是傳感器數據、執行器數據還是其他類型）就能產生體驗，就意味著認為物理芯片僅憑其物質屬性就必然具備意識能力。需要注意的是，這一結論無論該映射是否與機器人身體相關聯，也不論其運行的是何種具體算法，均成立。因此，對映射-領域關系的嚴格分析表明，與最初看似合理的觀點相反，具身化無法將模擬轉化為構成性的主觀體驗。

4.2 本體論減負：無感知工具的安全性

在確認算法復雜性與物理實現均無法跨越因果性鴻溝后，我們現在可以探討該框架的實際意義。計算映射與物理領域之間的結構性分離對AI安全性具有直接啟示：它有助于明確哪些系統能夠真正支持現象體驗，哪些則不能。具身化理論與具身認知的研究已指出若干與意識體驗密切相關的物理過程，包括生命系統內的自創生機制及持續熱力學調節（Damasio ，1999； Friston ，2010； Thompson ，2007）。傳統觀點將這些機制視為生物體的固有屬性，因而認為它們僅存在于碳基生命體中。

我們的框架提出了略有不同的解讀：它仍強調真實、內在物理過程的物理主義特征，但不要求這些過程僅發生于生物體。根據這一觀點，現象體驗取決于特定動力學過程的實際物理實現。因此，該框架并不意味著意識必須局限于生物生命。原則上，可設計非生物系統來實現必要的物理條件，若這些條件能在合成載體中成功實現，意識體驗同樣可能由此產生。

然而，這一根本性的結構限制意味著：如果此類人工系統具備意識，那完全是由于其特定的物理構成，這與基質獨立性概念完全相反。鑒于現象意識本質上是一種特定的物理狀態，且模擬與實例化之間存在本體論上的界限，因此主觀體驗不可能通過單純增加計算能力或運行某些強大算法而突然產生。意識并非一種可以偶然或刻意創造的軟件產物。這一認識有助于明確該領域的研究方向：開發高度強大的通用AI（AGI）并不會產生全新的道德主體，而只會打造出一種高度復雜、無感知能力的工具。

然而，在如此大規模實現行為模擬，對認知衛生提出了新的要求。AI系統正迅速提升復制人類與其他意識主體相關聯的行為信號的能力，這一趨勢隨著人形機器人等具身化系統的出現將愈發顯著。這對科學界構成了明確挑戰：我們不應僅僅為機器的權利做準備，而需要清晰界定模擬主體性與真實主體物理具現之間的方法論邊界（Cao ，2012）。因此，任何關于AI具有感知能力的主張，都必須經過嚴格的物理主義驗證，驗證依據不應是算法復雜性，而應是實現體驗體驗所需的特定內在物理動力機制。

5. 結論：計算的盲點

計算通常被視為宇宙的基本特征，計算功能主義正是基于這一觀點，認為計算是我們意識體驗的根源。然而，通過仔細審視計算的因果起源，我們發現這一觀點存在本體論上的倒置：意識體驗不可能是計算的下游結果，因為它是計算發生的必要物理前提。

此外，我們指出：計算本質上是一種描述方式，一種映射關系，它無法在物理層面具體實現其所描述的對象。這些見解既挑戰了關于主觀體驗本質的普遍認知，也挑戰了關于計算本質的傳統理解，其依據完全基于成熟的物理定律和嚴謹的邏輯推演。至關重要的是，與大多數關于意識AI潛力的討論和推測不同，這一框架并不依賴于完整的意識理論。它通過探討等式另一端的問題，即從本體論角度而言，計算究竟是什么，來解決這一看似棘手的難題。關于意識問題，該框架僅要求現象體驗不違反因果封閉性原則，這是科學認知中最基本的原則之一。僅憑這一原則就足以證明：體驗必然是由物理因素構成的、完全物理性的現象，從而讓我們能夠規避任何形式的二元論或表象論的推測。

總結我們建立的本體論：計算是對離散符號進行的句法操作，這些符號遵循旨在模擬概念思維的規則。這些符號并非概念的精煉本質，而是地圖制作者隨意分配的物理符號。而概念本身則是從實際生活及熱力學經驗中主動提取出的物理不變量。因此，期望算法描述能體現其所映射的特性，就如同期望引力的數學公式能在物理上產生重量一樣不切實際。認為AI僅通過操縱內部變量就能獲得意識，這正是盲點謬誤（Frank 等人，2025）的體現，即把地圖誤認為實際地形。

因此，計算描述無法生成主觀體驗，并非工程學的失敗，而是描述本身所固有的邏輯必然性。這也意味著，質性并非可以通過日益精妙的語法結構來解決的謎題。相反，它們代表了內在的、基礎性的基質，正是這一基質使得語法的語義賦予成為可能。

通過開發日益強大的AI，我們并非在創造一種新的生命形式，而是在構建日益精確的預測模型。然而，無論其預測精度如何、作為推理工具的實用性如何，或其物理形態如何，這一AI系統本質上始終是與現象經驗的領域截然不同。認識到這一區別，并避免本體論上的抽象謬誤倒置，是建立一門成熟且基于物理原理的機器智能科學的前提。

參考文獻

1. Attwell, D., & Laughlin, S. B. (2001). An energy budget for signaling in the grey matter of the brain. Journal of Cerebral Blood Flow and Metabolism, 21(10), 1133–1145.

2. Bengio, Y., Hinton, G., Yao, A., Song, D., Abbeel, P., Darrell, T., Harari, Y. N., Zhang, Y.-Q., Xue, L., Shalev-Shwartz, S., Hadfield, G., Clune, J., Maharaj, T., Hutter, F., Baydin, A. G., McIlraith, S., Gao, Q., Acharya, A., Krueger, D., et al. (2024). Managing extreme AI risks amid rapid progress. Science (New York, N.Y.), 384(6698), 842–845.

3. Bennett, C. H. (1982). The thermodynamics of computation-a review. International Journal of Theoretical Physics, 21(12), 905–940.

4. Block, N. (1978). Troubles with functionalism. Minnesota Studies in the Philosophy of Science, 9, 261–325.

5. Block, N. (2025). Can only meat machines be conscious? Trends in Cognitive Sciences.

6. Bostrom, N. (2014). Superintelligence: Paths, Dangers, Strategies. Oxford University Press.

7. Bubeck, S., Chandrasekaran, V., Eldan, R., Gehrke, J., Horvitz, E., Kamar, E., Lee, P., Lee, Y. T., Li, Y., Lundberg, S., Nori, H., Palangi, H., Ribeiro, M. T., & Zhang, Y. (2023). Sparks of Artificial General Intelligence: Early experiments with GPT-4. arXiv [cs.CL].

8. Buzsáki, G. (2019). The brain from inside out. Oxford University Press.

9. Butlin, P., Long, R., Elmoznino, E., Bengio, Y., Birch, J., Constant, A., Deane, G., Fleming, S. M., Frith, C., Ji, X., Kanai, R., Klein, C., Lindsay, G., Michel, M., Mudrik, L., Peters, M. A. K., Schwitzgebel, E., Simon, J., & VanRullen, R. (2023). Consciousness in Artificial Intelligence: Insights from the Science of Consciousness. arXiv preprint arXiv:2308.08708.

10. Cao, R. (2012). A teleosemantic approach to information in the brain. Biology & Philosophy, 27, 49–71.

11. Chalmers, D. J. (1996). The Conscious Mind. Oxford University Press.

12. Chalmers, D. J. (2023). Could a Large Language Model be Conscious? arXiv preprint arXiv:2303.07103.

13. Craver, C. F. (2007). Explaining the Brain: Mechanisms and the Mosaic Unity of Neuroscience. Oxford University Press.

14. Damasio, A. (1999). The feeling of what happens: Body and emotion in the making of consciousness. Harcourt Brace.

15. Dehaene, S., Lau, H., & Kouider, S. (2017). What is consciousness, and could machines have it? Science, 358(6362), 486–492.

16. Dennett, D. C. (1991). Consciousness explained. Little, Brown and Co.

17. Frank, A., Gleiser, M., & Thompson, E. (2025). The Blind Spot: Why Science Cannot Ignore Human Experience. MIT Press.

18. Friston, K. (2010). The free-energy principle: a unified brain theory? Nature Reviews Neuroscience, 11(2), 127–138.

19. Harnad, S. (1990). The symbol grounding problem. Physica D: Nonlinear Phenomena, 42(1), 335–346.

20. Hoffmann, J., Borgeaud, S., Mensch, A., Buchatskaya, E., Cai, T., Rutherford, E., de L. Casas, D., Hendricks, L. A., Welbl, J., Clark, A., Hennigan, T., Noland, E., Millican, K., van den Driessche, G., Damoc, B., Guy, A., Osindero, S., Simonyan, K., Elsen, E., et al. (2022). Training Compute-Optimal Large Language Models. arXiv [cs.CL].

21. Husserl, E. (1970). The crisis of European sciences and transcendental phenomenology. Evanston: Northwestern University Press.

22. Kaplan, J., McCandlish, S., Henighan, T., Brown, T. B., Chess, B., Child, R., Gray, S., Radford, A., Wu, J., & Amodei, D. (2020). Scaling laws for neural language models. arXiv [cs.LG].

23. Kim, J. (2005). Physicalism, or Something Near Enough. Princeton University Press.

24. Landauer, R. (1961). Irreversibility and heat generation in the computing process. IBM Journal of Research and Development, 5(3), 183–191.

25. Laughlin, S. B., de Ruyter van Steveninck, R. R., & Anderson, J. C. (1998). The metabolic cost of neural information. Nature Neuroscience, 1(1), 36–41.

26. Laukkonen, R. E., Friston, K., & Chandaria, S. (2025). A Beautiful Loop: An Active Inference Theory of Consciousness. PsyArXiv.

27. LeCun, Y. (2022). A path towards autonomous machine intelligence. OpenReview.

28. Long, R., Sebo, J., Butlin, P., Finlinson, K., Fish, K., Harding, J., Pfau, J., Sims, T., Birch, J., & Chalmers, D. (2024). Taking AI welfare seriously. arXiv preprint arXiv:2411.00986.

29. Maturana, H. R., & Varela, F. J. (1980). Autopoiesis and Cognition: The Realization of the Living. D. Reidel.

30. McClelland, J. L., Rumelhart, D. E., & PDP Research Group. (1987). Parallel distributed processing (Vol. 2). MIT Press.

31. Nagel, T. (1974). What is it like to be a bat? The Philosophical Review, 83(4), 435–450.

32. Piccinini, G. (2008). Computation without Representation. Philosophical Studies, 137(2), 205–241.

33. Putnam, H. (1988). Representation and Reality. The MIT Press.

34. Schneider, S. (2019). Artificial You: AI and the Future of Your Mind. Princeton University Press.

35. Searle, J. R. (1980). Minds, brains, and programs. The Behavioral and Brain Sciences, 3(3), 417–457.

36. Seth, A. K. (2025). Conscious artificial intelligence and biological naturalism. The Behavioral and Brain Sciences, 1–42.

37. Sprevak, M. (2018). Triviality arguments about computational implementation. In The Routledge Handbook of the Computational Mind (pp. 175–191). Routledge.

38. Sutton, R. (2019). The Bitter Lesson.

39. Tegmark, M. (2008). The Mathematical Universe. Foundations of Physics, 38(2), 101–150.

40. Thompson, E. (2007). Mind in Life: Biology, Phenomenology, and the Sciences of Mind. Harvard University Press.

41. Wheeler, J. A. (1990). Information, Physics, Quantum: The Search for Links. In W. H. Zurek (Ed.), Complexity, Entropy, and the Physics of Information (pp. 3–20). Addison-Wesley.

參考文獻可上下滑動查看

AI+Social Science讀書會

集智俱樂部聯合美國東北大學博士后研究員楊凱程、密歇根大學安娜堡分校博士候選人裴嘉欣，賓夕法尼亞大學沃頓商學院人力資本分析研究組博士后研究員吳雨桐、即將入職芝加哥大學心理學系的助理教授白雪純子，共同發起。讀書會已完結，現在報名可加入社群并解鎖回放視頻權限。

詳情請見：

1.

2.

3.

4.

5.

6.

7.

8.

#翻譯