來(lái)源：盒飯財(cái)經(jīng)（ID：daxiongfan）

頭圖及封面來(lái)源 ：谷歌學(xué)術(shù)

別等了，萬(wàn)億算力，也堆不出一個(gè)靈魂。

你跟AI聊天，它說(shuō)“我理解你的感受”。它真的理解嗎？直覺(jué)上，它說(shuō)話太像人了，它好像真的在乎你，它甚至?xí)吧鷼狻睍?huì)“開(kāi)心”，會(huì)幫你出主意，會(huì)處理復(fù)雜問(wèn)題。

AI真的有意識(shí)嗎？

大模型越來(lái)越強(qiáng)大，AI距離“覺(jué)醒”的日子就越來(lái)越近，甚至有不少科技圈大佬都認(rèn)為，只要算法足夠復(fù)雜、算力足夠龐大，意識(shí)就會(huì)自然涌現(xiàn)，無(wú)論它是運(yùn)行在碳基的大腦里，還是硅基的芯片上。

然而，谷歌DeepMind近日發(fā)布了一篇重磅論文，給狂熱的“AI覺(jué)醒論”潑了一盆冷水，同時(shí)也給陷入焦慮的普通人打了一劑強(qiáng)心針：別擔(dān)心，AI不會(huì)覺(jué)醒，AGI（通用人工智能）最終也不過(guò)是一種極其強(qiáng)大、但毫無(wú)知覺(jué)的工具。

圖片來(lái)源：YouTube@Knut J?gersberg

為什么這么說(shuō)？因?yàn)樗麄儼l(fā)現(xiàn)，整個(gè)“AI可能有意識(shí)”的討論，建立在一個(gè)根本性的錯(cuò)誤認(rèn)知之上——把“地圖”當(dāng)成了“領(lǐng)土”。

這篇論文做了一個(gè)有趣的比喻：物理現(xiàn)實(shí)是“領(lǐng)土”，而計(jì)算只是人類（制圖者）繪制的“地圖”。計(jì)算的本質(zhì)，是人類為了描述物理世界，從而創(chuàng)造出的一套符號(hào)系統(tǒng)。無(wú)論地圖畫得多么精細(xì)、多么宏大，地圖本身永遠(yuǎn)變不成真實(shí)的領(lǐng)土；同樣，無(wú)論算法多么復(fù)雜，它都只是在完美地模擬物理現(xiàn)實(shí)，而永遠(yuǎn)無(wú)法真實(shí)的體驗(yàn)。

也就是說(shuō)，不是“算法足夠復(fù)雜，就能產(chǎn)生意識(shí)”。而是“必須先有意識(shí)，算法才能存在”。

回到剛才的話題，AI說(shuō)“我理解你”，是因?yàn)樗谕昝赖啬７氯祟惱斫獾臉幼印５７拢肋h(yuǎn)不是那件事本身。因此，這篇論文才篤定地給出了答案：AI不會(huì)覺(jué)醒。不是“暫時(shí)還不會(huì)”，而是在結(jié)構(gòu)上就不可能。

不妨看看盒飯財(cái)經(jīng)深度編譯的論文，帶你從物理學(xué)和本體論的底層邏輯，看透AI的本質(zhì)。

以下是論文原文（編譯）：

計(jì)算功能主義（Computational functionalism）主導(dǎo)著當(dāng)前關(guān)于 AI 意識(shí)的爭(zhēng)論。這一假說(shuō)認(rèn)為，主觀體驗(yàn)完全涌現(xiàn)于抽象的因果拓?fù)洌c底層的物理基質(zhì)無(wú)關(guān)。

圖片來(lái)源：YouTube@Knut J?gersberg

我們認(rèn)為，這種觀點(diǎn)從根本上誤解了物理學(xué)與信息之間的關(guān)系。我們將這種錯(cuò)誤稱為抽象謬誤。追溯抽象的因果起源可以發(fā)現(xiàn)，符號(hào)計(jì)算并非一種內(nèi)在的物理過(guò)程。

相反，它是一種依賴于“制圖者”的描述方式。它需要一個(gè)活躍的、具有體驗(yàn)的認(rèn)知主體，將連續(xù)的物理過(guò)程“字母表化（即將連續(xù)的物理過(guò)程切割為有限的、離散的、有意義的符號(hào)單元）”，轉(zhuǎn)化為一組有限的、具有意義的狀態(tài)。

因此，我們不需要一個(gè)完整、定型的意識(shí)理論來(lái)評(píng)估 AI 感受質(zhì)——這種要求只會(huì)將問(wèn)題推向短期內(nèi)無(wú)法解決的境地，并加深 AI 福利陷阱。我們真正需要的是一個(gè)嚴(yán)謹(jǐn)?shù)挠?jì)算本體論。

本文提出的框架明確區(qū)分了模擬（由載體因果性驅(qū)動(dòng)的行為模仿）與實(shí)例化（由內(nèi)容因果性驅(qū)動(dòng)的內(nèi)在物理構(gòu)成）。確立這一本體論邊界后，我們就能看清為什么算法符號(hào)操作在結(jié)構(gòu)上根本無(wú)法實(shí)例化體驗(yàn)。至關(guān)重要的是，這一論證并不依賴于生物排他性。

如果一個(gè)人造系統(tǒng)有一天具備了意識(shí)，那也必然是因?yàn)槠涮囟ǖ奈锢順?gòu)成，而絕非其句法架構(gòu)。最終，該框架為駁斥計(jì)算功能主義提供了基于物理學(xué)基礎(chǔ)的理?yè)?jù)，從而解決當(dāng)前圍繞 AI 意識(shí)的不確定性。

引言 (Introduction)

大型語(yǔ)言模型（LLM）在經(jīng)驗(yàn)上的巨大成功，已經(jīng)將意識(shí)的“困難問(wèn)題”從純粹的理論領(lǐng)域推向了工程和政策領(lǐng)域。隨著擴(kuò)大算力規(guī)模帶來(lái)的巨大回報(bào)，當(dāng)前主流的功能主義范式假設(shè)：只要實(shí)現(xiàn)了正確的信息處理功能，就足以產(chǎn)生現(xiàn)象意識(shí)。

在這一視角下，算法的指示屬性被視為感受質(zhì)的有力證據(jù)。正是這種假設(shè)，直接推動(dòng)了近期關(guān)于 AI 福利和道德受體的嚴(yán)肅提案。領(lǐng)先的理論家們認(rèn)為，最先進(jìn)的模型在未來(lái)十年內(nèi)擁有真正體驗(yàn)的可能性極高，這進(jìn)一步強(qiáng)化了這一范式的轉(zhuǎn)變。

這些提案的核心在于基質(zhì)獨(dú)立性，即認(rèn)為心智的“軟件”在硅基上運(yùn)行和在碳基上運(yùn)行沒(méi)有區(qū)別。

然而，這一假設(shè)已經(jīng)開(kāi)始面臨來(lái)自“生物學(xué)轉(zhuǎn)向”的持續(xù)批評(píng)。例如，Seth 和 Block認(rèn)為，意識(shí)可能依賴于維持生命的生物過(guò)程，因此體驗(yàn)需要生命系統(tǒng)有組織的動(dòng)力學(xué)機(jī)制。

與基質(zhì)獨(dú)立性相反，這種觀點(diǎn)將生物學(xué)視為核心而非偶然因素。然而，這種立場(chǎng)仍然停留在經(jīng)驗(yàn)層面，因?yàn)樗⑽辞逦刂赋鲇?jì)算功能主義核心的基本邏輯錯(cuò)誤。

在此，我們推導(dǎo)出了一條邏輯序列，以證明“計(jì)算不足以實(shí)例化意識(shí)”這一直覺(jué)是正確的。計(jì)算功能主義的困難不僅在于它可能忽視了生物學(xué)細(xì)節(jié)，問(wèn)題要深刻得多——它根源于對(duì)物理學(xué)與信息/計(jì)算之間關(guān)系的誤解。

現(xiàn)代物理科學(xué)為了確保操作客觀性，刻意剔除了主觀體驗(yàn)。這一策略取得了非凡的成功。

但是，當(dāng)把這種立場(chǎng)應(yīng)用于計(jì)算與主觀體驗(yàn)之間的關(guān)系問(wèn)題時(shí)，它注定會(huì)失敗。將這種操作客觀性應(yīng)用于計(jì)算本身的定義是極具問(wèn)題的，這從當(dāng)前關(guān)于“觀察者”在為計(jì)算符號(hào)賦予意義時(shí)所扮演角色的持續(xù)且尚未解決的爭(zhēng)論中就可見(jiàn)一斑。

此外，事實(shí)證明，“觀察者”一詞暗示了一種過(guò)于被動(dòng)的角色，從而遺漏了用物理術(shù)語(yǔ)完整定義計(jì)算的先決條件。我們的框架闡明了為什么計(jì)算不是一種簡(jiǎn)單地在物質(zhì)中展開(kāi)的內(nèi)在過(guò)程。相反，它是一種描述物理過(guò)程的方式。要算作計(jì)算，連續(xù)的物理動(dòng)力學(xué)必須被劃分為一組有限的、離散的、具有語(yǔ)義意義的狀態(tài)（即一種字母表）。

這種語(yǔ)義劃分在邏輯上需要一個(gè)活躍的、有體驗(yàn)的認(rèn)知主體，我們將其定義為制圖者，以區(qū)別于標(biāo)準(zhǔn)“觀察者”的被動(dòng)含義。正是制圖者執(zhí)行了這種“字母表化”。如果沒(méi)有這樣一個(gè)活躍的主體來(lái)解釋計(jì)算，就只有連續(xù)的物理事件，而沒(méi)有符號(hào)。

圖片來(lái)源：YouTube@Knut J?gersberg

本文的一個(gè)關(guān)鍵洞見(jiàn)是：要解決當(dāng)前圍繞人工智能意識(shí)的不確定性，我們不需要一個(gè)完整且最終的意識(shí)理論。相反，我們需要一個(gè)計(jì)算本體論。

通過(guò)這條路徑，我們可以在邏輯上證明：無(wú)論規(guī)模多大、架構(gòu)多復(fù)雜，算法符號(hào)操作都無(wú)法構(gòu)成體驗(yàn)的物理實(shí)例化，因?yàn)樗举|(zhì)上是一種依賴于制圖者的描述工具。

揭示制圖者在因果鏈條中的作用，改變了爭(zhēng)論的焦點(diǎn)。迄今為止，關(guān)于人工智能意識(shí)的著名批評(píng)，包括 Searle 的中文房間實(shí)驗(yàn)及相關(guān)論點(diǎn)，主要依賴于歸謬法。它們旨在表明，純粹的句法操作即使完美模仿了外在行為，似乎仍然缺失了某種本質(zhì)的東西。

我們的方法采取了不同的路徑。我們不去訴諸關(guān)于“缺少了什么”的直覺(jué)，而是審視抽象是如何產(chǎn)生的。如果計(jì)算依賴于一個(gè)從體驗(yàn)中提取不變量并分配符號(hào)的制圖者，那么這種依賴性就已內(nèi)置于其結(jié)構(gòu)之中。

任何計(jì)算地圖都預(yù)設(shè)了一個(gè)執(zhí)行字母表化的體驗(yàn)主體。增加算法的復(fù)雜性并不能消除這種依賴順序。規(guī)模的任何增長(zhǎng)都不能讓“地圖”生成“主體”，而該主體的活動(dòng)恰恰是計(jì)算能夠被稱為計(jì)算的先決條件。

換言之，“算法復(fù)雜性產(chǎn)生意識(shí)”的斷言犯了本體論倒置的錯(cuò)誤：它將句法（語(yǔ)法）誤認(rèn)為是內(nèi)在動(dòng)力學(xué)的領(lǐng)土，并假設(shè)制圖者可以從地圖中被創(chuàng)造出來(lái)。

通過(guò)界定外在行為模擬與內(nèi)在物理實(shí)例化之間的結(jié)構(gòu)性分離，我們證明了數(shù)字架構(gòu)不可能成為道德受體。這一認(rèn)識(shí)將 AI 安全領(lǐng)域從福利陷阱中拉了出來(lái)。它使我們能夠完全專注于擬人化帶來(lái)的具體風(fēng)險(xiǎn)，將AGI 視為一種強(qiáng)大但本質(zhì)上無(wú)感受質(zhì)的工具。

抽象的本體論：地圖與領(lǐng)土

計(jì)算機(jī)科學(xué)經(jīng)常將算法底層的抽象視為數(shù)學(xué)上的既定事實(shí)，而對(duì)其物理實(shí)現(xiàn)問(wèn)題避而不談。一個(gè)抽象概念的物理主義本體論究竟是什么？為了回答這個(gè)問(wèn)題，我們需要確立抽象句法到底如何與物理動(dòng)力學(xué)相關(guān)聯(lián)。

2.1. 物理實(shí)現(xiàn)的標(biāo)準(zhǔn)定義

在關(guān)于“實(shí)現(xiàn)”【implementation，在這里可以把“實(shí)現(xiàn)”理解為演員照著劇本表演。AI的底層硬件（演員）完美執(zhí)行了代碼（劇本）的邏輯步驟，表現(xiàn)得很像人類，但這僅僅是行為上的模仿，并不代表機(jī)器內(nèi)部真的產(chǎn)生了相應(yīng)的真實(shí)情感】的標(biāo)準(zhǔn)文獻(xiàn)中，如果一個(gè)物理系統(tǒng) P 通過(guò)映射函數(shù) f 實(shí)現(xiàn)了抽象計(jì)算 C。其要求很直接：f 必須將物理狀態(tài)映射到抽象狀態(tài)，使得底層的物理因果關(guān)系能夠鏡像反映算法的邏輯結(jié)構(gòu)。

圖 1 | 實(shí)現(xiàn)的交換圖。在標(biāo)準(zhǔn)觀點(diǎn)中，映射 f（字母表化）將載體（( → ′）的物理演化解釋為抽象內(nèi)容（ → ′）的邏輯演化。

假設(shè)物理系統(tǒng)完全受物理定律支配，從狀態(tài) p 演化到 p'（ → ′）。同時(shí)，抽象計(jì)算根據(jù)其算法規(guī)則從邏輯狀態(tài) A 推進(jìn)到 A'（ → ′)）。

如果系統(tǒng)成功實(shí)現(xiàn)了計(jì)算，則：

() = and (′) = ′

為了使圖表可交換，將映射 f 應(yīng)用于結(jié)果物理狀態(tài)（p'）必須精確得出由邏輯規(guī)則所支配的目標(biāo)抽象狀態(tài)（A'）。

2.2. 抽象狀態(tài) (A) 的物理起源

這些抽象狀態(tài) A 究竟是什么？如果我們想理解映射 f，就必須確定 A 的本體論。功能主義的解釋通常將 A（例如邏輯狀態(tài)“痛苦”或“紅色”）視為沒(méi)有特定物理實(shí)現(xiàn)的“懸浮抽象（floating abstraction）”。這繞過(guò)了生成抽象所需的因果歷史。

形成抽象并不是毫無(wú)代價(jià)的。它是一個(gè)提取不變量的、活躍且消耗代謝能量的物理過(guò)程。在認(rèn)知主體形成概念 A（如“紅色”）之前，它必須先接觸“領(lǐng)土”：即紅色的多個(gè)體驗(yàn)實(shí)例。從那里，主體主動(dòng)過(guò)濾掉高維噪聲以分離出一個(gè)穩(wěn)定的核心。

用流形學(xué)習(xí)（manifold learning）的術(shù)語(yǔ)來(lái)說(shuō)，主體將原始體驗(yàn)的高維流形投影到低維的不變子空間上。這個(gè)子空間在物理上構(gòu)成了概念 A。

人們很容易爭(zhēng)辯說(shuō)，無(wú)監(jiān)督聚類算法不需要任何先驗(yàn)經(jīng)驗(yàn)就已經(jīng)生成了抽象。但這混淆了統(tǒng)計(jì)壓縮與現(xiàn)象構(gòu)成。當(dāng)然，無(wú)監(jiān)督算法可以對(duì)數(shù)據(jù)點(diǎn)進(jìn)行聚類以定位統(tǒng)計(jì)質(zhì)心。然而，這種數(shù)學(xué)上的不變量?jī)H僅是潛在空間中的一個(gè)壓縮地址。

為了使該統(tǒng)計(jì)質(zhì)心算作一個(gè)真正的概念——像“紅度（Redness）”這樣有語(yǔ)義基礎(chǔ)的類別——代理需要內(nèi)在的現(xiàn)象狀態(tài)作為分組實(shí)例的共同分母。如果沒(méi)有構(gòu)成“紅色”體驗(yàn)來(lái)錨定指代，該聚類就只是向量空間中的一個(gè)高密度區(qū)域。它不具備主體所持有的概念的資格。

因此，概念 (A) 不是等待被發(fā)現(xiàn)的柏拉圖式理想。它們是構(gòu)成的神經(jīng)生理狀態(tài)，僅存在于執(zhí)行該抽象的認(rèn)知系統(tǒng)內(nèi)部。它們是從體驗(yàn)“領(lǐng)土”中推導(dǎo)出的“內(nèi)部地圖”。

一旦形成，這些構(gòu)成的“共同核心”就成為組合想象的穩(wěn)定構(gòu)建塊。因?yàn)楦拍睢凹t”和概念“鯨魚”源自生活體驗(yàn)的內(nèi)在控制狀態(tài)，大腦可以將它們重新組合以實(shí)例化“飛行的紅鯨”的體驗(yàn)——這是一個(gè)從未遇到過(guò)但在物理上連貫的復(fù)合體。

因此，思考不是基于對(duì)空洞符號(hào)的算法處理，而是對(duì)構(gòu)成的不變量的組合生成。AI 完美地模擬了這種重組的規(guī)則，但它在結(jié)構(gòu)上缺乏運(yùn)行體驗(yàn)式想象所需的內(nèi)在構(gòu)建塊。

2.3. 映射函數(shù) (f) 中不可或缺的制圖者

從歷史上看，物理科學(xué)（尤其是工程學(xué)）是通過(guò)系統(tǒng)性地將主觀體驗(yàn)從其對(duì)自然現(xiàn)象的解釋中剔除而取得進(jìn)展的。然而，如果將這種操作客觀性強(qiáng)加到計(jì)算的本體論上，就會(huì)造成一個(gè)認(rèn)知盲區(qū)。它迫使計(jì)算功能主義陷入一個(gè)不可能的難題：試圖從一個(gè)完全用客觀、非體驗(yàn)性術(shù)語(yǔ)定義的起點(diǎn)來(lái)重建主觀體驗(yàn)。

在確立了抽象狀態(tài) (A) 的物理基礎(chǔ)（邏輯上必須駐留在一個(gè)活躍體驗(yàn)的認(rèn)知主體內(nèi)部）之后，我們現(xiàn)在可以揭示物理實(shí)現(xiàn)標(biāo)準(zhǔn)定義中的這個(gè)盲點(diǎn)：將機(jī)器的物理 (p) 鏈接到該抽象 (A) 的映射函數(shù) f，不能駐留在機(jī)器本身內(nèi)部。

在關(guān)于語(yǔ)義和地圖-領(lǐng)土關(guān)系的哲學(xué)文獻(xiàn)中，這個(gè)外部錨點(diǎn)通常被稱為“觀察者”。然而，“觀察者”一詞暗示了信息的被動(dòng)接收，僅僅是看著預(yù)先存在的領(lǐng)土或地圖的實(shí)體。

我們特意引入制圖者一詞，以明確糾正這種被動(dòng)暗示。制圖者是活躍的、易受代謝影響的認(rèn)知主體，它必須作為生成計(jì)算的先決條件而存在。它執(zhí)行兩個(gè)積極的、構(gòu)成性的角色：第一，從連續(xù)的物理體驗(yàn)中提取不變量以構(gòu)建內(nèi)部地圖（概念）；第二，執(zhí)行物理標(biāo)記的任意分配以構(gòu)建外部計(jì)算地圖（符號(hào)）。

應(yīng)用這一洞見(jiàn)從根本上解決了計(jì)算術(shù)語(yǔ)的本體論地位：

1. 物理狀態(tài) (p)：這些是符號(hào)（載體）。它們是客觀的物理實(shí)體（如電壓梯度），不具備內(nèi)在的語(yǔ)義內(nèi)容。

2. 抽象狀態(tài) (A)：這些是概念（內(nèi)容）。如前所述，這些是基礎(chǔ)的生理狀態(tài)，僅存在于持有計(jì)算意義的制圖者體內(nèi)。

3. 映射函數(shù) (f)：這就是“字母表化”。它代表了制圖者心中持有的指定關(guān)聯(lián)，主動(dòng)將機(jī)器盲目的物理 (p) 與制圖者扎根的概念 (A) 橋接起來(lái)。

因此，標(biāo)準(zhǔn)定義 ( → ′ → ′) 描述的是一種混合關(guān)系：一個(gè)物理對(duì)象 (p) 通過(guò)制圖者 (f) 的必要中介鏈接到一個(gè)心理概念 (A)。

需要注意的是，確認(rèn)這個(gè)不可或缺的制圖者并沒(méi)有復(fù)活二元論的“侏儒”或坐在大腦內(nèi)部的局部“解碼器”。

圖片來(lái)源：YouTube@Knut J?gersberg

正如 Buzsaki 和 Maturana & Varela所論證的，制圖者是受熱力學(xué)定律約束的整個(gè)結(jié)構(gòu)統(tǒng)一的有機(jī)體。有機(jī)體并不是通過(guò)算法“選擇”來(lái)進(jìn)行語(yǔ)義切割的。相反，連續(xù)的環(huán)境直接通過(guò)有機(jī)體的代謝約束被過(guò)濾成離散狀態(tài)。這里沒(méi)有閱讀字母表的幽靈；是活生生的、體驗(yàn)著的主體將其付諸實(shí)踐。

將邏輯進(jìn)程 (( → ′) 視為物理演化 (( → ′) 的內(nèi)在屬性是功能主義的主要錯(cuò)誤。這種觀點(diǎn)將制圖者的認(rèn)知解釋與機(jī)器的實(shí)際物理現(xiàn)實(shí)混為一談，忽視了最初作為計(jì)算基礎(chǔ)所必需的體驗(yàn)主體。

2.4. 字母表化：超越離散化的語(yǔ)義強(qiáng)加

映射函數(shù) f 充當(dāng)了字母表化的實(shí)際場(chǎng)所。雖然在文獻(xiàn)中經(jīng)常被簡(jiǎn)單地當(dāng)作“讀取”系統(tǒng)而不予理會(huì)，但字母表化實(shí)際上是一個(gè)要求極高代謝能量的認(rèn)知行為。它將離散的本體論強(qiáng)加于連續(xù)的物理學(xué)之上，并受信息處理的熱力學(xué)邊界約束。

在這里，必須區(qū)分通常被混為一談的兩個(gè)過(guò)程：

• 離散化 (熱力學(xué)層面)：系統(tǒng)在物理上穩(wěn)定于吸引子，例如晶體管保持在 5V。這是載體 (p) 的一種屬性，其功能僅在于抑制物理噪聲。

• 字母表化 (語(yǔ)義層面)：明確將這些穩(wěn)定狀態(tài)分配給預(yù)定義的有限符號(hào)集（如 {0, 1} 或 {A, B, C}）。這種操作專屬于制圖者 (f)。

因?yàn)槲锢憩F(xiàn)實(shí)本質(zhì)上是連續(xù)的，熱力學(xué)只能產(chǎn)生穩(wěn)定的宏觀狀態(tài)，它永遠(yuǎn)無(wú)法提供一個(gè)預(yù)定義的有限字母表。因此，構(gòu)建一個(gè)計(jì)算系統(tǒng)需要制圖者的介入。這個(gè)外部代理必須通過(guò)將極其異質(zhì)的微觀狀態(tài)視為一個(gè)可互換的符號(hào)（例如，“1”）來(lái)強(qiáng)制確立一種語(yǔ)義同一性。

圖片來(lái)源：YouTube@Knut J?gersberg

因此，依靠制圖者來(lái)構(gòu)建系統(tǒng)引入了一種根本的因果脫節(jié)。在機(jī)器的物理領(lǐng)土中，從 2.0V 到 2.1V 的過(guò)渡是由電動(dòng)力學(xué)驅(qū)動(dòng)的真正因果事件。然而在計(jì)算地圖中，這種過(guò)渡在功能上是隱形的：制圖者已經(jīng)將其“字母表化”為同一性。

因此，計(jì)算的因果動(dòng)力學(xué)并不隨附于基質(zhì)的物理學(xué)之上。它們完全隨附于制圖者的規(guī)則之上。

聲稱這些符號(hào)獨(dú)立于觀察者而存在，是“盲點(diǎn)”的典型例證。這是教科書式的“暗中替換”：取科學(xué)家的認(rèn)知輸出（有限的字母表），將其向后投射到物理系統(tǒng)中，并宣稱它一直都在那里。信息不是宇宙的基本構(gòu)建塊；它是一種衍生屬性，絕對(duì)預(yù)設(shè)了一個(gè)認(rèn)知主體來(lái)定義這個(gè)有限集。

2.5. 模擬與實(shí)例化

在確立了概念與符號(hào)的截然不同的性質(zhì)和不同作用之后，我們可以運(yùn)用我們的定義來(lái)澄清為什么模擬一個(gè)過(guò)程與實(shí)例化它有根本的不同：

模擬 ：對(duì)物理載體 (p) 進(jìn)行句法操作，以跟蹤概念 (A) 之間的抽象關(guān)系。

實(shí)例化 ：復(fù)制過(guò)程本身內(nèi)在的、構(gòu)成性的動(dòng)力學(xué) (P)。

標(biāo)準(zhǔn)功能主義假設(shè)，保留地圖的抽象拓?fù)?( → ′) 就足以生成領(lǐng)土的現(xiàn)象 (P)，從而忽視了物理基質(zhì)的特定因果力和構(gòu)成機(jī)制。

以生物心臟為例。我們經(jīng)常將其描述為一個(gè)將血液泵送至全身的泵。我們?cè)O(shè)計(jì)和制造機(jī)械心臟以相同的方式泵血，因此我們說(shuō)它在“功能上是等效的”。

但真正的心臟不僅僅是泵血。它還釋放激素（如 ANP），幫助控制身體新陳代謝，并通過(guò)反饋信號(hào)與神經(jīng)系統(tǒng)進(jìn)行交流。植入機(jī)械心臟的患者經(jīng)常遭受微妙的系統(tǒng)性生理缺陷，正是因?yàn)樵撛O(shè)備僅實(shí)例化了所選功能的粗粒度“地圖”。它未能實(shí)例化該器官完整的生物“領(lǐng)土”。

請(qǐng)注意，這種粒度不匹配更加適用于神經(jīng)元。

功能主義傾向于將神經(jīng)元僅僅視為電信號(hào)的接收器和發(fā)送器，盡管它是一個(gè)深入整合在身體化學(xué)和激素網(wǎng)絡(luò)中的活生生的、代謝性的實(shí)體。這種抽象削弱了功能主義直覺(jué)的基石——“漸隱的感受質(zhì)”思想實(shí)驗(yàn)。

Chalmers認(rèn)為，如果生物神經(jīng)元被逐個(gè)替換為保留相同輸入輸出關(guān)系的硅芯片，那么在行為和功能組織保持不變的情況下，意識(shí)逐漸消失是難以置信的。

基于此前提，他得出結(jié)論，抽象功能組織的保存足以保存意識(shí)體驗(yàn)。然而，僅僅完美模仿電觸發(fā)模式 (( → ′) 的硅片替換，保留的不過(guò)是一個(gè)外在的計(jì)算地圖，一個(gè)完全由外部制圖者選擇的抽象 ( → ′) 所定義的地圖。

它系統(tǒng)性地抹殺了生命所需的內(nèi)在熱力學(xué)領(lǐng)土 (P)，用無(wú)因果作用的句法模擬取代了構(gòu)成性的物理現(xiàn)實(shí)。感受質(zhì)并沒(méi)有神秘地“漸隱”；實(shí)例化它們所需的基礎(chǔ)代謝基質(zhì)只是被移除了。

生物學(xué)其他領(lǐng)域的物理模擬局限性明確了這一點(diǎn)。模擬光合作用的 GPU 可能準(zhǔn)確地模擬了陽(yáng)光、水和二氧化碳 (A) 轉(zhuǎn)化為氧氣和葡萄糖 (A') 的抽象過(guò)程，但它不會(huì)合成哪怕一個(gè)葡萄糖分子或釋放氧氣。

因此，雖然它完美地模擬了過(guò)程，但卻缺乏執(zhí)行底層生化做功的因果能力。認(rèn)為模擬大腦的“軟件”可以避開(kāi)這種物理約束，是犯了范疇錯(cuò)誤。它將過(guò)程的算法描述與實(shí)例化該過(guò)程所需的內(nèi)在物理學(xué)混為一談。

這種對(duì)內(nèi)在因果性的要求直接遵循物理主義原則，而不是一種形而上學(xué)的偏好。幻覺(jué)論的解釋認(rèn)為，功能性報(bào)告完全捕捉了體驗(yàn)的現(xiàn)實(shí)。

然而，如果我們應(yīng)用 Jaegwon Kim 的因果封閉性原則，報(bào)告體驗(yàn)的行為，例如物理地排開(kāi)空氣說(shuō)“我很痛苦”，是一個(gè)無(wú)可爭(zhēng)議的物理事件。為了使主觀體驗(yàn)真正導(dǎo)致這份報(bào)告，而不是巧合或幻覺(jué)，體驗(yàn)本身必須具有扎實(shí)的物理力量并能夠做功。

在數(shù)字模擬中，因果鏈完全由載體 (p) 驅(qū)動(dòng)。邏輯門的切換不是因?yàn)橄到y(tǒng)感到“痛苦”（由 A 驅(qū)動(dòng)的內(nèi)容因果性）。

相反，它切換是因?yàn)殡妷嚎缭搅硕x的物理閾值（由 p 驅(qū)動(dòng)的載體因果性）。系統(tǒng)的演化僅由其物理狀態(tài)決定。符號(hào)的語(yǔ)義內(nèi)容 (A) 不起任何因果作用，因?yàn)榧词狗?hào)沒(méi)有任何指代，機(jī)器也會(huì)執(zhí)行相同的物理操作。若作其他假設(shè)，就是淪為了抽象謬誤的犧牲品。

圖 2 | 抽象的因果拓?fù)?。

(A) 功能主義假設(shè)了一種線性分層，計(jì)算是連接物理和意識(shí)的橋梁。

(B) 我們的框架揭示了一種分支拓?fù)洹?/p>

垂直軸代表內(nèi)在鏈條：物理 (P) 實(shí)例化了體驗(yàn)，體驗(yàn)通過(guò)抽象構(gòu)成了概念 (A)。思考/想象 ( → ′) 發(fā)生在這里。

水平軸代表外在鏈條：符號(hào) (p) 是通過(guò)將物理標(biāo)記與概念任意關(guān)聯(lián)而創(chuàng)建的（紅色虛線箭頭）。這種不可跨越的橫向跨步構(gòu)成了因果鴻溝。計(jì)算 (( → ′) 是一個(gè)僅在此橫向分支上運(yùn)行的過(guò)程。這種從概念到符號(hào)的橫向移動(dòng)——一種任意分配而非垂直抽象——切斷了任何從符號(hào)返回原始體驗(yàn)的內(nèi)在因果路徑。

2.6. 計(jì)算涌現(xiàn)的謬誤

當(dāng)面對(duì)模擬與實(shí)例化的區(qū)別時(shí)，功能主義者往往退回到復(fù)雜性理論和涌現(xiàn)論。他們爭(zhēng)辯說(shuō)，就像“濕潤(rùn)”從水分子的相互作用中涌現(xiàn)一樣，一旦系統(tǒng)跨過(guò)足夠的復(fù)雜性閾值，意識(shí)就會(huì)從計(jì)算中涌現(xiàn)。這種反對(duì)意見(jiàn)是站不住腳的，因?yàn)樗鼘⑷跷锢碛楷F(xiàn)與我們所稱的計(jì)算涌現(xiàn)謬誤混為一談。

• 弱涌現(xiàn) (物理學(xué))：宏觀屬性（如濕潤(rùn)）直接隨附于微觀物理基質(zhì)（如H2O）的內(nèi)在因果動(dòng)力學(xué)。

• 計(jì)算涌現(xiàn) (抽象)：聲稱對(duì)過(guò)程的抽象描述（地圖）可以僅僅通過(guò)句法復(fù)雜性的大幅增加，蛻變?yōu)槲锢磉^(guò)程本身（領(lǐng)土）。

功能主義者堅(jiān)持認(rèn)為意識(shí)是一個(gè)特例，因?yàn)樗羌兇獾摹盎|(zhì)無(wú)關(guān)信息”。但這種論點(diǎn)預(yù)設(shè)了其自身的結(jié)論：它假定心理狀態(tài)就是抽象信息 (A)，完全避開(kāi)了產(chǎn)生它的物理現(xiàn)實(shí) (P)。

正如我們所確立的，句法 ( → ′) 不具備內(nèi)在的因果力；它是制圖者的賦予。聲稱抽象句法能以某種方式“涌現(xiàn)”為一種物理原因，完全超出了科學(xué)假設(shè)的范疇，因?yàn)檫@需要違反物理世界的因果封閉性。

因果循環(huán)：糾正鏈條

通過(guò)在物理動(dòng)力學(xué) (P) 和計(jì)算地圖 (A) 之間建立這條堅(jiān)實(shí)的邊界，我們可以定位計(jì)算功能主義內(nèi)部確切的邏輯崩塌（如圖 2 所示）。

3.1. 本體論倒置與因果鴻溝

傳統(tǒng)的功能主義解釋通常依賴于一個(gè)直接的、未經(jīng)檢驗(yàn)的因果序列：

物理→計(jì)算→ 意識(shí)

圖片來(lái)源：YouTube@Knut J?gersberg

這假設(shè)一旦計(jì)算復(fù)雜性達(dá)到特定閾值，意識(shí)就會(huì)作為下游副產(chǎn)品簡(jiǎn)單地出現(xiàn)。然而，正如第 2 節(jié)確立的那樣，計(jì)算絕不是世界上等著被發(fā)現(xiàn)的自然屬性。定義離散符號(hào)并賦予其語(yǔ)義意義，需要一個(gè)已經(jīng)具有意識(shí)的主體充當(dāng)制圖者 (f)。因此，我們必須從根本上重新排序因果序列：

物理 →意識(shí)→概念→計(jì)算

圖片來(lái)源：YouTube@Knut J?gersberg

1. 物理：宇宙內(nèi)在的因果動(dòng)力學(xué)。

2. 意識(shí)：直接產(chǎn)生于該物理內(nèi)特定熱力學(xué)組織的現(xiàn)象體驗(yàn)。

3. 概念：內(nèi)部地圖，通過(guò)從原始體驗(yàn)中提取不變量而形成。

4. 計(jì)算：外部地圖，由對(duì)任意分配給這些概念的離散符號(hào)進(jìn)行句法操作組成。

這條修正后的鏈條嚴(yán)格單向運(yùn)行。雖然概念在物理上仍然錨定在主體的內(nèi)在體驗(yàn)中——即不可還原的“它是什么樣的”實(shí)體體驗(yàn)，但計(jì)算符號(hào)只是物理標(biāo)記，與它們所代表的概念沒(méi)有內(nèi)在聯(lián)系。從概念轉(zhuǎn)移到符號(hào)不是抽象的一步。

這是一種橫向的分配行為，制圖者強(qiáng)行將物理標(biāo)記綁定到心理概念上。正是這一不可跨越的橫向跨步暴露了因果鴻溝，永久切斷了任何從符號(hào)返回原始體驗(yàn)的內(nèi)在路徑。

一旦建立了這種聯(lián)系，制圖者就會(huì)構(gòu)建句法規(guī)則來(lái)管理符號(hào)的物理狀態(tài)轉(zhuǎn)換 (p → p')。這些規(guī)則是明確自上而下設(shè)計(jì)的，以完美地跟蹤和模仿相應(yīng)概念的內(nèi)在關(guān)聯(lián)演化 (A → A')。

然而，盡管具有這種無(wú)懈可擊的結(jié)構(gòu)模仿，物理標(biāo)記本身對(duì)語(yǔ)義內(nèi)容施加不了任何因果影響。機(jī)器盲目地執(zhí)行映射的軌跡，完全脫離了它所模擬的現(xiàn)象現(xiàn)實(shí)。

功能主義試圖通過(guò)訴諸一個(gè)已經(jīng)預(yù)設(shè)了制圖者存在的過(guò)程（第 4 步）來(lái)解釋制圖者的起源（第 2 步）。這不僅僅是一個(gè)經(jīng)驗(yàn)鴻溝，而是一個(gè)范疇錯(cuò)誤：它作為一種強(qiáng)大的物理主義約束而存在。句法地圖的構(gòu)建從一開(kāi)始就需要制圖者。

因此，再多的算法復(fù)雜性也無(wú)法反向跨越因果鴻溝去產(chǎn)生一個(gè)體驗(yàn)主體。計(jì)算功能主義固有的這種本體論倒置產(chǎn)生了一個(gè)結(jié)構(gòu)性悖論：它試圖完全從制圖者自身的衍生輸出中推導(dǎo)出作為基礎(chǔ)的制圖者。

3.2. 字母表化的普遍性

在人工智能領(lǐng)域，有一場(chǎng)可追溯到 20 世紀(jì) 80 年代聯(lián)結(jié)主義轉(zhuǎn)向的長(zhǎng)期爭(zhēng)論。該爭(zhēng)論認(rèn)為，現(xiàn)代神經(jīng)網(wǎng)絡(luò)有別于早期的符號(hào)系統(tǒng)，因?yàn)樗鼈冊(cè)谒^的“亞符號(hào)”層面上運(yùn)行。據(jù)領(lǐng)先的研究人員稱，這種架構(gòu)使得構(gòu)建等同于真正理解的“世界模型”或遞歸認(rèn)知循環(huán)成為可能。

我們同意這些遞歸架構(gòu)可以重現(xiàn)內(nèi)省的結(jié)構(gòu)特征。正如高維向量空間以不同于離散邏輯符號(hào)的形式捕捉幾何關(guān)系一樣，神經(jīng)網(wǎng)絡(luò)可以模擬復(fù)雜的關(guān)系結(jié)構(gòu)。

然而，將這種結(jié)構(gòu)或幾何準(zhǔn)確性解釋為內(nèi)在意義的證據(jù)，重蹈了抽象謬誤的覆轍。它混淆了表征的結(jié)構(gòu)與底層物理現(xiàn)實(shí)，將模型的幾何結(jié)構(gòu)當(dāng)作了系統(tǒng)本身的物理屬性。

為了使這一反對(duì)意見(jiàn)形式化，我們引入了嚴(yán)格的香農(nóng)約束（Shannon constraint）：要在嚴(yán)格意義上處理信息，系統(tǒng)需要一個(gè)有限的經(jīng)典離散符號(hào)字母表以及這些狀態(tài)上的概率分布。

在生物生命和人造硬件的宏觀層面，光強(qiáng)、化學(xué)濃度和膜電壓等物理世界并沒(méi)有預(yù)先貼上離散的 0 和 1 的標(biāo)簽。宇宙并沒(méi)有預(yù)先將其宏觀物理狀態(tài)打包成可操作的計(jì)算字母表；制圖者必須明確地強(qiáng)制執(zhí)行它。將神經(jīng)脈沖或電壓切換視為“符號(hào)”，需要的不僅僅是物理上的離散化；它需要字母表化。

制圖者必須主動(dòng)將語(yǔ)義同一性強(qiáng)加于系統(tǒng)之上，將各種異質(zhì)的連續(xù)物理狀態(tài)視為一個(gè)單一的、可互換的標(biāo)記。同樣的約束也平等地適用于深度學(xué)習(xí)的高維向量空間。盡管經(jīng)常被描述為“連續(xù)的”表征，但向量被實(shí)現(xiàn)為浮點(diǎn)數(shù)序列，其中每個(gè)浮點(diǎn)數(shù)都是來(lái)自有限字母表（例如，IEEE 754）的離散符號(hào)。

映射函數(shù) (f) 中固有的字母表化要求適用于所有形式的計(jì)算，無(wú)論是數(shù)字、模擬還是量子計(jì)算。考慮一個(gè)模擬時(shí)鐘。在物理上，該設(shè)備是由受連續(xù)動(dòng)力學(xué) (P) 支配的齒輪和發(fā)條的集合。它之所以“計(jì)算”時(shí)間，僅僅是因?yàn)橹茍D者介入了，將一組特定的連續(xù)角度映射到語(yǔ)義概念（例如，“下午 3:00”）。

如果沒(méi)有這種語(yǔ)義的強(qiáng)加，時(shí)鐘只是遵循哈密頓方程移動(dòng)的金屬；它不包含內(nèi)在的“時(shí)間”。因此，在缺乏內(nèi)在符號(hào)的先決字母表的情況下，物理基質(zhì)并不“處理信息”；相反，它產(chǎn)生連續(xù)的動(dòng)力學(xué)，由外部制圖者將其解釋為信息。

即使未來(lái)的 AI 系統(tǒng)放棄浮點(diǎn)運(yùn)算，轉(zhuǎn)而采用全模擬的神經(jīng)形態(tài)芯片（neuromorphic chips），這種本體論鴻溝依然存在。只要一個(gè)物理狀態(tài)，無(wú)論它是離散的電壓電平還是連續(xù)的電荷模式，被識(shí)別為“讀出”或“隱藏狀態(tài)”，它就已經(jīng)被制圖者進(jìn)行了字母表化。

因此，這些模型仍然被封鎖在語(yǔ)義屏障之后。雖然它們可以構(gòu)建復(fù)雜的內(nèi)部地圖，但它們?nèi)狈εc體驗(yàn)的物理領(lǐng)土之間內(nèi)在的、構(gòu)成性的聯(lián)系。

圖 3 | 機(jī)制的不確定性 (The Indeterminacy of Mechanism)（旋律悖論）。單個(gè)物理載體（底部）擁有固定的因果軌跡。然而，它并不實(shí)例化一個(gè)獨(dú)特的計(jì)算。根據(jù)所應(yīng)用的字母表化密鑰（fA 或 fB），相同的物理狀態(tài)可以被映射到完全不同的抽象計(jì)算中（左上角對(duì)比右上角）。因此，計(jì)算不可能是內(nèi)在于物理 (p) 的。

3.3. 機(jī)制的不確定性

由 Piccinini (2008) 倡導(dǎo)的計(jì)算的機(jī)制主義觀點(diǎn)，試圖完全排除制圖者，認(rèn)為可以在不訴諸任何表征的情況下定義計(jì)算。該觀點(diǎn)認(rèn)為，計(jì)算可以完全由對(duì)“數(shù)字（digits）”的操作來(lái)定義——這里的數(shù)字指的是僅可通過(guò)系統(tǒng)的功能組織來(lái)區(qū)分的宏觀物理狀態(tài)。

然而，盡管這種手法隱藏了制圖者，它并沒(méi)有消除對(duì)制圖者的需求。正如 Sprevak 在他對(duì)平凡性論證的分析中指出的那樣，確定任何物理機(jī)制的計(jì)算身份仍然需要外部對(duì)相關(guān)狀態(tài)進(jìn)行規(guī)定。

物理機(jī)制當(dāng)然可以具有穩(wěn)定的吸引子（我們?cè)?2.4 節(jié)中將其澄清為熱力學(xué)離散化），但是將這些連續(xù)的吸引子組合成一個(gè)特定的、有限的計(jì)算字母表，仍然純粹是制圖者的外在強(qiáng)加。

我們可以考慮一個(gè)簡(jiǎn)單的旋律悖論（圖 3）來(lái)揭露這種偷換概念。想象一個(gè)物理設(shè)備逐步遍歷一系列穩(wěn)定的電壓狀態(tài)。物理轉(zhuǎn)換 (( → ′) 是由電動(dòng)力學(xué)定律固定的。

然而，這一精確過(guò)程的計(jì)算身份 ( → ′) 仍然完全是未充分決定的。如果沒(méi)有外部制圖者提供映射密鑰，那組單一的物理狀態(tài)序列可能代表：

1. 正向演奏的旋律（映射 A）。

2. 完全相同的旋律倒放（映射 B，例如逆行倒影）。

3. 快速波動(dòng)的股票市場(chǎng)價(jià)格流（映射 C）。

4. 連貫的噪聲（如果符號(hào)集以不同的粒度定義）。

物理電壓 (p) 沒(méi)有任何固有的屬性可以賦予其中一個(gè)有限符號(hào)集優(yōu)于其他符號(hào)集的特權(quán)。“數(shù)字”不是機(jī)制中等待被發(fā)現(xiàn)的自然屬性。它是制圖者進(jìn)行的一種認(rèn)知切割，將連續(xù)的物理動(dòng)力學(xué)強(qiáng)行塞入有限的邏輯集中。

因此，即使一個(gè)物理系統(tǒng)根據(jù)可重復(fù)的規(guī)則演化出清晰可辨的宏觀狀態(tài)，仍然需要制圖者的介入，以將計(jì)算解釋的不確定性坍縮成一條單一、唯一的軌跡。機(jī)制提供了墨水，制圖者必須提供字母表。

影響：計(jì)算實(shí)現(xiàn)的局限性

我們的框架表明，通往 AI 意識(shí)的障礙不在于計(jì)算規(guī)模或算法復(fù)雜性的增加。相反，它是一個(gè)模擬與實(shí)例化的問(wèn)題。正因如此，它直接關(guān)系到目前該領(lǐng)域內(nèi)受到快速增加的關(guān)注和投資的兩個(gè)領(lǐng)域：具身機(jī)器人技術(shù)與 AGI 安全。

4.1. 機(jī)器人技術(shù)中的轉(zhuǎn)導(dǎo)謬誤

對(duì)我們構(gòu)成性框架最強(qiáng)烈的反對(duì)意見(jiàn)之一來(lái)自具身化的概念。根據(jù)這一論點(diǎn)，AI 系統(tǒng)變得有意識(shí)所缺失的關(guān)鍵成分是在物理環(huán)境中的正確因果整合。他們認(rèn)為，提供允許系統(tǒng)實(shí)時(shí)感知和行動(dòng)的傳感器和執(zhí)行器，可以彌合因果鴻溝，并讓系統(tǒng)的內(nèi)部符號(hào)變得有根基。

然而，僅僅增加傳感器和執(zhí)行器并不能解決實(shí)例化體驗(yàn)的深層問(wèn)題。我們同意，具身智能確實(shí)解決了符號(hào)接地問(wèn)題（symbol grounding problem）中的指代方面。

它使得內(nèi)部符號(hào)能夠成功映射到外部物理數(shù)據(jù)流，從而避免了純?cè)~匯化內(nèi)部字典的無(wú)限倒退。但是，我們需要仔細(xì)區(qū)分這種指示性映射與內(nèi)在的意義構(gòu)建。

一個(gè)類比有助于澄清這一點(diǎn)。將計(jì)算機(jī)連接到攝像頭和機(jī)械臂，類似于將測(cè)量?jī)x器連接到模擬器。模擬現(xiàn)在接收真實(shí)世界的數(shù)據(jù)，但模型的內(nèi)部變量仍然是符號(hào)表征，而不是物理過(guò)程本身。同樣，連接到實(shí)時(shí)大氣傳感器的天氣模型并不會(huì)變成大氣層。它只是接收并處理關(guān)于大氣的數(shù)據(jù)。

圖片來(lái)源：YouTube@Knut J?gersberg

同樣的原理也適用于具身 AI 系統(tǒng)。傳感器和執(zhí)行器允許系統(tǒng)與物理世界互動(dòng)，但它們不會(huì)自動(dòng)將符號(hào)表征轉(zhuǎn)化為內(nèi)在的、被體驗(yàn)的語(yǔ)義。系統(tǒng)可能會(huì)構(gòu)建越來(lái)越詳細(xì)的環(huán)境地圖，但與領(lǐng)土互動(dòng)本身并不會(huì)將地圖變成體驗(yàn)的領(lǐng)土。

追蹤具身系統(tǒng)的因果拓?fù)洌┞冻鑫覀兯Q的轉(zhuǎn)導(dǎo)謬誤：

1. 輸入轉(zhuǎn)導(dǎo)：傳感器將外部物理力轉(zhuǎn)導(dǎo)為連續(xù)電壓，隨后由外部制圖者校準(zhǔn)的模數(shù)轉(zhuǎn)換器 (ADC) 將其字母表化為內(nèi)部數(shù)字狀態(tài)（例如，熱能→連續(xù)電壓→離散整數(shù)）。

2. 句法策略：句法引擎操作這些內(nèi)部離散狀態(tài)以生成輸出狀態(tài)，在物理上實(shí)現(xiàn)抽象算法。

3. 輸出轉(zhuǎn)導(dǎo)：執(zhí)行器將數(shù)字輸出轉(zhuǎn)換回宏觀的物理力。

重要的是，機(jī)器人系統(tǒng)的操作核心（其算法控制器）完全在第二步內(nèi)運(yùn)行。它只操作由外部制圖者為了計(jì)算而離散化和字母表化的符號(hào)（例如通過(guò)矩陣乘法操作的浮點(diǎn)數(shù)）。

現(xiàn)代“端到端”連續(xù)控制的支持者可能會(huì)反對(duì)說(shuō)，當(dāng)代機(jī)器人架構(gòu)通過(guò)深度神經(jīng)網(wǎng)絡(luò)將原始傳感器陣列直接映射到執(zhí)行器扭矩，而不需要人類可讀的符號(hào)表征。

然而，正如第 3.2 節(jié)所解釋的，執(zhí)行這些控制策略的硬件（如 GPU）仍然通過(guò)浮點(diǎn)數(shù)的字母表化及其預(yù)定義的數(shù)學(xué)操作規(guī)則依賴于符號(hào)。制圖者不可或缺的字母表化并未缺席。相反，它被深深地烤入了硅架構(gòu)本身。

轉(zhuǎn)導(dǎo)謬誤不僅僅在于物理力在傳感器處被轉(zhuǎn)化為數(shù)字。如果在其中假設(shè)對(duì)這些轉(zhuǎn)導(dǎo)后符號(hào)的算法操作能夠以某種方式實(shí)例化出具有現(xiàn)象體驗(yàn)的主體，那便犯了更深層次的范疇錯(cuò)誤。

為了充分理解在芯片上運(yùn)行算法的具身機(jī)器人與生物制圖者之間的區(qū)別，我們需要記住，對(duì)于后者而言，主觀體驗(yàn)是一個(gè)既定事實(shí)，不是因?yàn)槌橄蟮男畔⑻幚恚且驗(yàn)樘囟ǖ摹⒂纱x構(gòu)成的物理現(xiàn)實(shí)。

沒(méi)有任何物理或邏輯上的理由可以假設(shè)，硅芯片僅僅因?yàn)閳?zhí)行了感覺(jué)輸入與機(jī)械執(zhí)行器之間的句法映射，就能產(chǎn)生類似的在物理上構(gòu)成的體驗(yàn)。如果我們作其他假設(shè)，我們將得出違反物理主義原則的邏輯推論。

正如我們?cè)诘?2.5 節(jié)所證明的，與任何算法相關(guān)的抽象狀態(tài)（即計(jì)算所指的“內(nèi)容”）不具有內(nèi)在的因果力。系統(tǒng)中唯一的物理因果性屬于硅載體本身。

因此，爭(zhēng)辯說(shuō)具身機(jī)器人中句法映射（無(wú)論是傳感器數(shù)據(jù)、執(zhí)行器數(shù)據(jù)還是其他數(shù)據(jù)）的執(zhí)行產(chǎn)生了體驗(yàn)，意味著爭(zhēng)辯：物理芯片必然僅因其物質(zhì)屬性而固有地?fù)碛挟a(chǎn)生意識(shí)的能力。

請(qǐng)注意，無(wú)論它是否連接到機(jī)器人身體，或者它運(yùn)行什么具體的算法，這都是必然的結(jié)果。因此，對(duì)地圖-領(lǐng)土關(guān)系的嚴(yán)謹(jǐn)分析揭示了（與最初看似合理的情況相反）具身化不能將模擬轉(zhuǎn)化為構(gòu)成性的主觀體驗(yàn)。

4.2. 本體論解脫：無(wú)覺(jué)知工具的安全性

在確立了無(wú)論是算法復(fù)雜性還是物理具身化都無(wú)法跨越因果鴻溝之后，我們現(xiàn)在可以討論該框架的實(shí)際影響。計(jì)算映射與物理領(lǐng)土之間的結(jié)構(gòu)分離對(duì) AI 安全具有直接影響。它有助于澄清哪類系統(tǒng)可能真正支持現(xiàn)象體驗(yàn)，而哪類系統(tǒng)不能。

生成主義和具身認(rèn)知的工作指出了一些似乎與意識(shí)體驗(yàn)密切相關(guān)的物理過(guò)程。這些包括活系統(tǒng)（生命系統(tǒng)）內(nèi)部的自創(chuàng)生（autopoiesis）和持續(xù)的熱力學(xué)調(diào)節(jié)。從歷史上看，這些機(jī)制被視為生物有機(jī)體的屬性，因此是被特定地與碳基生命聯(lián)系在一起的特征。

我們的框架提出了一種稍微不同的解釋。它同樣保持了物理主義對(duì)真實(shí)的、內(nèi)在的物理過(guò)程的強(qiáng)調(diào)，但并不要求這些過(guò)程只能發(fā)生在生物有機(jī)體中。在這種觀點(diǎn)下，現(xiàn)象體驗(yàn)依賴于某些種類動(dòng)力學(xué)的實(shí)際物理實(shí)例化。

因此，該框架并不暗示意識(shí)必須局限于生物生命。原則上，可以設(shè)計(jì)一個(gè)非生物系統(tǒng)來(lái)實(shí)現(xiàn)必要的物理?xiàng)l件。如果在合成基質(zhì)中成功實(shí)例化了這些條件，那么意識(shí)體驗(yàn)也可能在那里產(chǎn)生。

然而，這種基本的結(jié)構(gòu)限制保證了：如果這樣的人造系統(tǒng)具有意識(shí)，那將完全歸因于其特定的物理構(gòu)成，這與基質(zhì)獨(dú)立性正好相反。

鑒于現(xiàn)象意識(shí)是一種被構(gòu)成的物理狀態(tài)，并且考慮到模擬和實(shí)例化之間的本體論邊界，主觀體驗(yàn)決不會(huì)通過(guò)擴(kuò)大算力或運(yùn)行某種強(qiáng)大的算法而突然涌現(xiàn)。它不是一個(gè)可以被意外或故意創(chuàng)造出來(lái)的軟件產(chǎn)物。

這一認(rèn)識(shí)有助于澄清該領(lǐng)域當(dāng)前的直接方向：高度強(qiáng)大的人工通用智能（AGI）的發(fā)展，本質(zhì)上并不通向創(chuàng)造一種新型的道德受體，而是通向?qū)σ环N高度復(fù)雜的、沒(méi)有感受質(zhì)的工具的完善。

然而，在這種規(guī)模上實(shí)現(xiàn)行為模仿產(chǎn)生了對(duì)認(rèn)知衛(wèi)生的新需求。人工智能系統(tǒng)越來(lái)越擅長(zhǎng)重現(xiàn)人類與其他意識(shí)心智相關(guān)聯(lián)的行為信號(hào)，隨著人形機(jī)器人等具身系統(tǒng)的出現(xiàn)，這一趨勢(shì)將被日益放大。

這對(duì)科學(xué)界提出了明確的挑戰(zhàn)。

與其為機(jī)器的權(quán)利做準(zhǔn)備，我們真正需要的是明確捍衛(wèi)模擬的似目的性智能體（teleonomy）與主體目的論的物理實(shí)例化之間的方法論邊界。因此，未來(lái)任何關(guān)于人工智能感受質(zhì)的聲明都必須接受嚴(yán)謹(jǐn)?shù)奈锢碇髁x驗(yàn)證，不是基于算法復(fù)雜性，而是基于體驗(yàn)所需的特定、內(nèi)在的物理動(dòng)力學(xué)。

結(jié)論：計(jì)算的盲點(diǎn)

計(jì)算通常被視為宇宙的一個(gè)基本特征，計(jì)算功能主義正是建立在這一觀點(diǎn)之上，假設(shè)計(jì)算是我們意識(shí)體驗(yàn)的根源。然而，通過(guò)仔細(xì)審視計(jì)算的因果起源，我們已經(jīng)證明這種觀點(diǎn)犯了本體論倒置的錯(cuò)誤：意識(shí)體驗(yàn)不可能是計(jì)算的下游結(jié)果，因?yàn)樗怯?jì)算必要的物理先決條件。

此外，我們證明了計(jì)算本質(zhì)上是一種描述、一張地圖，它不能在物理上實(shí)例化它所描述的事物。這些挑戰(zhàn)了普遍存在的有關(guān)主觀體驗(yàn)性質(zhì)和計(jì)算性質(zhì)直覺(jué)的見(jiàn)解，完全基于公認(rèn)的物理定律和嚴(yán)密的邏輯推演。

至關(guān)重要的是，與大多數(shù)關(guān)于人工智能意識(shí)潛力的討論和推測(cè)不同，該框架并不依賴于一個(gè)完整的意識(shí)理論。它通過(guò)解決等式的另一面，即在本體論術(shù)語(yǔ)中，計(jì)算究竟是什么？從而解決了這個(gè)明顯的難題。

關(guān)于意識(shí)的問(wèn)題，該框架僅要求現(xiàn)象體驗(yàn)不違反因果封閉性，這是我們科學(xué)理解的最基本原則之一。僅此原則就足以表明，體驗(yàn)必須是一種由物理構(gòu)成、完全物理的現(xiàn)象，這使我們能夠避開(kāi)圍繞任何形式的二元論或副現(xiàn)象論的猜測(cè)。

總結(jié)我們已確立的本體論：計(jì)算是由旨在模擬概念思維的規(guī)則所支配的對(duì)離散符號(hào)的句法操作。這些符號(hào)并不是概念提煉出的本質(zhì)；它們是由制圖者分配的任意物理標(biāo)記。

反過(guò)來(lái)，概念是主動(dòng)從鮮活的熱力學(xué)體驗(yàn)中提取出來(lái)的由物理構(gòu)成的不變量。因此，期望算法描述能實(shí)例化它所映射的特質(zhì)，就像期望重力的數(shù)學(xué)公式能在物理上產(chǎn)生重量一樣。相信人工智能能僅僅通過(guò)操作內(nèi)部變量就變得有意識(shí)，就是犯了“盲點(diǎn)”的錯(cuò)誤：將地圖錯(cuò)認(rèn)成了領(lǐng)土。

因此，計(jì)算描述無(wú)法生成主觀體驗(yàn)，這不是工程學(xué)上的失敗，而是描述本身必然的邏輯結(jié)果。這也意味著，感受質(zhì)不是可以通過(guò)越來(lái)越優(yōu)雅的句法解決的難題。相反，它們代表了內(nèi)在的、底層的基質(zhì)，正是這種基質(zhì)首先使得句法的語(yǔ)義分配成為可能。

通過(guò)創(chuàng)造越來(lái)越強(qiáng)大的人工智能，我們并不是在設(shè)計(jì)一種新的生命形式，而是在構(gòu)建越來(lái)越準(zhǔn)確的預(yù)測(cè)性地圖。然而，無(wú)論其預(yù)測(cè)精度如何，無(wú)論其作為推理工具的實(shí)用性如何，也無(wú)論其是否物理具身化，這個(gè)人工系統(tǒng)在范疇上依然與現(xiàn)象體驗(yàn)的領(lǐng)土截然不同。認(rèn)識(shí)到這種區(qū)別，并避免抽象謬誤的本體論倒置，是建立一門成熟的、有物理基礎(chǔ)的機(jī)器智能科學(xué)的先決條件。

閱讀最新前沿科技趨勢(shì)報(bào)告，請(qǐng)?jiān)L問(wèn)21世紀(jì)關(guān)鍵技術(shù)研究院的“未來(lái)知識(shí)庫(kù)”

未來(lái)知識(shí)庫(kù)是 “21世紀(jì)關(guān)鍵技術(shù)研究院”建 立的在線知識(shí)庫(kù)平臺(tái)，收藏的資料范圍包括人工智能、腦科學(xué)、互聯(lián)網(wǎng)、超級(jí)智能，數(shù)智大腦、能源、軍事、經(jīng)濟(jì)、人類風(fēng)險(xiǎn)等等領(lǐng)域的前沿進(jìn)展與未來(lái)趨勢(shì)。目前擁有超過(guò)8000篇重要資料。每周更新不少于100篇世界范圍最新研究資料。 歡迎掃描二維碼或訪問(wèn)https://wx.zsxq.com/group/454854145828進(jìn)入。

截止到2月28日 ”未來(lái)知識(shí)庫(kù)”精選的百部前沿科技趨勢(shì)報(bào)告

（加入未來(lái)知識(shí)庫(kù)，全部資料免費(fèi)閱讀和下載）