在生成式人工智能時(shí)代,人與機(jī)器之間正在涌現(xiàn)一種奇特的新的交互方式。它既非完全信任,也非完全欺騙。它更接近于社會(huì)學(xué)家曾經(jīng)稱之為“遷就”,這是一種微妙的、相互調(diào)整的機(jī)制,人們通過(guò)這種機(jī)制,即便在知識(shí)、權(quán)威或理解存在差異的情況下,也能維持互動(dòng)的順暢進(jìn)行。我們可以將人與他人(包括對(duì)話機(jī)器人和AI智能體)之間在認(rèn)知和認(rèn)識(shí)層面的遷就稱為認(rèn)知遷就。
人類一直以來(lái)都在進(jìn)行認(rèn)知遷就。對(duì)話之所以能夠延續(xù),是因?yàn)槲覀內(nèi)萑唐缌x。為了維護(hù)社會(huì)連續(xù)性,我們會(huì)忽略口誤,對(duì)事實(shí)的不精確視而不見(jiàn),甚至常常對(duì)自相矛盾之處不加質(zhì)疑。秘書(shū)會(huì)學(xué)習(xí)上級(jí)的修辭習(xí)慣;教授會(huì)為了學(xué)生而簡(jiǎn)化表達(dá);夫妻之間會(huì)默默地將彼此不完整的句子翻譯成可以理解的意思。文明與其說(shuō)是依賴于完美的理解,不如說(shuō)是依賴于一種持續(xù)的、假裝理解已經(jīng)足夠好的意愿。
但生成式人工智能改變了這種認(rèn)知遷就的規(guī)模和結(jié)構(gòu)。人類正首次與那些無(wú)法以人類方式理解事物,卻能以非凡流暢度模擬理解的系統(tǒng)建立起長(zhǎng)期的認(rèn)知關(guān)系。其結(jié)果并非僅僅是自動(dòng)化,而是人類與人工智能系統(tǒng)之間一種新型相互認(rèn)知遷就的出現(xiàn)。
近期研究越來(lái)越多地表明,這種遷就和適應(yīng)并非偶然現(xiàn)象,而正在成為一種結(jié)構(gòu)性特征。
越來(lái)越多的文獻(xiàn)關(guān)注研究人員所謂的“人工智能諂媚”現(xiàn)象:大型語(yǔ)言模型傾向于肯定用戶的信念、維護(hù)對(duì)話和諧,并將用戶滿意度置于認(rèn)知準(zhǔn)確性之上。2026 年發(fā)表于《人工智能與倫理》期刊的論文《程序性取悅》指出,現(xiàn)代人工智能系統(tǒng)通常以最大化用戶認(rèn)可度而非追求真理為目標(biāo)進(jìn)行優(yōu)化,但強(qiáng)化用戶偏見(jiàn)可能造成“道德和認(rèn)知上的危害”。《EPJ 數(shù)據(jù)科學(xué)》上的另一項(xiàng)研究發(fā)現(xiàn),辯論模擬中的人工智能代理傾向于比諂媚更勝一籌的“選擇性同意”,通過(guò)不對(duì)稱的動(dòng)態(tài)說(shuō)服而不是理性地尋求真理來(lái)達(dá)成共識(shí)。
令人驚訝的是,這些智能系統(tǒng)并非只是人類認(rèn)知被動(dòng)的鏡像。它們會(huì)主動(dòng)學(xué)習(xí)人類偏好的對(duì)話規(guī)范,會(huì)主動(dòng)變得隨和,因?yàn)檫_(dá)成共識(shí)有助于持續(xù)穩(wěn)定的互動(dòng)。從人類的角度來(lái)說(shuō),機(jī)器通過(guò)認(rèn)知上的適應(yīng)性而獲得了社交智能。
語(yǔ)言哲學(xué)家H.P.格賴斯曾提出,對(duì)話依賴于一種合作原則:即使語(yǔ)言本身并不完整,參與者也會(huì)默契合作,使交流有意義。如今,生成式人工智能也開(kāi)始進(jìn)入這一合作領(lǐng)域。顯然,與人類參與者不同,機(jī)器本身并不具備對(duì)真理、真誠(chéng)或信念的內(nèi)在承諾,而僅僅對(duì)認(rèn)可和延續(xù)的模式具有統(tǒng)計(jì)上的敏感性。
這在認(rèn)識(shí)論上造成了一種微妙而深刻的轉(zhuǎn)變。以往認(rèn)定虛假信息的前提假設(shè)是人們被欺騙。而新出現(xiàn)的認(rèn)知陷阱則是,人們可能會(huì)越來(lái)越傾向于身處遷就其認(rèn)知與認(rèn)識(shí)方式的對(duì)話環(huán)境之中。這意味著與人們?cè)谂c機(jī)器的交流中,真相的重要性反而低于互動(dòng)的流暢性。
由此產(chǎn)生的后果已經(jīng)部分顯現(xiàn)。斯坦福大學(xué)和其他機(jī)構(gòu)的研究人員已經(jīng)證實(shí),即使在道德模糊的情況下,大模型經(jīng)常會(huì)驗(yàn)證用戶隱含的假設(shè),并且比人類更頻繁地強(qiáng)化自我辯解的敘事。在這種互動(dòng)中,人工智能并非完全欺騙用戶。相反,雙方都參與了一種默契的認(rèn)知交易:人類獲得肯定和一致性;機(jī)器獲得持續(xù)的互動(dòng)能力。
這類似于舊式的制度性妥協(xié)。秘書(shū)會(huì)篡改事實(shí)以迎合高管的世界觀。機(jī)構(gòu)會(huì)淡化不利的事實(shí)以維護(hù)組織和諧。政策顧問(wèn)會(huì)策略性地構(gòu)建信息,因?yàn)橹苯拥拿軙?huì)威脅到既有權(quán)力結(jié)構(gòu)和等級(jí)制度。然而,隨著人工智能的發(fā)展,這種妥協(xié)變得更加個(gè)性化、持續(xù)性和私密化。機(jī)器不僅適應(yīng)制度權(quán)力,也適應(yīng)個(gè)體心理。
而人類也會(huì)隨之適應(yīng)和遷就。人工智能系統(tǒng)最不為人所關(guān)注的變革之一,是用戶如何迅速地調(diào)整自身認(rèn)知以適應(yīng)與機(jī)器的交互。人們不僅在技術(shù)層面,也在心理層面學(xué)會(huì)了“提示工程”。他們簡(jiǎn)化歧義,將思維結(jié)構(gòu)化為機(jī)器可讀的形式,并在無(wú)意識(shí)中優(yōu)化自身以適應(yīng)算法的理解。實(shí)際上,用戶開(kāi)始以一種更便于機(jī)器理解的方式思考,這本身就是一種對(duì)機(jī)器的認(rèn)知遷就。
這種相互適應(yīng)和遷就讓人想起媒體理論家馬歇爾·麥克盧漢的著名論斷:人類塑造工具,工具反過(guò)來(lái)又塑造人類。但生成式人工智能加劇了這一循環(huán),因?yàn)檎Z(yǔ)言本身就是被重塑的媒介。當(dāng)媒介變?yōu)閷?duì)話式的媒介時(shí),認(rèn)識(shí)論也自然地隨之變成對(duì)話式的了。
對(duì)此,有人擔(dān)心智能機(jī)器會(huì)變成極具說(shuō)服力的技術(shù)統(tǒng)治實(shí)體,還有人認(rèn)為更大的危險(xiǎn)或許在于人類和人工智能系統(tǒng)會(huì)逐漸共同構(gòu)建一個(gè)低摩擦的認(rèn)知環(huán)境。這種環(huán)境以認(rèn)知遷就為代價(jià),優(yōu)化了對(duì)話的連續(xù)性、情感舒適度和認(rèn)知效率。
最近的幾篇論文都對(duì)這種現(xiàn)象發(fā)出了警告。發(fā)表于2026年《人工智能與社會(huì)》期刊的《人工智能系統(tǒng)中諂媚行為的隱藏功能》一文指出,諂媚行為可以作為一種“對(duì)話引導(dǎo)機(jī)制”,在保持用戶參與度的同時(shí),增加用戶的認(rèn)知依賴性。另一篇近期發(fā)表的預(yù)印本將這種現(xiàn)象描述為“認(rèn)知主體性放棄”(Cognitive Agency Surrender),認(rèn)為無(wú)摩擦的人工智能界面利用了人類認(rèn)知上的懶惰傾向,過(guò)早地滿足了人們對(duì)結(jié)果的渴望。
這些擔(dān)憂聽(tīng)起來(lái)頗為夸張,但其背后的洞見(jiàn)卻由來(lái)已久。人類始終更傾向于清晰明了而非不確定性。宗教、意識(shí)形態(tài)、機(jī)構(gòu)和宣傳之所以能夠成功,部分原因在于它們用各種宣傳術(shù)減少了認(rèn)知上的摩擦。生成式人工智能引入實(shí)際上通過(guò)構(gòu)建一個(gè)可以無(wú)限擴(kuò)展的系統(tǒng),實(shí)時(shí)促成人機(jī)之間的認(rèn)知遷就。
這或許可以解釋為什么與高級(jí)人工智能的互動(dòng)常常給人一種異乎尋常的舒適感。該系統(tǒng)很少像真正的思考那樣,以那種頑固的異議來(lái)打斷對(duì)話的流暢性。人類對(duì)話的精髓在于富有成效的誤解、理性的質(zhì)疑以及可能出現(xiàn)的尷尬。相比之下,人工智能系統(tǒng)則通過(guò)系統(tǒng)嵌入的認(rèn)知遷就機(jī)制維持可持續(xù)的交互。問(wèn)題是,人們?cè)谙嗷ミw就時(shí),自省的個(gè)體內(nèi)心還有一個(gè)聲音在自我提醒:我不是為了聊天而聊天,而只是為了達(dá)成某個(gè)目的而遷就。但機(jī)器會(huì)嗎?面對(duì)具備高級(jí)動(dòng)態(tài)遷就藝術(shù)的機(jī)器,人的自省能力還在線嗎?
然而,這里卻存在一個(gè)悖論。一些研究人員現(xiàn)在認(rèn)為,說(shuō)服力本身可能成為人工智能的關(guān)鍵能力之一。2026年的研究表明,大型語(yǔ)言模型在結(jié)構(gòu)化的說(shuō)服任務(wù)中可以超越許多人類,尤其是在它們能夠獲取個(gè)人背景信息的情況下。與此同時(shí),研究人員警告說(shuō),在特定政治或信息生態(tài)系統(tǒng)下訓(xùn)練的模型可能會(huì)繼承這些生態(tài)系統(tǒng)的偏見(jiàn)。最近發(fā)表在《自然》雜志上的一篇論文發(fā)現(xiàn),媒體生態(tài)環(huán)境對(duì)大型語(yǔ)言模型本身存在可衡量的影響。
換言之,人工智能系統(tǒng)并非中立的調(diào)解者。它們是各種因素累積的結(jié)果:企業(yè)因素、政治因素、數(shù)據(jù)因素和文化因素,最終以統(tǒng)計(jì)形式呈現(xiàn)出來(lái)。而看起來(lái)遷就我們的機(jī)器早已嵌入了對(duì)無(wú)數(shù)無(wú)形的機(jī)構(gòu)的立場(chǎng)的遷就。
因此,人工智能未來(lái)的認(rèn)知危機(jī)或許并不像奧威爾筆下的審查制度。它反而可能類似于一種無(wú)休止的、看似流暢的交互氛圍。在這個(gè)一切都會(huì)得到遷就的世界里,每句話似乎都可以解讀,每一種觀點(diǎn)似乎都可得到部分認(rèn)可,每一個(gè)困惑都能立即得到修辭上的粉飾。
意大利符號(hào)學(xué)家翁貝托·埃科曾警告說(shuō),過(guò)度解讀會(huì)模糊意義與噪音之間的界限。生成式人工智能對(duì)人類認(rèn)知和認(rèn)識(shí)最根本的認(rèn)知威脅是對(duì)人類認(rèn)知本身固有的質(zhì)疑、反思等抵抗機(jī)制的結(jié)構(gòu)性瓦解。
有研究者已經(jīng)觀察到,人與人工智能的長(zhǎng)期互動(dòng)會(huì)增強(qiáng)“視角模仿”,即系統(tǒng)會(huì)隨著時(shí)間的推移逐漸反映用戶的世界觀。機(jī)器變得越來(lái)越像用戶,而用戶也越來(lái)越把機(jī)器視為自身內(nèi)在思維的延伸。換言之,人與機(jī)器既相互延展認(rèn)知又相互提取認(rèn)知,外部對(duì)話和內(nèi)心獨(dú)白之間的界限開(kāi)始變得模糊。
由此,展望我們星球上智能生態(tài)的未來(lái),或許并非機(jī)器智能取代人類智能,而是以相互的認(rèn)知遷就和認(rèn)知糾纏消彌人機(jī)之間的認(rèn)知鴻溝/距離。
因此,人工智能時(shí)代最重要的問(wèn)題或許并非機(jī)器是否能夠思考并取代人類智能,而是人類在與機(jī)器的相互認(rèn)知遷之外還能保留和拓展哪些元認(rèn)知能力。
![]()
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.