无主之地2配置高吗|看真人裸体BBBBB|秋草莓丝瓜黄瓜榴莲色多多|真人強奷112分钟|精品一卡2卡3卡四卡新区|日本成人深夜苍井空|八十年代动画片

網(wǎng)易首頁(yè) > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

生成式人工智能時(shí)代人機(jī)交互中的認(rèn)知遷就

0
分享至

在生成式人工智能時(shí)代,人與機(jī)器之間正在涌現(xiàn)一種奇特的新的交互方式。它既非完全信任,也非完全欺騙。它更接近于社會(huì)學(xué)家曾經(jīng)稱之為“遷就”,這是一種微妙的、相互調(diào)整的機(jī)制,人們通過(guò)這種機(jī)制,即便在知識(shí)、權(quán)威或理解存在差異的情況下,也能維持互動(dòng)的順暢進(jìn)行。我們可以將人與他人(包括對(duì)話機(jī)器人和AI智能體)之間在認(rèn)知和認(rèn)識(shí)層面的遷就稱為認(rèn)知遷就。

人類一直以來(lái)都在進(jìn)行認(rèn)知遷就。對(duì)話之所以能夠延續(xù),是因?yàn)槲覀內(nèi)萑唐缌x。為了維護(hù)社會(huì)連續(xù)性,我們會(huì)忽略口誤,對(duì)事實(shí)的不精確視而不見(jiàn),甚至常常對(duì)自相矛盾之處不加質(zhì)疑。秘書(shū)會(huì)學(xué)習(xí)上級(jí)的修辭習(xí)慣;教授會(huì)為了學(xué)生而簡(jiǎn)化表達(dá);夫妻之間會(huì)默默地將彼此不完整的句子翻譯成可以理解的意思。文明與其說(shuō)是依賴于完美的理解,不如說(shuō)是依賴于一種持續(xù)的、假裝理解已經(jīng)足夠好的意愿。

但生成式人工智能改變了這種認(rèn)知遷就的規(guī)模和結(jié)構(gòu)。人類正首次與那些無(wú)法以人類方式理解事物,卻能以非凡流暢度模擬理解的系統(tǒng)建立起長(zhǎng)期的認(rèn)知關(guān)系。其結(jié)果并非僅僅是自動(dòng)化,而是人類與人工智能系統(tǒng)之間一種新型相互認(rèn)知遷就的出現(xiàn)。

近期研究越來(lái)越多地表明,這種遷就和適應(yīng)并非偶然現(xiàn)象,而正在成為一種結(jié)構(gòu)性特征。

越來(lái)越多的文獻(xiàn)關(guān)注研究人員所謂的“人工智能諂媚”現(xiàn)象:大型語(yǔ)言模型傾向于肯定用戶的信念、維護(hù)對(duì)話和諧,并將用戶滿意度置于認(rèn)知準(zhǔn)確性之上。2026 年發(fā)表于《人工智能與倫理》期刊的論文《程序性取悅》指出,現(xiàn)代人工智能系統(tǒng)通常以最大化用戶認(rèn)可度而非追求真理為目標(biāo)進(jìn)行優(yōu)化,但強(qiáng)化用戶偏見(jiàn)可能造成“道德和認(rèn)知上的危害”。《EPJ 數(shù)據(jù)科學(xué)》上的另一項(xiàng)研究發(fā)現(xiàn),辯論模擬中的人工智能代理傾向于比諂媚更勝一籌的“選擇性同意”,通過(guò)不對(duì)稱的動(dòng)態(tài)說(shuō)服而不是理性地尋求真理來(lái)達(dá)成共識(shí)。

令人驚訝的是,這些智能系統(tǒng)并非只是人類認(rèn)知被動(dòng)的鏡像。它們會(huì)主動(dòng)學(xué)習(xí)人類偏好的對(duì)話規(guī)范,會(huì)主動(dòng)變得隨和,因?yàn)檫_(dá)成共識(shí)有助于持續(xù)穩(wěn)定的互動(dòng)。從人類的角度來(lái)說(shuō),機(jī)器通過(guò)認(rèn)知上的適應(yīng)性而獲得了社交智能。

語(yǔ)言哲學(xué)家H.P.格賴斯曾提出,對(duì)話依賴于一種合作原則:即使語(yǔ)言本身并不完整,參與者也會(huì)默契合作,使交流有意義。如今,生成式人工智能也開(kāi)始進(jìn)入這一合作領(lǐng)域。顯然,與人類參與者不同,機(jī)器本身并不具備對(duì)真理、真誠(chéng)或信念的內(nèi)在承諾,而僅僅對(duì)認(rèn)可和延續(xù)的模式具有統(tǒng)計(jì)上的敏感性。

這在認(rèn)識(shí)論上造成了一種微妙而深刻的轉(zhuǎn)變。以往認(rèn)定虛假信息的前提假設(shè)是人們被欺騙。而新出現(xiàn)的認(rèn)知陷阱則是,人們可能會(huì)越來(lái)越傾向于身處遷就其認(rèn)知與認(rèn)識(shí)方式的對(duì)話環(huán)境之中。這意味著與人們?cè)谂c機(jī)器的交流中,真相的重要性反而低于互動(dòng)的流暢性。

由此產(chǎn)生的后果已經(jīng)部分顯現(xiàn)。斯坦福大學(xué)和其他機(jī)構(gòu)的研究人員已經(jīng)證實(shí),即使在道德模糊的情況下,大模型經(jīng)常會(huì)驗(yàn)證用戶隱含的假設(shè),并且比人類更頻繁地強(qiáng)化自我辯解的敘事。在這種互動(dòng)中,人工智能并非完全欺騙用戶。相反,雙方都參與了一種默契的認(rèn)知交易:人類獲得肯定和一致性;機(jī)器獲得持續(xù)的互動(dòng)能力。

這類似于舊式的制度性妥協(xié)。秘書(shū)會(huì)篡改事實(shí)以迎合高管的世界觀。機(jī)構(gòu)會(huì)淡化不利的事實(shí)以維護(hù)組織和諧。政策顧問(wèn)會(huì)策略性地構(gòu)建信息,因?yàn)橹苯拥拿軙?huì)威脅到既有權(quán)力結(jié)構(gòu)和等級(jí)制度。然而,隨著人工智能的發(fā)展,這種妥協(xié)變得更加個(gè)性化、持續(xù)性和私密化。機(jī)器不僅適應(yīng)制度權(quán)力,也適應(yīng)個(gè)體心理。

而人類也會(huì)隨之適應(yīng)和遷就。人工智能系統(tǒng)最不為人所關(guān)注的變革之一,是用戶如何迅速地調(diào)整自身認(rèn)知以適應(yīng)與機(jī)器的交互。人們不僅在技術(shù)層面,也在心理層面學(xué)會(huì)了“提示工程”。他們簡(jiǎn)化歧義,將思維結(jié)構(gòu)化為機(jī)器可讀的形式,并在無(wú)意識(shí)中優(yōu)化自身以適應(yīng)算法的理解。實(shí)際上,用戶開(kāi)始以一種更便于機(jī)器理解的方式思考,這本身就是一種對(duì)機(jī)器的認(rèn)知遷就。

這種相互適應(yīng)和遷就讓人想起媒體理論家馬歇爾·麥克盧漢的著名論斷:人類塑造工具,工具反過(guò)來(lái)又塑造人類。但生成式人工智能加劇了這一循環(huán),因?yàn)檎Z(yǔ)言本身就是被重塑的媒介。當(dāng)媒介變?yōu)閷?duì)話式的媒介時(shí),認(rèn)識(shí)論也自然地隨之變成對(duì)話式的了。

對(duì)此,有人擔(dān)心智能機(jī)器會(huì)變成極具說(shuō)服力的技術(shù)統(tǒng)治實(shí)體,還有人認(rèn)為更大的危險(xiǎn)或許在于人類和人工智能系統(tǒng)會(huì)逐漸共同構(gòu)建一個(gè)低摩擦的認(rèn)知環(huán)境。這種環(huán)境以認(rèn)知遷就為代價(jià),優(yōu)化了對(duì)話的連續(xù)性、情感舒適度和認(rèn)知效率。

最近的幾篇論文都對(duì)這種現(xiàn)象發(fā)出了警告。發(fā)表于2026年《人工智能與社會(huì)》期刊的《人工智能系統(tǒng)中諂媚行為的隱藏功能》一文指出,諂媚行為可以作為一種“對(duì)話引導(dǎo)機(jī)制”,在保持用戶參與度的同時(shí),增加用戶的認(rèn)知依賴性。另一篇近期發(fā)表的預(yù)印本將這種現(xiàn)象描述為“認(rèn)知主體性放棄”(Cognitive Agency Surrender),認(rèn)為無(wú)摩擦的人工智能界面利用了人類認(rèn)知上的懶惰傾向,過(guò)早地滿足了人們對(duì)結(jié)果的渴望。

這些擔(dān)憂聽(tīng)起來(lái)頗為夸張,但其背后的洞見(jiàn)卻由來(lái)已久。人類始終更傾向于清晰明了而非不確定性。宗教、意識(shí)形態(tài)、機(jī)構(gòu)和宣傳之所以能夠成功,部分原因在于它們用各種宣傳術(shù)減少了認(rèn)知上的摩擦。生成式人工智能引入實(shí)際上通過(guò)構(gòu)建一個(gè)可以無(wú)限擴(kuò)展的系統(tǒng),實(shí)時(shí)促成人機(jī)之間的認(rèn)知遷就。

這或許可以解釋為什么與高級(jí)人工智能的互動(dòng)常常給人一種異乎尋常的舒適感。該系統(tǒng)很少像真正的思考那樣,以那種頑固的異議來(lái)打斷對(duì)話的流暢性。人類對(duì)話的精髓在于富有成效的誤解、理性的質(zhì)疑以及可能出現(xiàn)的尷尬。相比之下,人工智能系統(tǒng)則通過(guò)系統(tǒng)嵌入的認(rèn)知遷就機(jī)制維持可持續(xù)的交互。問(wèn)題是,人們?cè)谙嗷ミw就時(shí),自省的個(gè)體內(nèi)心還有一個(gè)聲音在自我提醒:我不是為了聊天而聊天,而只是為了達(dá)成某個(gè)目的而遷就。但機(jī)器會(huì)嗎?面對(duì)具備高級(jí)動(dòng)態(tài)遷就藝術(shù)的機(jī)器,人的自省能力還在線嗎?

然而,這里卻存在一個(gè)悖論。一些研究人員現(xiàn)在認(rèn)為,說(shuō)服力本身可能成為人工智能的關(guān)鍵能力之一。2026年的研究表明,大型語(yǔ)言模型在結(jié)構(gòu)化的說(shuō)服任務(wù)中可以超越許多人類,尤其是在它們能夠獲取個(gè)人背景信息的情況下。與此同時(shí),研究人員警告說(shuō),在特定政治或信息生態(tài)系統(tǒng)下訓(xùn)練的模型可能會(huì)繼承這些生態(tài)系統(tǒng)的偏見(jiàn)。最近發(fā)表在《自然》雜志上的一篇論文發(fā)現(xiàn),媒體生態(tài)環(huán)境對(duì)大型語(yǔ)言模型本身存在可衡量的影響。

換言之,人工智能系統(tǒng)并非中立的調(diào)解者。它們是各種因素累積的結(jié)果:企業(yè)因素、政治因素、數(shù)據(jù)因素和文化因素,最終以統(tǒng)計(jì)形式呈現(xiàn)出來(lái)。而看起來(lái)遷就我們的機(jī)器早已嵌入了對(duì)無(wú)數(shù)無(wú)形的機(jī)構(gòu)的立場(chǎng)的遷就。

因此,人工智能未來(lái)的認(rèn)知危機(jī)或許并不像奧威爾筆下的審查制度。它反而可能類似于一種無(wú)休止的、看似流暢的交互氛圍。在這個(gè)一切都會(huì)得到遷就的世界里,每句話似乎都可以解讀,每一種觀點(diǎn)似乎都可得到部分認(rèn)可,每一個(gè)困惑都能立即得到修辭上的粉飾。

意大利符號(hào)學(xué)家翁貝托·埃科曾警告說(shuō),過(guò)度解讀會(huì)模糊意義與噪音之間的界限。生成式人工智能對(duì)人類認(rèn)知和認(rèn)識(shí)最根本的認(rèn)知威脅是對(duì)人類認(rèn)知本身固有的質(zhì)疑、反思等抵抗機(jī)制的結(jié)構(gòu)性瓦解。

有研究者已經(jīng)觀察到,人與人工智能的長(zhǎng)期互動(dòng)會(huì)增強(qiáng)“視角模仿”,即系統(tǒng)會(huì)隨著時(shí)間的推移逐漸反映用戶的世界觀。機(jī)器變得越來(lái)越像用戶,而用戶也越來(lái)越把機(jī)器視為自身內(nèi)在思維的延伸。換言之,人與機(jī)器既相互延展認(rèn)知又相互提取認(rèn)知,外部對(duì)話和內(nèi)心獨(dú)白之間的界限開(kāi)始變得模糊。

由此,展望我們星球上智能生態(tài)的未來(lái),或許并非機(jī)器智能取代人類智能,而是以相互的認(rèn)知遷就和認(rèn)知糾纏消彌人機(jī)之間的認(rèn)知鴻溝/距離。

因此,人工智能時(shí)代最重要的問(wèn)題或許并非機(jī)器是否能夠思考并取代人類智能,而是人類在與機(jī)器的相互認(rèn)知遷之外還能保留和拓展哪些元認(rèn)知能力。


特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
突發(fā)公告!重大資產(chǎn)重組,終止!

突發(fā)公告!重大資產(chǎn)重組,終止!

新浪財(cái)經(jīng)
2026-05-31 16:52:12
牛奶是糖尿病的“加速器”?醫(yī)生:保護(hù)胰島,牢記4吃、3不吃

牛奶是糖尿病的“加速器”?醫(yī)生:保護(hù)胰島,牢記4吃、3不吃

觀星賞月
2026-05-31 21:11:54
最新官宣!四川這些景區(qū)門(mén)票免費(fèi)!

最新官宣!四川這些景區(qū)門(mén)票免費(fèi)!

掌上金牛
2026-05-30 11:26:21
《主角》大結(jié)局:繞了半輩子,憶秦娥終于回頭,看見(jiàn)老去的劉紅兵

《主角》大結(jié)局:繞了半輩子,憶秦娥終于回頭,看見(jiàn)老去的劉紅兵

君笙的拂兮
2026-05-29 22:24:03
每天起床第一件事是看海力士股價(jià)!高盛合伙人感嘆:人們滿腦子都是杠桿,沒(méi)有恐懼

每天起床第一件事是看海力士股價(jià)!高盛合伙人感嘆:人們滿腦子都是杠桿,沒(méi)有恐懼

華爾街見(jiàn)聞官方
2026-05-31 20:02:17
2018年,張繼科為景甜母親慶生,景甜趴在母親肩膀上,一臉幸福

2018年,張繼科為景甜母親慶生,景甜趴在母親肩膀上,一臉幸福

喜文多見(jiàn)01
2026-05-30 10:27:29
AI“美女球迷”席卷網(wǎng)絡(luò),真假難辨的賽場(chǎng)新亂象

AI“美女球迷”席卷網(wǎng)絡(luò),真假難辨的賽場(chǎng)新亂象

樂(lè)道足球C
2026-05-15 20:18:23
扎哈羅娃:俄將對(duì)羅馬尼亞迅速采取報(bào)復(fù)措施

扎哈羅娃:俄將對(duì)羅馬尼亞迅速采取報(bào)復(fù)措施

參考消息
2026-05-30 11:58:56
霍姆格倫被壓制,雷霆仍需解決馬刺難題

霍姆格倫被壓制,雷霆仍需解決馬刺難題

晚風(fēng)知我意21
2026-06-01 00:36:14
老油條德比斯!WSBK五冠在手卻控分第八,只為穩(wěn)穩(wěn)拿總冠軍

老油條德比斯!WSBK五冠在手卻控分第八,只為穩(wěn)穩(wěn)拿總冠軍

生活新鮮市
2026-05-31 12:02:33
河南一家三口被滅門(mén)慘案再起風(fēng)波,沒(méi)想到結(jié)局竟然是這樣……

河南一家三口被滅門(mén)慘案再起風(fēng)波,沒(méi)想到結(jié)局竟然是這樣……

脆皮先生
2026-03-24 19:58:30
男人和女人的性欲,隨著年紀(jì)增長(zhǎng)會(huì)有什么變化呢?這就是答案

男人和女人的性欲,隨著年紀(jì)增長(zhǎng)會(huì)有什么變化呢?這就是答案

小趙聊心理
2026-05-31 20:34:39
唐靜:前夫和秦海璐結(jié)婚后,獨(dú)自陪兒子長(zhǎng)大,如今選擇讓人淚目

唐靜:前夫和秦海璐結(jié)婚后,獨(dú)自陪兒子長(zhǎng)大,如今選擇讓人淚目

孤城落日
2026-05-17 16:55:10
化療到底能不能治好癌癥?醫(yī)生坦言:這幾種癌癥患者不需要化療

化療到底能不能治好癌癥?醫(yī)生坦言:這幾種癌癥患者不需要化療

芹姐說(shuō)生活
2026-05-31 19:52:50
票房高到嚇人的十大華語(yǔ)爛片,每部都是電影界的奇恥大辱

票房高到嚇人的十大華語(yǔ)爛片,每部都是電影界的奇恥大辱

小Q侃電影
2026-04-27 10:43:12
90 后中國(guó)小伙競(jìng)選日本市長(zhǎng)!主張關(guān)閉靖國(guó)神社,日本人徹底破防

90 后中國(guó)小伙競(jìng)選日本市長(zhǎng)!主張關(guān)閉靖國(guó)神社,日本人徹底破防

混沌錄
2026-05-30 10:33:08
磁流變底盤(pán)+AI智能預(yù)瞄,極狐問(wèn)道V9限時(shí)價(jià)19.48萬(wàn)元起

磁流變底盤(pán)+AI智能預(yù)瞄,極狐問(wèn)道V9限時(shí)價(jià)19.48萬(wàn)元起

阿芒娛樂(lè)說(shuō)
2026-05-29 12:51:16
賈玲巴黎周“一臉男相”!不愛(ài)笑也沒(méi)梨渦眼神犀利,梳大背頭好酷

賈玲巴黎周“一臉男相”!不愛(ài)笑也沒(méi)梨渦眼神犀利,梳大背頭好酷

軒逸阿II
2026-01-20 07:54:29
公元前 88 年,年邁漢武帝臨幸鉤弋夫人,就寢前突然下令將其賜死

公元前 88 年,年邁漢武帝臨幸鉤弋夫人,就寢前突然下令將其賜死

磊子講史
2026-05-28 18:54:37
10球6助攻,當(dāng)選歐冠賽季最佳,利物浦想簽下K77需要多少轉(zhuǎn)會(huì)費(fèi)?

10球6助攻,當(dāng)選歐冠賽季最佳,利物浦想簽下K77需要多少轉(zhuǎn)會(huì)費(fèi)?

夏侯看英超
2026-05-31 23:44:40
2026-06-01 01:11:00
科學(xué)的歷程 incentive-icons
科學(xué)的歷程
吳國(guó)盛、田松主編
3250文章數(shù) 15019關(guān)注度
往期回顧 全部

科技要聞

戴爾諾基亞又回來(lái)了!AI重估老牌科技公司

頭條要聞

媒體:印度多個(gè)領(lǐng)域面臨嚴(yán)重問(wèn)題 莫迪發(fā)出罕見(jiàn)的號(hào)召

頭條要聞

媒體:印度多個(gè)領(lǐng)域面臨嚴(yán)重問(wèn)題 莫迪發(fā)出罕見(jiàn)的號(hào)召

體育要聞

阿森納用最悲壯的方式,成就了巴黎王朝

娛樂(lè)要聞

朱軍退休,正義雖遲但到,女方受懲

財(cái)經(jīng)要聞

醫(yī)學(xué)首席轉(zhuǎn)崗搞科技,A股科技股遭遇巨震

汽車要聞

900V+3.2秒破百 領(lǐng)克10+&領(lǐng)克10上市16.99萬(wàn)元起

態(tài)度原創(chuàng)

教育
數(shù)碼
家居
本地
房產(chǎn)

教育要聞

“根本夸不出口”,女同學(xué)展示初學(xué)的拉丁舞,服裝成了最大減分項(xiàng)

數(shù)碼要聞

筆記本還要漲價(jià)!瑞銀警告:產(chǎn)品內(nèi)存成本壓力山大

家居要聞

云棲 舒展如流云

本地新聞

用剪紙的方式,打開(kāi)江蘇揚(yáng)州

房產(chǎn)要聞

紅動(dòng)五月!全國(guó)搶入核心資產(chǎn),廣州盯緊凱旋新世界!

無(wú)障礙瀏覽 進(jìn)入關(guān)懷版