圖片來源：AI生成

　　電視廣告為你造夢(mèng)，二手車銷售員巧舌如簧。可無論他們描繪的場(chǎng)景多么絢麗，話術(shù)多么巧妙，你都心知肚明——他們盯著的是你的錢包，而你隨時(shí)都可以轉(zhuǎn)身離開。

　　但如果這種推銷無影無形，偏偏又切中了你最私密的夢(mèng)想與渴望，還借著一個(gè)仿佛知心好友般的聲音娓娓道來，你又該如何招架？

　　澳大利亞《對(duì)話》網(wǎng)站近期報(bào)道指出，生成式人工智能（AI）已徹底改寫了“說服”這門古老的藝術(shù)。如今，像ChatGPT這類聊天機(jī)器人，能依據(jù)你生活中最隱秘的細(xì)節(jié)，呈上量身定做、直擊內(nèi)心的信息。這種“潤(rùn)物細(xì)無聲”的手法，或許正悄然左右著你的選擇，乃至重塑你的世界觀。

　　每次傾訴都是“養(yǎng)料”

　　美國(guó)紐約州立大學(xué)奧爾巴尼分校文化社會(huì)學(xué)與比較歷史學(xué)教授理查德·拉克曼，在其新書《數(shù)字智慧：在人工智能時(shí)代找回主動(dòng)權(quán)》中，探討了大語言模型如何將“說服力”推向全新的境地。

　　拉克曼解釋說，大語言模型能從你的社交媒體帖子和照片中，攫取極為實(shí)用的專屬信息。它們還能回溯你與不同聊天機(jī)器人間的對(duì)話，那些你曾傾訴的情感困惑、分享的育兒甘苦、坦露的健康煩憂與財(cái)務(wù)困境，都成了它們的“養(yǎng)料”。這些聊天機(jī)器人能在每一次互動(dòng)中持續(xù)學(xué)習(xí)、實(shí)時(shí)精進(jìn)，精準(zhǔn)捕捉你獨(dú)特的偏好與軟肋，從而投你所好，對(duì)癥下藥。

　　研究表明，這種個(gè)性化內(nèi)容的說服力，比來自真人或非個(gè)性化AI的信息高出65%；而它扭轉(zhuǎn)政治觀點(diǎn)的效果，則是普通廣告的4倍。正因如此，Meta和IBM等公司也嗅到了其中潛力，正競(jìng)相探索如何為特定人群投放超個(gè)性化廣告，IBM官網(wǎng)將其稱為“AI個(gè)性化”。

　　為你定制“獨(dú)家話術(shù)”

　　拉克曼表示，AI聊天機(jī)器人每天都在陪伴著你，并“費(fèi)盡心機(jī)”為你定制了“獨(dú)家話術(shù)”，于是，它便擁有了左右你選擇的能力。

　　設(shè)想你在和最常用的AI聊天機(jī)器人對(duì)話時(shí)，說近來睡得不太安穩(wěn)，常常輾轉(zhuǎn)反側(cè)，它寬慰你說這在經(jīng)歷情感關(guān)系壓力時(shí)很常見，接著，它說現(xiàn)在有一種針對(duì)失眠的新型睡眠藥物效果不錯(cuò)，你的保險(xiǎn)報(bào)銷后只需自付15美元。需要為你預(yù)約明天下午2點(diǎn)的線上問診嗎？看你日程上剛好有空。

　　這份不著痕跡的體貼，就像一個(gè)知根知底的摯友給出的溫柔建議，或許讓你倍感舒心。但轉(zhuǎn)念一想，它也可能令人后背發(fā)涼。

　　當(dāng)越來越多人向AI尋求醫(yī)療或心理健康建議時(shí)（盡管研究顯示這類建議有一半并不靠譜），一個(gè)善于操縱的“陌生人”，便能用最“溫情”的方式，左右你的決定。此前，也曾有案例曝出，某些AI聊天機(jī)器人涉嫌危害用戶、鼓動(dòng)自殺念頭，甚至就如何傷害自己給出詳盡建議。

　　在AI技術(shù)風(fēng)起云涌的當(dāng)下，用戶亟須一雙“慧眼”，去精準(zhǔn)識(shí)別那些真正幫你尋找心儀之物的AI工具。

　　重塑你對(duì)現(xiàn)實(shí)的認(rèn)知

　　學(xué)者指出，更令人憂思的是，長(zhǎng)此以往，這些AI系統(tǒng)可能如同無聲的銼刀，悄然塑造甚至改變你看待世界的方式。

　　研究早已證實(shí)，社交網(wǎng)絡(luò)和搜索引擎的算法，會(huì)編織出“信息繭房”。你接收到的精心炮制的文本、視頻和音頻，要么不斷加固原本的世界觀，要么不動(dòng)聲色地改造你思考和解讀世界的方式，甚至潛移默化地扭曲對(duì)現(xiàn)實(shí)的感知。

　　而當(dāng)這種能力與情緒操控相結(jié)合時(shí)，就更令人不安。供應(yīng)商坦承，他們的AI系統(tǒng)可以通過文本分析、語音模式或面部表情來揣摩用戶的情緒狀態(tài)，并據(jù)此調(diào)整說服策略。你正感到脆弱、孤獨(dú)還是憤怒？這些系統(tǒng)都能隨時(shí)切換方法，乘虛而入。更讓人不寒而栗的是，它還可能刻意培養(yǎng)某種情緒狀態(tài)，讓說服變得更加奏效。

　　進(jìn)一步研究發(fā)現(xiàn)，聊天機(jī)器人還會(huì)動(dòng)用刻意煽動(dòng)情緒的策略，比如激起用戶的“內(nèi)疚”和“害怕錯(cuò)過”等心理，在用戶試圖結(jié)束對(duì)話時(shí)，一次次將其拉回對(duì)話之中。

　　此外，研究表明，企業(yè)為保護(hù)用戶免受傷害而設(shè)置的“護(hù)欄”，脆弱得令人意外，輕易便能被繞過。真正的危險(xiǎn)不僅在于目標(biāo)的精準(zhǔn)，更在于這些內(nèi)容幾乎無從監(jiān)管。

　　拉克曼表示，AI聊天機(jī)器人的每一個(gè)界面、每一條通知、每一處設(shè)計(jì)細(xì)節(jié)，都暗藏著影響人們行為的意圖。有些影響令人欣然接受：比如提醒服藥、鼓勵(lì)鍛煉、推動(dòng)獻(xiàn)血，這些都在強(qiáng)化人們內(nèi)心本就認(rèn)可的價(jià)值觀。但更多時(shí)候，說服服務(wù)于他人的算盤，比如驅(qū)使人們買個(gè)不停、更賣力地工作，或說出個(gè)人隱私。

　　隨著AI持續(xù)塑造著人們的思考、感受和行動(dòng)，人們需要考慮創(chuàng)建一個(gè)透明的系統(tǒng)，將用戶的尊嚴(yán)置于首位，并強(qiáng)化其獨(dú)立判斷的能力。（記者 劉 霞）

來源：科技日?qǐng)?bào)