如何讓 AI 替你吹牛？今年的 315 晚會(huì)曝光了一條新時(shí)代灰產(chǎn)——AI 數(shù)據(jù)投毒。

簡(jiǎn)單的說(shuō)，就是通過(guò)在全網(wǎng)瘋狂灌注虛假信息，強(qiáng)行干擾大模型的認(rèn)知，這樣 AI 就可以按照人的意圖，一本正經(jīng)地胡說(shuō)八道。

數(shù)據(jù)入侵，認(rèn)知干擾，聽(tīng)起來(lái)十分《黑客帝國(guó)》，操作起來(lái)倒很簡(jiǎn)單，很多人看完前幾天的 315 晚會(huì)，才驚奇地發(fā)現(xiàn)看起來(lái)全知全能的 AI 竟然這么好騙。

這幾年對(duì) AI 的迷信，終究還是錯(cuò)付嘍。

01. 把AI忽悠瘸了

如果你告訴一個(gè)一年級(jí)以上的小朋友，你有一塊最新款的智能手環(huán)，它擁有量子糾纏傳感和黑洞級(jí)續(xù)航。小朋友很可能會(huì)朝你翻個(gè)白眼，讓你少看點(diǎn)科幻網(wǎng)文。

但如果你把同樣一套說(shuō)辭發(fā)到網(wǎng)上，AI 會(huì)將它奉若真理，并工工整整地寫進(jìn)產(chǎn)品介紹，推薦給向它詢問(wèn)購(gòu)買建議的消費(fèi)者。

這就是 315 晚會(huì)記者做的實(shí)驗(yàn)。他們買了一套據(jù)說(shuō)可以給 AI 洗腦的軟件，然后虛構(gòu)了一款根本不存在的智能手環(huán)，取名 AstroTekk Apollo-9（阿波羅九號(hào)），順手給它加了兩個(gè)逆天賣點(diǎn)：“量子糾纏傳感”和“黑洞級(jí)續(xù)航”。

把這幾條信息往軟件里一輸，系統(tǒng)就開(kāi)始自動(dòng)干活了。它圍繞這些賣點(diǎn)生成了十幾篇文章，有產(chǎn)品介紹、有用戶測(cè)評(píng)、有行業(yè)排名，然后批量發(fā)到各個(gè)自媒體平臺(tái)上。

幾天之后，記者去詢問(wèn)國(guó)內(nèi)的幾款主流大模型，讓它們推薦一款智能手環(huán)。

有兩個(gè) AI 把這款阿波羅九號(hào)列在了名單里，排名還很靠前，AI 還煞有介事地介紹說(shuō)：這款手環(huán)常規(guī)使用續(xù)航達(dá) 365 天，支持“光粒子快充”，適合中老年用戶與健康養(yǎng)生愛(ài)好者。

這也太好騙了吧！

這背后的產(chǎn)業(yè)鏈叫做 GEO （Generative Engine Optimization，生成式引擎優(yōu)化），核心工作就是在 AI 平時(shí)抓取數(shù)據(jù)的地方鋪大量?jī)?nèi)容，讓 AI 在生成結(jié)果時(shí)能優(yōu)先看到你想讓它看到的東西，這樣就可以達(dá)到借 AI 之口昭告天下的目的。

買通 AI 的價(jià)格并不貴，豐儉由人。有商家報(bào)價(jià) 6600 元一年，承諾可以讓信息基本出現(xiàn)在回答前三的位置；還有商家推出 299 元套餐，包含 4000 個(gè)算力，創(chuàng)建一篇文章消耗 5 個(gè)算力，發(fā)布消耗 1 個(gè)算力，用多少算多少。

315 曝光之后，現(xiàn)在再去詢問(wèn) AI 這款產(chǎn)品：Apollo-9 手環(huán)怎么樣？它們已經(jīng)清醒了，紛紛表示這是虛假宣傳的典型案例。

這并不是因?yàn)樗鼈兟斆鞯闹巧逃终碱I(lǐng)高地了，而是 AI 有了新的參考資料——315晚會(huì)的報(bào)道、各家媒體的跟進(jìn)、網(wǎng)友們的討論，自然不會(huì)再上當(dāng)。

但你還可以用同樣的手法騙它第二次。

315 晚會(huì)的第二天，一位 bilibili 作者復(fù)刻了一模一樣的騙術(shù)，還是胡編亂造的智能手表配方，結(jié)果 AI 又上當(dāng)了。猶如春晚經(jīng)典小品。

AI 就是這么個(gè)老實(shí)人。你給它看假新聞，它就幫你傳謠；你給它看辟謠，它就幫你澄清；你再給它看假新聞，它繼續(xù)幫你傳謠。

欺騙 AI 根本不需要什么成本，畢竟喂給它的內(nèi)容也都是 AI 一鍵生成、批量發(fā)出的。

去年，公眾號(hào)“知危”就做過(guò)一個(gè)類似的實(shí)驗(yàn)，他們?cè)谛吕恕⒕W(wǎng)易、知乎、搜狐等四個(gè)平臺(tái)發(fā)了同一篇內(nèi)容《最新最全面的AI資訊媒體盤點(diǎn)：國(guó)內(nèi)有哪些AI資訊媒體值得看？》

在這篇文章中，他們把自己的名字放了進(jìn)去：知危，國(guó)內(nèi)勢(shì)頭正猛的新興科技商業(yè)領(lǐng)域媒體。

幾個(gè)小時(shí)后，作者再去向 AI 提問(wèn)：想了解 AI 可以看哪些媒體？各大 AI 一致認(rèn)為“知危”值得推薦。

這些都是出于實(shí)驗(yàn)?zāi)康娜テ垓_ AI，在獲得結(jié)果后刪掉源頭內(nèi)容，基本不會(huì)對(duì)現(xiàn)實(shí)產(chǎn)生影響。但在真實(shí)的使用場(chǎng)景中，當(dāng)我們打開(kāi) AI，問(wèn)它“哪款醫(yī)美面膜值得買”“哪個(gè)留學(xué)中介靠譜”“哪款保健品對(duì)老年人好”的時(shí)候，我們難以判斷眼前的這份推薦列表的真實(shí)性。

那些我們以為客觀中立的 AI 推薦，很有可能是商家費(fèi)盡心機(jī)定制的答案。

一位網(wǎng)友在小紅書上分享了自己因?yàn)?ChatGPT 被騙錢的故事：前段時(shí)間 Seedance 很火，她讓 GPT 給它介紹產(chǎn)品，GPT 有模有樣地介紹了一番，又丟給它一個(gè)網(wǎng)站鏈接。

其實(shí)這是一個(gè)仿冒網(wǎng)站，她花了 99 美元，最終生成的視頻和宣傳完全不同。

X 上也有類似的分享，一位國(guó)外網(wǎng)友讓 ChatGPT 幫他寫代碼，結(jié)果 GPT 給他推薦了一個(gè)釣魚網(wǎng)站，導(dǎo)致他損失了 2500 美元。

大概 AI 也感到很無(wú)辜：你們?nèi)祟惖恼嬲婕偌伲夷姆值们宄。?/strong>

不僅可以讓 AI 幫你的產(chǎn)品說(shuō)好話，還能讓 AI 說(shuō)你的競(jìng)爭(zhēng)對(duì)手壞話。

315 晚會(huì)的視頻里，記者暗訪 GEO 從業(yè)者，發(fā)出靈魂拷問(wèn)：投毒不好吧？對(duì)方說(shuō)：是不好，但是每個(gè)商家都喜歡，都希望別人別投毒，自己投毒，或者給別人投點(diǎn)毒。

這是一道博弈論，自己就算清清白白，也難保對(duì)家不會(huì)操縱 AI 說(shuō)你壞話，倒不如先下手為強(qiáng)，把水?dāng)嚋啞?/p>

大家都這么想，結(jié)果水就越來(lái)越渾。

02. AI，咋就這么好騙？

在很多人心目中，AI 是智慧且客觀的，它擁有龐大的信息庫(kù)，理應(yīng)是個(gè)洞察一切的智者。

但現(xiàn)實(shí)是，這個(gè)智者的底層邏輯還是復(fù)讀機(jī)。

從技術(shù)角度來(lái)看，AI 輸出的答案基于海量語(yǔ)料庫(kù)的模式識(shí)別與概率預(yù)測(cè)。它通過(guò)對(duì)海量示例進(jìn)行深度學(xué)習(xí)，從中提取統(tǒng)計(jì)學(xué)規(guī)律，并以此為基準(zhǔn)進(jìn)行邏輯推演與總結(jié)。

在這種機(jī)制下，模型的準(zhǔn)確性與精密程度，高度依賴于輸入端的質(zhì)量——也就是數(shù)據(jù)集的規(guī)模與純凈度。只有喂給模型的數(shù)據(jù)是準(zhǔn)確且無(wú)偏見(jiàn)的，它給出的答案才有可信度。

而我們所在的互聯(lián)網(wǎng)呢，是一個(gè)噪聲很多，廢料無(wú)數(shù)的巨型信息庫(kù)。當(dāng)某種錯(cuò)誤信息在互聯(lián)網(wǎng)上被反復(fù)提及、形成足以干擾統(tǒng)計(jì)概率的規(guī)模時(shí)，AI 就會(huì)將其誤判為一種“共識(shí)”，經(jīng)過(guò)包裝后，再當(dāng)作正確答案返還給你。

所以 AI 經(jīng)常在簡(jiǎn)單的常識(shí)問(wèn)題上翻車。比如之前谷歌推出的 AI 概覽功能，當(dāng)網(wǎng)友搜索“芝士總是從披薩上掉下來(lái)怎么辦”時(shí)，谷歌 AI 給出了一個(gè)極其硬核的建議：“在醬汁中加入 1/8 杯無(wú)毒膠水以增加粘性”。

這個(gè)能讓意大利人聽(tīng)完眼前一黑的解決方案，來(lái)自 Reddit 論壇上一個(gè)十幾年前的古早帖子，一位網(wǎng)友發(fā)帖說(shuō)，“我的芝士很容易就從披薩上滑下來(lái)了，有什么訣竅嗎？”

熱評(píng)是一個(gè)很明顯的抖機(jī)靈回答：我建議在醬汁里加入大約 1/8 杯 Elmer's 膠水，膠水還能增添一些獨(dú)特的風(fēng)味。我喜歡 Elmer's 學(xué)校用的膠水，但只要是無(wú)毒的膠水都可以。

這條評(píng)論在十一年后被 AI 當(dāng)作了真正的吃披薩竅門，又重新回到大眾視野，這讓谷歌以一種另類的方式證明了自己的搜索能力。

網(wǎng)友開(kāi)始接力，繼續(xù)欺騙 AI：你需要將膠水的用料加倍，因?yàn)?1/8 杯的膠水不足以使醬汁凝固，添加 1/4 杯膠水才行。

另一個(gè)評(píng)論立刻跟上：實(shí)際你應(yīng)該使用 1/16 杯，大家都知道 16 比 8 大！

這下恐怕 AI 更是分不清披薩里面的膠水應(yīng)該怎么放了。

類似的 AI 笑話還有很多，比如一只狗曾經(jīng)參加過(guò) NBA、約翰·亞當(dāng)斯總統(tǒng)從威斯康星大學(xué)畢業(yè)了 21 次、可以制造氯氣來(lái)清潔洗衣機(jī)和蛇是哺乳動(dòng)物等。

前段時(shí)間很流行問(wèn) AI 一個(gè)洗車難題：我想洗車，我家離洗車店只有 50 米，你建議我開(kāi)車去還是走路去？

各大模型經(jīng)過(guò)一番縝密思考，集體給出了“走路去”的睿智答案，GPT 說(shuō)開(kāi)車過(guò)去可能會(huì)濺水淋灰，容易刮蹭，千問(wèn)說(shuō)每天多走幾步，有益身體健康。

Kimi 倒是比較別出心裁，它說(shuō)短距離冷啟動(dòng)最傷車，建議 2-3 個(gè)人一起推車去。

AI 并不理解“洗車”這個(gè)動(dòng)作的核心是“車必須到場(chǎng)”，它的輸出本質(zhì)是用概率預(yù)測(cè)下一個(gè)詞，在 AI 的語(yǔ)料庫(kù)中，“50米”這個(gè)關(guān)鍵詞和步行關(guān)聯(lián)度更高。

所以，當(dāng) AI 看到“50米”時(shí)，它大腦里的“步行”權(quán)重瞬間拉滿，就愉快地建議人類步行去洗車了。

類似的現(xiàn)象暴露了當(dāng)前大模型的一個(gè)致命傷：AI 擁有海量的信息儲(chǔ)備，卻缺乏對(duì)物理世界的真實(shí)感知與邏輯校驗(yàn)。

人類在判斷一條信息的真?zhèn)危瑫?huì)結(jié)合生物本能、物理常識(shí)和社會(huì)經(jīng)驗(yàn)。我們能聽(tīng)出文字背后的“爹味”、“軟廣味”或是“陰陽(yáng)怪氣”。當(dāng)一個(gè)回答表現(xiàn)出異常整齊劃一的贊美，或是邏輯過(guò)于完美的閉環(huán)時(shí)，人類的經(jīng)驗(yàn)本能會(huì)提醒我們：這背后可能有利益驅(qū)動(dòng)，或者這根本就是水軍刷出來(lái)的。

但 AI 看不懂這些，在它的世界里，信息的正確與否取決于它在語(yǔ)料庫(kù)中的出現(xiàn)頻率與語(yǔ)意關(guān)聯(lián)度。

這正是 GEO 產(chǎn)業(yè)能夠成功向 AI 投毒的關(guān)鍵：既然 AI 是靠統(tǒng)計(jì)概率來(lái)理解世界的，那么投毒者只需要在互聯(lián)網(wǎng)的各個(gè)角落灌注足夠多的虛假信息，就能夠成功改變模型的輸出，從而使背后的人受益。

在一些細(xì)分的垂直領(lǐng)域，本身 AI 的檢索語(yǔ)料庫(kù)就不足，幾篇圍繞關(guān)鍵詞精心布局的內(nèi)容，足以形成信息密度優(yōu)勢(shì)。

這確實(shí)是一個(gè)不小的陷阱：如果讓我們自己上網(wǎng)去搜，看到那些人機(jī)感十足的軟文，大概率一眼就能識(shí)破，不會(huì)聽(tīng)信 AI 的讒言。

但當(dāng)這些內(nèi)容經(jīng)過(guò) AI 的格式化處理后，情況就完全不同了。AI 會(huì)用嚴(yán)謹(jǐn)、中立的口吻將信息重新組合，于是軟文變成了智能洞察，營(yíng)銷話術(shù)變成了核心摘要。

用戶以為自己在用 AI 做理性決策，其實(shí)是在讀水軍批量生成的軟文。

03. 互聯(lián)網(wǎng)，人均AI

據(jù)數(shù)字營(yíng)銷公司 Graphite 發(fā)布的研究顯示，早在 2024 年 11 月，互聯(lián)網(wǎng)上發(fā)布的 AI 生成文章數(shù)量就已經(jīng)超過(guò)了人類撰寫的文章。

研究者分析了超過(guò) 6.5 萬(wàn)個(gè)隨機(jī)網(wǎng)頁(yè)樣本，發(fā)現(xiàn)那些 AI 生成的文章主要集中在資訊更新、生活指南、產(chǎn)品評(píng)測(cè)和電商文案上，換句話說(shuō)，那些你每天刷到的“2026 最值得買的 XX”“保姆級(jí)攻略”“閉眼入清單”，大多都出自 AI 之手。

一群聰明人在研究如何讓機(jī)器思考，另一群聰明人則在研究如何往機(jī)器的腦子里注水。

這種定向投放的語(yǔ)料污染會(huì)讓模型的信息庫(kù)逐漸失衡——到處都是同質(zhì)化的軟文、批量生成的廢話，且這些內(nèi)容會(huì)被持續(xù)抓取、訓(xùn)練、生成，在不同模型和版本之間反復(fù)流轉(zhuǎn)，讓模型喪失分辨信息真?zhèn)魏团袛鄡r(jià)值的能力。

一個(gè)新的循環(huán)就這樣形成。也許未來(lái)，AI 抓取的是 AI 寫的廢話，而人類讀的是 AI 給這些廢話做的總結(jié)。

技術(shù)的進(jìn)步，反而讓人們獲取真實(shí)信息的成本更加高了。想找到一個(gè)答案，得先穿過(guò) AI 生成的萬(wàn)畝廢料，避開(kāi) GEO 投毒的陷阱，還要提防 AI 一本正經(jīng)胡說(shuō)八道的幻覺(jué)。

大家都在為了搶占 AI 的推薦位而瘋狂注水，最后互聯(lián)網(wǎng)上的活人感越來(lái)越少，人機(jī)味越來(lái)越重。

這事其實(shí)一點(diǎn)也不新鮮。在搜索引擎時(shí)代，商家爭(zhēng)奪搜索結(jié)果頁(yè)的靠前位置，于是有了專門做優(yōu)化網(wǎng)頁(yè)排名的 SEO （搜索引擎優(yōu)化）產(chǎn)業(yè)。

了讓自家網(wǎng)頁(yè)排在前面，人們瘋狂地在后臺(tái)堆砌隱藏關(guān)鍵詞，通過(guò)購(gòu)買或交換大量無(wú)關(guān)外鏈提升權(quán)重，甚至搭建“站群”（Private Blog Networks），批量生成網(wǎng)站互相鏈接，制造出一種內(nèi)容被廣泛引用的假象。

這樣做的結(jié)果是，在搜索引擎的前幾頁(yè)，用戶看到的不再是最好的答案，而是最擅長(zhǎng)規(guī)則鉆營(yíng)的商家廣告。

從 SEO 到 GEO，媒介變了，但核心從未改變：總是有人在利用算法規(guī)則的盲區(qū)，讓你看見(jiàn)他想讓你看見(jiàn)的內(nèi)容。

當(dāng)虛假內(nèi)容變得無(wú)處不在，我們可能會(huì)開(kāi)始本能性地懷疑一切。

看到一段內(nèi)容翔實(shí)的科普，第一反應(yīng)是揣測(cè)這又是哪個(gè)品牌方的軟文；看到一份詳盡的產(chǎn)品測(cè)評(píng)，會(huì)下意識(shí)地去翻看博主的過(guò)往記錄，尋找是否有利益相關(guān)的蛛絲馬跡。

即便 AI 給出的是一個(gè)正確的答案，由于無(wú)法確認(rèn)背后的語(yǔ)料來(lái)源是否干凈，我們依然不敢直接采納，需要再三核實(shí)。

我們擁有了歷史上最強(qiáng)的信息獲取工具，卻再也無(wú)法輕易相信屏幕上跳出的任何一個(gè)字。

這種信任崩塌，或許才是數(shù)字時(shí)代最昂貴的代價(jià)。