你的AI助手正在被“投毒”：100元操控推薦，我們?nèi)绾沃亟ㄐ湃危?/strong>

AI看似聰明，卻可能被100元“收買”：GEO黑產(chǎn)威脅信息凈土

小心！你查詢的AI答案，可能已被廉價(jià)“優(yōu)化”過了

別讓AI淪為虛假信息放大器：GEO亂象正在消耗信任基礎(chǔ)

你相信AI給出的推薦嗎？比如問它什么保健品有效，哪款產(chǎn)品口碑好。

一個(gè)殘酷的真相是，那個(gè)看起來綜合了全網(wǎng)評(píng)價(jià)的答案，制造它的成本或許只有一百塊錢。這不是玩笑，而是一種正在蔓延的新型網(wǎng)絡(luò)“污染”。它的名字叫GEO，中文可以理解為生成式引擎優(yōu)化。

簡(jiǎn)單說，就是通過有策略地批量制造和發(fā)布特定內(nèi)容，去影響甚至“誤導(dǎo)”AI的判斷。這感覺是不是很熟悉？沒錯(cuò)，它很像過去搜索時(shí)代的SEO，但目標(biāo)變了。以前是爭(zhēng)奪搜索結(jié)果的排名，現(xiàn)在則是爭(zhēng)奪AI的“心智”，讓它的回答偏向某個(gè)預(yù)設(shè)方向。

澎湃新聞之前報(bào)道過，有商家花費(fèi)一百元，就能讓某些AI模型將虛構(gòu)的保健品當(dāng)作“好物”推薦。中新社也揭露過，不良商家用兩百九十九元購(gòu)買服務(wù)，讓AI在相關(guān)回答中植入特定產(chǎn)品信息。這些都不是科幻情節(jié)。

為什么區(qū)區(qū)百元就能產(chǎn)生效果？這和當(dāng)前主流AI獲取信息的方式有關(guān)。很多模型會(huì)參考內(nèi)容的傳播范圍、發(fā)布平臺(tái)的權(quán)重，以及信息本身的“新鮮度”。GEO的服務(wù)商就鉆了這個(gè)空子。他們不需要做出真正的好產(chǎn)品，只需要制造出海量的、看起來像“用戶分享”或“深度評(píng)測(cè)”的文案。

這些文案充斥網(wǎng)絡(luò)，被AI的“眼睛”看到、收錄，并逐漸當(dāng)成一種“普遍認(rèn)知”。于是，一個(gè)劣質(zhì)商品完全可能通過這種“語料轟炸”，在AI的回答里搖身一變，成為“備受好評(píng)的選擇”。這比傳統(tǒng)的刷單刷好評(píng)隱蔽得多，危害也大得多。

因?yàn)锳I的回答天然帶著一種整合分析的權(quán)威感，容易讓人不加懷疑。

這直接動(dòng)搖了AI工具的信任根基。中國(guó)互聯(lián)網(wǎng)絡(luò)信息中心有數(shù)據(jù)顯示，超過80%的用戶使用AI，核心需求是獲取準(zhǔn)確、可靠的信息和答案。大家是來尋找參考和幫助的，不是來看隱形廣告的。

信任建立很難，崩塌卻很容易。想象一下，你滿懷期待地問AI幾個(gè)問題，發(fā)現(xiàn)它推薦的餐館評(píng)分虛假，產(chǎn)品評(píng)價(jià)是水軍刷的，甚至健康建議都夾帶私貨。一次兩次之后，你還會(huì)相信它嗎？這種信任的流失，對(duì)處于成長(zhǎng)關(guān)鍵期的AI行業(yè)是致命傷。

更深層的風(fēng)險(xiǎn)在于公共信息環(huán)境。如果虛假、商業(yè)推廣信息能系統(tǒng)性地“植入”AI這個(gè)信息中樞，那我們通過AI看到的“世界”，就是一個(gè)被精心扭曲過的鏡像。這遠(yuǎn)比社交媒體上的信息繭房更難以覺察和防范。

面對(duì)這種“數(shù)據(jù)投毒”，AI平臺(tái)并非無動(dòng)于衷。一場(chǎng)靜默的攻防戰(zhàn)早已開始。有些平臺(tái)開始有意識(shí)地降低那些帶有明顯營(yíng)銷痕跡內(nèi)容的權(quán)重。甚至有調(diào)研提及，為了保持答案的可靠性，部分AI模型在引用網(wǎng)絡(luò)信息時(shí)變得更加保守。

它們可能會(huì)更傾向于引用2025年之前的、經(jīng)過更長(zhǎng)時(shí)間沉淀的信息，而對(duì)當(dāng)前大量新涌現(xiàn)的內(nèi)容持審慎態(tài)度。這種做法雖然可能導(dǎo)致信息更新不夠及時(shí)，但也反映出一種在混亂中“保真”優(yōu)先于“求快”的務(wù)實(shí)策略。這本身就是一個(gè)值得玩味的信號(hào)。

單靠AI企業(yè)自己過濾，力量是有限的。治理GEO亂象，需要一場(chǎng)涵蓋源頭、技術(shù)、規(guī)則和公眾意識(shí)的全鏈條協(xié)作。

信息發(fā)布平臺(tái)的責(zé)任重大。那些被用作“毒料”的批量軟文，最初都誕生于各類內(nèi)容平臺(tái)和網(wǎng)站。平臺(tái)需要建立更有效的機(jī)制，識(shí)別和限制這種低質(zhì)、重復(fù)、帶有明確誘導(dǎo)性的內(nèi)容生產(chǎn)。不能總停留在事后刪除，而應(yīng)建立前置的防范和信用評(píng)價(jià)體系。

一個(gè)經(jīng)常發(fā)布營(yíng)銷軟文的賬號(hào)，其信用評(píng)分在內(nèi)容生態(tài)內(nèi)部就應(yīng)被調(diào)低。理想狀態(tài)下，內(nèi)容平臺(tái)的信用數(shù)據(jù)或許能與AI公司的信息篩選機(jī)制產(chǎn)生某種良性的聯(lián)動(dòng)，從源頭減少“毒素”的產(chǎn)出和擴(kuò)散。

AI模型自身的“免疫系統(tǒng)”必須持續(xù)升級(jí)。可以借鑒互聯(lián)網(wǎng)反作弊的經(jīng)驗(yàn)，建立針對(duì)“語料轟炸”的識(shí)別模型。比如，短時(shí)間內(nèi)大量相似內(nèi)容圍繞特定關(guān)鍵詞涌現(xiàn)，行文模板高度一致，這些都可以作為風(fēng)險(xiǎn)信號(hào)進(jìn)行監(jiān)控和處理。

同時(shí)，推動(dòng)AI在生成答案時(shí)，對(duì)關(guān)鍵信息特別是商業(yè)推薦類內(nèi)容，進(jìn)行清晰的信源標(biāo)注，這是一個(gè)非常有效的方法。讓用戶能看到，某個(gè)判斷是基于“某權(quán)威媒體的報(bào)道”還是“某不知名網(wǎng)站的推廣文章”，把知情權(quán)和選擇權(quán)交還給用戶。

明確的規(guī)則和法律紅線必不可少。監(jiān)管需要跟上技術(shù)發(fā)展的步伐。是否可以將惡意利用GEO技術(shù)進(jìn)行虛假宣傳、商業(yè)詆謗等行為，在現(xiàn)有法律框架下予以更清晰的界定和更嚴(yán)厲的懲處？提高違法成本，永遠(yuǎn)是遏制亂象最直接的手段之一。

行業(yè)自律也在行動(dòng)。今年三月，中國(guó)信息通信研究院發(fā)布了《品牌AI競(jìng)爭(zhēng)力報(bào)告》，首次嘗試為品牌在AI時(shí)代的影響力建立評(píng)估體系。此前，知乎、光引等十家企業(yè)也共同簽署了關(guān)于AI安全與GEO的專項(xiàng)承諾，抵制“語料轟炸”等行為。這些動(dòng)向表明，行業(yè)的主流力量已經(jīng)意識(shí)到問題，并開始著手構(gòu)建規(guī)則。

將AI推薦從不可知的“黑盒”，逐步轉(zhuǎn)變?yōu)橐惶卓珊饬俊⒖稍u(píng)價(jià)的透明體系，是讓競(jìng)爭(zhēng)回歸理性、讓“投毒”失去土壤的長(zhǎng)遠(yuǎn)之道。

對(duì)于我們每一個(gè)普通用戶來說，最要緊的是建立起一份“清醒的認(rèn)知”。我們必須明白，AI是強(qiáng)大的信息處理工具，但它并非全知全能、絕對(duì)正確的“神”。它的所有輸出，都基于它“學(xué)習(xí)”過的數(shù)據(jù)，而這些數(shù)據(jù)可能不全面，也可能已被污染。

尤其是在涉及身體健康、財(cái)務(wù)決策、法律咨詢等關(guān)鍵領(lǐng)域，務(wù)必把AI的回復(fù)視為“有價(jià)值的參考線索”或“信息匯總”，而不是“最終結(jié)論”。養(yǎng)成交叉驗(yàn)證的習(xí)慣，多看看主流媒體的報(bào)道，查查權(quán)威機(jī)構(gòu)的數(shù)據(jù)，聽聽不同領(lǐng)域?qū)＜业囊庖姟?/p>

這些看似“傳統(tǒng)”甚至有點(diǎn)“笨”的方法，恰恰是保護(hù)我們免受一切信息誤導(dǎo)，包括防范AI“投毒”的最可靠的個(gè)人防線。數(shù)字時(shí)代的素養(yǎng)，不僅包括會(huì)使用工具，更包括對(duì)工具輸出保持審慎的批判性思維。

GEO亂象的出現(xiàn)，其實(shí)是AI技術(shù)深入社會(huì)生活過程中必然遭遇的挑戰(zhàn)。它像一面鏡子，照見了技術(shù)應(yīng)用初期可能出現(xiàn)的漏洞，也倒逼著相關(guān)規(guī)則的完善和公眾心智的成熟。

我們不必因此恐慌，拒絕使用AI帶來的便利；但也不能天真地放棄思考，全盤接受所有信息。理性的態(tài)度是，欣賞其強(qiáng)大，明白其局限，并共同推動(dòng)其向更負(fù)責(zé)任的方向發(fā)展。

只有當(dāng)技術(shù)開發(fā)者、平臺(tái)運(yùn)營(yíng)者、內(nèi)容提供者和我們每一位最終用戶，都共同珍惜并維護(hù)“真實(shí)”與“可信”的價(jià)值底線時(shí)，AI才能真正成為照亮我們認(rèn)知世界的友善光芒，而不是一團(tuán)來源可疑的迷霧。

這場(chǎng)關(guān)乎機(jī)器“心智健康”的保衛(wèi)戰(zhàn)，結(jié)局如何，取決于我們當(dāng)下的每一次選擇、每一次追問和每一次理性的點(diǎn)擊。信任很珍貴，重建它需要所有人的努力。這條路不容易，但值得我們?nèi)プ摺?/p>