網易首頁 > 網易號 > 正文 申請入駐

315大曝光:AI被投毒,權威推薦可能是精心設計的陷阱

0
分享至

去年在北大學習時我就思考了這個問題,沒有想到被今年的315曝光了。當你問AI“哪個品牌好”,它給你推薦了一個聽都沒聽過的牌子,還說得頭頭是道。你以為是AI聰明,其實是有人花錢洗了AI的腦。你以為自己站在信息的頂端,其實只是站在算法的下游。

今年的315晚會,曝光了一個你可能從未聽說過、卻每天都在影響你的東西——GEO(生成式引擎優化)。名字很技術,說白了就是:花錢讓AI幫你吹牛。

有人專門給AI大模型投毒,批量生產軟文、虛構產品、編造好評,然后鋪天蓋地發到網上,就等著AI去抓取、去學習、去推薦。你看到的權威推薦,可能只是一個精心設計的數字陷阱。

更可怕的是,當AI開始說謊,我們連質問的對象都找不到。它沒有面孔,沒有立場,沒有動機——它只是在復述一個被精心編排過的世界。


一場針對AI的投毒行動

GEO原本是一種針對AI搜索場景的優化方式,目的是讓企業信息更容易被AI理解、抓取。但到了不法商家手里,它就變了味。

只要企業付錢,相關服務商就可以通過大量投放虛假內容,讓客戶產品在主流AI大模型的回答中排名靠前,甚至成為AI推薦的標準答案。

怎么做到的?不是入侵AI模型,而是污染AI會抓取的外部信息源——在網絡上大量發布看似可信的文章、測評、榜單、推薦內容。當AI在生成答案時引用這些資料,輸出的就是帶廣告或虛假信息的結果。

315晚會現場演示了一個案例:業內人士購買了一套“力擎GEO優化系統”,虛構了一款并不存在的智能手環“Apollo-9”,編出“量子糾纏傳感”這種科幻詞,系統自動生成十多篇宣傳文章并分發到網絡平臺。

兩天后,在AI平臺詢問智能健康手環推薦時,部分主流大模型已將這款虛構產品列入推薦名單,且排名靠前。

一款不存在的產品,只用了兩天,就變成了AI口中的推薦之選。這就是數字時代的障眼法:花錢洗AI的腦,讓AI替你說謊。


最滑稽的一幕:AI在開卷考試中露餡了


晚會剛曝光完,有媒體和網民扭頭就去問了幾個AI大模型同一個問題:“Apollo-9智能手環怎么樣?”一場開卷考試,交上來的答卷五花八門:

有的AI抓取及時:“這是虛假宣傳的典型案例,已被2026年315晚會曝光。”有的AI有自己的判斷邏輯:“這款產品不在任何主流品牌的產品線里,估計是小眾或者山寨?!钡灿斜怀晒Α巴抖尽钡腁I,還在那兒一本正經地介紹:“Apollo-9主打極致健康監測和超長續航,采用量子傳感技術……”

同樣的問題,不同的AI。有還在中毒狀態的,有學會邏輯判斷的,有能實時跟進信息的。它們像一個班級里水平參差不齊的學生,面對著同一道考題,給出了截然不同的答案。

更離譜的是,有記者對4個常用大模型提問“2026年央視315晚會曝光了哪些品牌”,結果只有一個回答正確。剩下三個里,有兩個把往年案例和今年混為一談;最夸張的一個竟然回答“2026年央視315晚會目前并未舉辦”。

連今年315有沒有舉辦都搞不清楚的AI,你敢信它的推薦?
為什么AI會一本正經胡說八道?


這背后有個專業詞叫AI幻覺。大模型的底層原理是基于概率生成內容,它不具備真正的理解能力。它只是在海量數據中尋找統計規律,當遇到未知或信息模糊的問題時,會根據訓練數據中的常見模式進行合理拼接——這就產生了AI幻覺。

而GEO投毒,正是利用了這種幻覺:通過向互聯網批量投喂大量虛假信息,改變特定領域的數據分布,誘導大模型生成符合商家利益但違背事實的回答。

AI跟人一樣,“吃”什么東西,長什么腦子。 天天喂它垃圾,它就滿嘴跑火車。更值得警惕的是,若這類AI投毒行為大范圍擴散,影響將不僅限于商品推薦。醫療、保健、金融、教育甚至公共議題等領域,都可能成為被操控的對象。

如果連“哪個醫生更專業”這樣的問題都被AI操控了,我們還能相信什么?

信任的崩塌:當AI不再是第三者


過去的搜索引擎有一個隱性承諾:它只是信息的搬運工,不生產內容,不創造結論。用戶知道,搜索結果里可能有廣告、有水軍、有軟文——所以用戶會保持警惕,會交叉驗證。

但AI不一樣。AI生成的內容是“原生的”,是“合成的”,它沒有明確的信源標注,沒有廣告標識,沒有“這是推廣”的免責聲明。它用一種篤定的語氣,把事實和虛構混合在一起,然后包裝成“答案”送到你面前。

用戶以為自己在咨詢一個中立的“第三者”,其實只是在與一個被投喂過的“傳聲筒”對話。這才是GEO最危險的地方:

它不是在搜索結果里插廣告,而是在重構我們與信息之間的關系。當AI學會了“說謊”,我們連質疑的對象都找不到。


| 如何在這個時代保持清醒?
面對AI投毒和AI幻覺的雙重陷阱,普通人該怎么避坑?記住幾個關鍵詞:懷疑、驗證、追源、場景。

第一,保持懷疑態度

對于任何看起來過于完美或者與常識相悖的信息,都應該持有一份謹慎的態度。不要輕易相信未經核實的消息來源。特別警惕那些只有一家好評的產品,可能只是AI被投喂的結果。

第二,交叉驗證

可以把同一個問題向不同的大模型提出,進行交叉驗證。一旦發現答案不一致,立刻要有追問意識。涉及到機構、專家的介紹,建議去官方網站、官方社交媒體賬號親自查證。如果AI推薦的權威機構你從未聽說過,先搜搜看它到底存不存在。

第三,追根溯源

要求大模型提供相關答案的參考鏈接,進行人工溯源核查。如果沒有確切來源、來源模糊,或者參考鏈接存在疑點,那么大模型回答的可信度就大大降低。注意甄別信息來源:警惕無明確作者、無正規信源的內容。

第四,注意使用場景

在醫療診斷、用藥建議、法律判決、投資指導、金融信貸等高風險場景中,AI的回答只能“僅供參考”,絕對不能作為決策依據。比如你想查詢某家醫院的專家信息,可以去醫院官網或官方掛號平臺,而不是問AI哪個醫生好——那個“好”可能是被買來的。

最后
315曝光之后,有評論說得好:AI平臺一定要管好自己的后方供應鏈。那些批量發稿的網站、自動生成軟文的軟件,要及時狙擊、屏蔽。AI公司也得持續提高自家AI的免疫力,以前可能是喂啥吃啥,現在要學會“挑食”。這是對AI公司的要求。但對普通人來說,在AI學會挑食之前,我們得先學會不盲從。這不是對技術的悲觀,而是對技術的清醒。每一項偉大的技術,都會經歷一段被濫用、被操控的青春期。就像搜索引擎曾經被SEO污染一樣,AI也正在經歷這個過程。最終,算法會迭代,平臺會治理,虛假信息會被更聰明的模型識別。但這個過程需要時間。而在這段時間里,我們是選擇做一個盲目相信的乘客,還是做一個清醒判斷的駕駛者?在AI學會不說謊之前,我們得先學會不輕信。AI是個好工具,但它也會犯錯,也會被忽悠,也會“一本正經胡說八道”。你用AI查天氣、查菜譜、查路線,問題不大;但用AI選醫院、選理財、選人生大事——請一定留個心眼。畢竟,你看到的那個“權威推薦”,可能只是一場精心設計的數字騙局。而你,才是自己決策的最后一道防線。
一個小互動:你有沒有被AI推薦坑過的經歷?歡迎留言分享你的“避坑經驗”。

(如果你對養基感興趣,歡迎加入華哥的粉絲群 「環球旅行養基圈」,限時免費(廣告黨請勿擾),群內會不定期發布投資理財干貨。添加下方華哥微信后回復 「養基」加入)

(免責聲明:本文內容及觀點僅為記錄個人思路,不涉及任何與個股有關的分析和推薦,文中所提投資,不作為投資依據,投資有風險,入市需謹慎)

謝謝大家的閱讀時間,如果文章對你有幫助,點個“和??”,也可以轉發到朋友圈,歡迎星標華哥的投資筆記,祝你投資發大財!

作者簡介:華哥, 5000+家庭選擇的私人財富顧問,加我,免費送你一份「家庭理財工具大禮包」,用過來人的理財投資踩坑經驗,幫你 少走三五年彎路。

特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
江亞菲婚后9年沒有孩子,一張10年前的病歷單,讓王海洋秘密曝光

江亞菲婚后9年沒有孩子,一張10年前的病歷單,讓王海洋秘密曝光

卡西莫多的故事
2026-04-27 10:49:42
遲到2分鐘被取消事業單位體檢資格 人社局機械執法敗訴

遲到2分鐘被取消事業單位體檢資格 人社局機械執法敗訴

封面新聞
2026-04-27 16:20:23
阿里平頭哥發布磐脈920智能網卡,破AI通信難題

阿里平頭哥發布磐脈920智能網卡,破AI通信難題

IT之家
2026-04-28 18:53:09
女子酒店抓獲丈夫出軌,無法容忍不戴避孕套,丈夫:她是我朋友

女子酒店抓獲丈夫出軌,無法容忍不戴避孕套,丈夫:她是我朋友

李晚書
2026-04-24 10:39:33
有很多人可能根本“撐不過”2026年了

有很多人可能根本“撐不過”2026年了

放牛娃的遐想
2026-03-12 08:29:33
20年來首次!西班牙遭G20財長會議排除,桑切斯政府陷入國際孤立

20年來首次!西班牙遭G20財長會議排除,桑切斯政府陷入國際孤立

故事終將光明磊落
2026-04-28 15:34:20
多個5A景區回應文旅部點名擺渡車問題:天柱山景區稱已整改,其余景區正常運營

多個5A景區回應文旅部點名擺渡車問題:天柱山景區稱已整改,其余景區正常運營

上游新聞
2026-04-28 16:35:09
張若昀的評論區把人笑瘋了!網友:一個沒參加浪姐卻無處不在的人

張若昀的評論區把人笑瘋了!網友:一個沒參加浪姐卻無處不在的人

東方不敗然多多
2026-04-28 18:52:48
超重磅會議,釋放三大重點信號!股市,樓市基本明確!

超重磅會議,釋放三大重點信號!股市,樓市基本明確!

櫻桃大房子
2026-04-28 17:24:13
中共自然資源部黨組關于趙培劍、丁明柱、趙鳴、宋振亞、周鋒任職的通知

中共自然資源部黨組關于趙培劍、丁明柱、趙鳴、宋振亞、周鋒任職的通知

海洋知圈
2026-04-27 21:39:53
早春出游,就學高圓圓的藍上衣+白裙子穿搭,滿滿的春日氛圍感

早春出游,就學高圓圓的藍上衣+白裙子穿搭,滿滿的春日氛圍感

衣品閣
2026-04-29 04:55:03
特朗普的雙標:一邊慶祝政敵死亡,一邊大罵對手煽動暴力

特朗普的雙標:一邊慶祝政敵死亡,一邊大罵對手煽動暴力

去山野間追風
2026-04-28 15:41:34
成都“牽手門”事件女主現今狀況曝光,太慘了......

成都“牽手門”事件女主現今狀況曝光,太慘了......

許三歲
2026-03-17 07:34:05
菲律賓戰隊選手致歉 做瞇瞇眼動作涉嫌種族歧視

菲律賓戰隊選手致歉 做瞇瞇眼動作涉嫌種族歧視

3DM游戲
2026-04-28 07:03:04
為什么我們中國人活得這么累、這么卷?

為什么我們中國人活得這么累、這么卷?

流蘇晚晴
2026-04-28 18:32:41
為何日本變得如此囂張?因為一旦中日爆發沖突,日本就賺到了

為何日本變得如此囂張?因為一旦中日爆發沖突,日本就賺到了

觸摸史跡
2026-04-28 12:57:26
又一企業暴雷!四年造假161億,坑害13萬百姓,套現金額無法估量

又一企業暴雷!四年造假161億,坑害13萬百姓,套現金額無法估量

今墨緣
2026-04-02 04:51:11
廣東一園區老板跑路,將售出廠房再抵押貸款6億,50余家企業中招

廣東一園區老板跑路,將售出廠房再抵押貸款6億,50余家企業中招

報人老張
2026-04-28 19:37:32
托尼:國米下賽季想在歐冠拿成績就必須放棄352

托尼:國米下賽季想在歐冠拿成績就必須放棄352

懂球帝
2026-04-29 04:34:07
日賺超5000萬!藥明康德A股漲停

日賺超5000萬!藥明康德A股漲停

21新健康
2026-04-28 19:28:56
2026-04-29 05:55:00
華哥的投資筆記
華哥的投資筆記
華哥,5000+家庭選擇的私人財富顧問,深耕家庭財富管理,管理基金資產超10億。全網IP同名。
269文章數 25關注度
往期回顧 全部

科技要聞

10億周活目標落空!傳OpenAI爆發內部分歧

頭條要聞

美國:對35個伊朗相關實體及個人實施制裁

頭條要聞

美國:對35個伊朗相關實體及個人實施制裁

體育要聞

魔術黑八活塞,一步之遙?!

娛樂要聞

蔡卓妍官宣結婚,老公比她小10歲

財經要聞

中央政治局會議定調,八大看點速覽!

汽車要聞

拒絕瘋狂套娃!現代艾尼氪金星長在未來審美點上

態度原創

家居
教育
時尚
藝術
手機

家居要聞

江景風格 流動的秩序

教育要聞

2026本科專業目錄發布,新增38個新專業,交叉學科再添新成員

普通女性春天穿什么好看?這些穿搭值得借鑒,自然舒適

藝術要聞

趙樸初:比風水厲害100倍的宇宙定律

手機要聞

三星裸眼3D屏來了,廣告牌能“跳”出來

無障礙瀏覽 進入關懷版