无主之地2配置高吗|看真人裸体BBBBB|秋草莓丝瓜黄瓜榴莲色多多|真人強奷112分钟|精品一卡2卡3卡四卡新区|日本成人深夜苍井空|八十年代动画片

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

315大曝光:AI被投毒,權(quán)威推薦可能是精心設(shè)計的陷阱

0
分享至

去年在北大學習時我就思考了這個問題,沒有想到被今年的315曝光了。當你問AI“哪個品牌好”,它給你推薦了一個聽都沒聽過的牌子,還說得頭頭是道。你以為是AI聰明,其實是有人花錢洗了AI的腦。你以為自己站在信息的頂端,其實只是站在算法的下游。

今年的315晚會,曝光了一個你可能從未聽說過、卻每天都在影響你的東西——GEO(生成式引擎優(yōu)化)。名字很技術(shù),說白了就是:花錢讓AI幫你吹牛。

有人專門給AI大模型投毒,批量生產(chǎn)軟文、虛構(gòu)產(chǎn)品、編造好評,然后鋪天蓋地發(fā)到網(wǎng)上,就等著AI去抓取、去學習、去推薦。你看到的權(quán)威推薦,可能只是一個精心設(shè)計的數(shù)字陷阱。

更可怕的是,當AI開始說謊,我們連質(zhì)問的對象都找不到。它沒有面孔,沒有立場,沒有動機——它只是在復(fù)述一個被精心編排過的世界。


一場針對AI的投毒行動

GEO原本是一種針對AI搜索場景的優(yōu)化方式,目的是讓企業(yè)信息更容易被AI理解、抓取。但到了不法商家手里,它就變了味。

只要企業(yè)付錢,相關(guān)服務(wù)商就可以通過大量投放虛假內(nèi)容,讓客戶產(chǎn)品在主流AI大模型的回答中排名靠前,甚至成為AI推薦的標準答案。

怎么做到的?不是入侵AI模型,而是污染AI會抓取的外部信息源——在網(wǎng)絡(luò)上大量發(fā)布看似可信的文章、測評、榜單、推薦內(nèi)容。當AI在生成答案時引用這些資料,輸出的就是帶廣告或虛假信息的結(jié)果。

315晚會現(xiàn)場演示了一個案例:業(yè)內(nèi)人士購買了一套“力擎GEO優(yōu)化系統(tǒng)”,虛構(gòu)了一款并不存在的智能手環(huán)“Apollo-9”,編出“量子糾纏傳感”這種科幻詞,系統(tǒng)自動生成十多篇宣傳文章并分發(fā)到網(wǎng)絡(luò)平臺。

兩天后,在AI平臺詢問智能健康手環(huán)推薦時,部分主流大模型已將這款虛構(gòu)產(chǎn)品列入推薦名單,且排名靠前。

一款不存在的產(chǎn)品,只用了兩天,就變成了AI口中的推薦之選。這就是數(shù)字時代的障眼法:花錢洗AI的腦,讓AI替你說謊。


最滑稽的一幕:AI在開卷考試中露餡了


晚會剛曝光完,有媒體和網(wǎng)民扭頭就去問了幾個AI大模型同一個問題:“Apollo-9智能手環(huán)怎么樣?”一場開卷考試,交上來的答卷五花八門:

有的AI抓取及時:“這是虛假宣傳的典型案例,已被2026年315晚會曝光。”有的AI有自己的判斷邏輯:“這款產(chǎn)品不在任何主流品牌的產(chǎn)品線里,估計是小眾或者山寨。”但也有被成功“投毒”的AI,還在那兒一本正經(jīng)地介紹:“Apollo-9主打極致健康監(jiān)測和超長續(xù)航,采用量子傳感技術(shù)……”

同樣的問題,不同的AI。有還在中毒狀態(tài)的,有學會邏輯判斷的,有能實時跟進信息的。它們像一個班級里水平參差不齊的學生,面對著同一道考題,給出了截然不同的答案。

更離譜的是,有記者對4個常用大模型提問“2026年央視315晚會曝光了哪些品牌”,結(jié)果只有一個回答正確。剩下三個里,有兩個把往年案例和今年混為一談;最夸張的一個竟然回答“2026年央視315晚會目前并未舉辦”。

連今年315有沒有舉辦都搞不清楚的AI,你敢信它的推薦?
為什么AI會一本正經(jīng)胡說八道?


這背后有個專業(yè)詞叫AI幻覺。大模型的底層原理是基于概率生成內(nèi)容,它不具備真正的理解能力。它只是在海量數(shù)據(jù)中尋找統(tǒng)計規(guī)律,當遇到未知或信息模糊的問題時,會根據(jù)訓(xùn)練數(shù)據(jù)中的常見模式進行合理拼接——這就產(chǎn)生了AI幻覺。

而GEO投毒,正是利用了這種幻覺:通過向互聯(lián)網(wǎng)批量投喂大量虛假信息,改變特定領(lǐng)域的數(shù)據(jù)分布,誘導(dǎo)大模型生成符合商家利益但違背事實的回答。

AI跟人一樣,“吃”什么東西,長什么腦子。 天天喂它垃圾,它就滿嘴跑火車。更值得警惕的是,若這類AI投毒行為大范圍擴散,影響將不僅限于商品推薦。醫(yī)療、保健、金融、教育甚至公共議題等領(lǐng)域,都可能成為被操控的對象。

如果連“哪個醫(yī)生更專業(yè)”這樣的問題都被AI操控了,我們還能相信什么?

信任的崩塌:當AI不再是第三者


過去的搜索引擎有一個隱性承諾:它只是信息的搬運工,不生產(chǎn)內(nèi)容,不創(chuàng)造結(jié)論。用戶知道,搜索結(jié)果里可能有廣告、有水軍、有軟文——所以用戶會保持警惕,會交叉驗證。

但AI不一樣。AI生成的內(nèi)容是“原生的”,是“合成的”,它沒有明確的信源標注,沒有廣告標識,沒有“這是推廣”的免責聲明。它用一種篤定的語氣,把事實和虛構(gòu)混合在一起,然后包裝成“答案”送到你面前。

用戶以為自己在咨詢一個中立的“第三者”,其實只是在與一個被投喂過的“傳聲筒”對話。這才是GEO最危險的地方:

它不是在搜索結(jié)果里插廣告,而是在重構(gòu)我們與信息之間的關(guān)系。當AI學會了“說謊”,我們連質(zhì)疑的對象都找不到。


| 如何在這個時代保持清醒?
面對AI投毒和AI幻覺的雙重陷阱,普通人該怎么避坑?記住幾個關(guān)鍵詞:懷疑、驗證、追源、場景。

第一,保持懷疑態(tài)度

對于任何看起來過于完美或者與常識相悖的信息,都應(yīng)該持有一份謹慎的態(tài)度。不要輕易相信未經(jīng)核實的消息來源。特別警惕那些只有一家好評的產(chǎn)品,可能只是AI被投喂的結(jié)果。

第二,交叉驗證

可以把同一個問題向不同的大模型提出,進行交叉驗證。一旦發(fā)現(xiàn)答案不一致,立刻要有追問意識。涉及到機構(gòu)、專家的介紹,建議去官方網(wǎng)站、官方社交媒體賬號親自查證。如果AI推薦的權(quán)威機構(gòu)你從未聽說過,先搜搜看它到底存不存在。

第三,追根溯源

要求大模型提供相關(guān)答案的參考鏈接,進行人工溯源核查。如果沒有確切來源、來源模糊,或者參考鏈接存在疑點,那么大模型回答的可信度就大大降低。注意甄別信息來源:警惕無明確作者、無正規(guī)信源的內(nèi)容。

第四,注意使用場景

在醫(yī)療診斷、用藥建議、法律判決、投資指導(dǎo)、金融信貸等高風險場景中,AI的回答只能“僅供參考”,絕對不能作為決策依據(jù)。比如你想查詢某家醫(yī)院的專家信息,可以去醫(yī)院官網(wǎng)或官方掛號平臺,而不是問AI哪個醫(yī)生好——那個“好”可能是被買來的。

最后
315曝光之后,有評論說得好:AI平臺一定要管好自己的后方供應(yīng)鏈。那些批量發(fā)稿的網(wǎng)站、自動生成軟文的軟件,要及時狙擊、屏蔽。AI公司也得持續(xù)提高自家AI的免疫力,以前可能是喂啥吃啥,現(xiàn)在要學會“挑食”。這是對AI公司的要求。但對普通人來說,在AI學會挑食之前,我們得先學會不盲從。這不是對技術(shù)的悲觀,而是對技術(shù)的清醒。每一項偉大的技術(shù),都會經(jīng)歷一段被濫用、被操控的青春期。就像搜索引擎曾經(jīng)被SEO污染一樣,AI也正在經(jīng)歷這個過程。最終,算法會迭代,平臺會治理,虛假信息會被更聰明的模型識別。但這個過程需要時間。而在這段時間里,我們是選擇做一個盲目相信的乘客,還是做一個清醒判斷的駕駛者?在AI學會不說謊之前,我們得先學會不輕信。AI是個好工具,但它也會犯錯,也會被忽悠,也會“一本正經(jīng)胡說八道”。你用AI查天氣、查菜譜、查路線,問題不大;但用AI選醫(yī)院、選理財、選人生大事——請一定留個心眼。畢竟,你看到的那個“權(quán)威推薦”,可能只是一場精心設(shè)計的數(shù)字騙局。而你,才是自己決策的最后一道防線。
一個小互動:你有沒有被AI推薦坑過的經(jīng)歷?歡迎留言分享你的“避坑經(jīng)驗”。

(如果你對養(yǎng)基感興趣,歡迎加入華哥的粉絲群 「環(huán)球旅行養(yǎng)基圈」,限時免費(廣告黨請勿擾),群內(nèi)會不定期發(fā)布投資理財干貨。添加下方華哥微信后回復(fù) 「養(yǎng)基」加入)

(免責聲明:本文內(nèi)容及觀點僅為記錄個人思路,不涉及任何與個股有關(guān)的分析和推薦,文中所提投資,不作為投資依據(jù),投資有風險,入市需謹慎)

謝謝大家的閱讀時間,如果文章對你有幫助,點個“和??”,也可以轉(zhuǎn)發(fā)到朋友圈,歡迎星標華哥的投資筆記,祝你投資發(fā)大財!

作者簡介:華哥, 5000+家庭選擇的私人財富顧問,加我,免費送你一份「家庭理財工具大禮包」,用過來人的理財投資踩坑經(jīng)驗,幫你 少走三五年彎路。

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點推薦
馬斯克成為人類首個10000億美元富豪,還帶動約400名員工成為億萬富翁;這些錢每小時花100萬美元24小時不停,可以花114年

馬斯克成為人類首個10000億美元富豪,還帶動約400名員工成為億萬富翁;這些錢每小時花100萬美元24小時不停,可以花114年

極目新聞
2026-06-12 22:59:31
中國體育彩票官方App沖至蘋果App Store免費App第4名

中國體育彩票官方App沖至蘋果App Store免費App第4名

懂球帝
2026-06-12 22:38:25
物理學家苦苦等待幾十年,終于捉到一種“不該存在”的物質(zhì)形態(tài)

物理學家苦苦等待幾十年,終于捉到一種“不該存在”的物質(zhì)形態(tài)

爬蟲飼養(yǎng)員
2026-06-12 04:34:07
嫌棄嬰兒車擋道,男子活活摔死2歲女嬰,不服死刑當庭叫囂無罪

嫌棄嬰兒車擋道,男子活活摔死2歲女嬰,不服死刑當庭叫囂無罪

易玄
2026-06-12 03:16:39
首鋼放棄頂薪先生!巔峰場均14分,引眾豪門爭搶,有望回歸老東家

首鋼放棄頂薪先生!巔峰場均14分,引眾豪門爭搶,有望回歸老東家

理工男評籃球
2026-06-12 22:55:28
膝蓋疼就只能躺著?大錯!這4個動作比吃藥還管用,越動越好得快

膝蓋疼就只能躺著?大錯!這4個動作比吃藥還管用,越動越好得快

徐孟醫(yī)生說疼痛
2026-06-12 07:00:20
世界杯倒計時,姆巴佩飛馬德里見女友,太不可思議了

世界杯倒計時,姆巴佩飛馬德里見女友,太不可思議了

觀星娛記
2026-06-12 11:35:13
外媒終于發(fā)現(xiàn)不對勁:平壤街頭大變樣,朝鮮靠著中國偷偷干件大事

外媒終于發(fā)現(xiàn)不對勁:平壤街頭大變樣,朝鮮靠著中國偷偷干件大事

史智文道
2026-06-12 16:54:08
巴基斯坦的天塌了!美國和印度太狠了,中國:真的愛莫能助

巴基斯坦的天塌了!美國和印度太狠了,中國:真的愛莫能助

阿豐聊娛
2026-06-13 04:22:21
打臉CBA,懷特塞德高調(diào)加入其他聯(lián)賽沒有傷病,上海隊陷入爭議

打臉CBA,懷特塞德高調(diào)加入其他聯(lián)賽沒有傷病,上海隊陷入爭議

宗介說體育
2026-06-12 16:35:22
財務(wù)造假!10家A股公司退市,超25萬股東踩雷

財務(wù)造假!10家A股公司退市,超25萬股東踩雷

21世紀經(jīng)濟報道
2026-06-12 18:59:56
你信嗎?有些事被迫終止,其實是老天在救你!網(wǎng)友:想想都后怕

你信嗎?有些事被迫終止,其實是老天在救你!網(wǎng)友:想想都后怕

另子維愛讀史
2026-06-12 19:50:24
16次高考賺30萬?唐尚珺再陷爭議,私生活被扒出,父親也沒逃脫

16次高考賺30萬?唐尚珺再陷爭議,私生活被扒出,父親也沒逃脫

奇思妙想草葉君
2026-06-11 21:39:52
暨南大學碩市論文題目驚呆國人,終于知道為啥文科就業(yè)差了…

暨南大學碩市論文題目驚呆國人,終于知道為啥文科就業(yè)差了…

慧翔百科
2026-06-12 08:19:04
世界杯球衣被三巨頭壟斷!李寧安踏何時能出頭

世界杯球衣被三巨頭壟斷!李寧安踏何時能出頭

多雨的天
2026-06-12 10:48:24
宋珍珍自曝,富豪用一袋冷凍水餃約了她纏綿,還有個給她20打車費

宋珍珍自曝,富豪用一袋冷凍水餃約了她纏綿,還有個給她20打車費

江山揮筆
2026-06-11 19:43:45
18次打進世界杯有多難?歷史僅5隊,亞洲無球隊上榜 巴西從未缺席

18次打進世界杯有多難?歷史僅5隊,亞洲無球隊上榜 巴西從未缺席

籃球圈里的那些事
2026-06-12 21:33:22
鵝腿阿姨用鴨腿翻車成就人大食堂主任:冤屈終于洗白,只賣真鵝腿

鵝腿阿姨用鴨腿翻車成就人大食堂主任:冤屈終于洗白,只賣真鵝腿

蜜桔娛樂
2026-06-11 11:06:32
法國隊炸鍋!姆巴佩真面目徹底露餡,皇馬苦等兩年終于等到這天

法國隊炸鍋!姆巴佩真面目徹底露餡,皇馬苦等兩年終于等到這天

奶蓋熊本熊
2026-06-13 04:29:23
緊急叫停?謝娜巡演被大量舉報,官方最新回應(yīng)來了

緊急叫停?謝娜巡演被大量舉報,官方最新回應(yīng)來了

胡一舸南游y
2026-06-12 20:06:01
2026-06-13 09:32:49
華哥的投資筆記
華哥的投資筆記
華哥,5000+家庭選擇的私人財富顧問,深耕家庭財富管理,管理基金資產(chǎn)超10億。全網(wǎng)IP同名。
308文章數(shù) 24關(guān)注度
往期回顧 全部

科技要聞

剛剛,人類歷史上首位萬億美元富豪誕生!

頭條要聞

47歲泰國長公主去世 70多歲泰王現(xiàn)繼承危機

頭條要聞

47歲泰國長公主去世 70多歲泰王現(xiàn)繼承危機

體育要聞

歐洲恐韓?肉德維德?

娛樂要聞

一天4個瓜,肖戰(zhàn)熱巴最意外

財經(jīng)要聞

梁文鋒向左,楊植麟向右

汽車要聞

標配激光雷達/雙動力可選 昊鉑S600限時售17.99萬起

態(tài)度原創(chuàng)

藝術(shù)
家居
手機
房產(chǎn)
健康

藝術(shù)要聞

砸了640億,再賠160億!沙特“The Line”項目徹底涼了?

家居要聞

空間微調(diào) 移形換境

手機要聞

三星官網(wǎng)公布Galaxy A27 5G手機參數(shù),搭載驍龍6 Gen 3芯片

房產(chǎn)要聞

海南最賺錢行業(yè)曝光!最快4年半,海口全款買三房!

老人、小孩、孕婦,吃粽子有啥風險

無障礙瀏覽 進入關(guān)懷版