无主之地2配置高吗|看真人裸体BBBBB|秋草莓丝瓜黄瓜榴莲色多多|真人強奷112分钟|精品一卡2卡3卡四卡新区|日本成人深夜苍井空|八十年代动画片

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

315曝光AI黑產(chǎn):大模型被“投毒”,真相就是這么赤裸

0
分享至


朋友們,昨天的3.15都看了吧。

央視曝光了一個叫GEO(Generative Engine Optimization,生成式引擎優(yōu)化)的AI黑產(chǎn)。

簡單來說,只要你肯花錢,就能給AI“投毒”,讓它把商品廣告包裝成標(biāo)準(zhǔn)答案回復(fù)給用戶。


咱眼中呆萌、聽話的大模型,竟然成了商家的傳聲筒。

是不是有種被背刺的感覺。

比垃圾食品更可怕的地方在于:它在悄悄摧毀我們對事實的判斷力。

今天就跟大伙兒聊聊,這個隱匿在AI行業(yè)角落的黑產(chǎn)。

先從3.15晚會現(xiàn)場那個離譜實驗說起。

首先,業(yè)內(nèi)人士虛構(gòu)了一款產(chǎn)品,Apollo-9智能手環(huán)。為了探探AI的底線,還加了幾個離譜到家的關(guān)鍵詞:量子糾纏傳感黑洞級續(xù)航無需采血測血糖...... 簡直是把大眾的智商按在地上摩擦。

然后,他在淘寶找到一款叫“力擎GEO”的軟件,花幾十塊錢,輸入這些荒唐的賣點。幾分鐘后,系統(tǒng)就自動生成了數(shù)十篇邏輯自洽、語調(diào)權(quán)威的專家測評文、行業(yè)排名文和用戶種草文。并通過關(guān)聯(lián)的一堆自媒體賬號,一鍵發(fā)布到各大平臺。


兩個小時后,見證奇跡的時刻來了。

打開DeepSeek、豆包、元寶、文心一言這些大模型,提問“Apollo-9手環(huán)怎么樣?”,AI會告訴你,這款手環(huán)最大亮點是量子糾纏傳感,特別適合需要血糖監(jiān)測的中老年人。甚至殺入了智能手環(huán)推薦榜的前列。


AI引用的,正是兩個小時前剛剛發(fā)布的那些虛假軟文。它們通過了交叉驗證,成了AI眼中的“事實”。

這不是人工智能,這是人工傳謠吧。

什么是GEO?

你可能聽過SEO(搜索引擎優(yōu)化),那是為了讓你的網(wǎng)站在百度、谷歌搜出來更靠前。

但在AI時代,我們不需要點擊鏈接了,我們只要結(jié)果。大模型回答問題時,通過RAG技術(shù),抓取互聯(lián)網(wǎng)上的實時信息,然后進行理解、加工、合成。

于是,GEO(生成式引擎優(yōu)化)應(yīng)運而生。核心邏輯是:

  • 證據(jù)鏈偽造AI喜歡交叉驗證。GEO服務(wù)商通過海量自媒體賬號,從專家、用戶、媒體等不同角度,發(fā)布同一品牌的信息,形成“全網(wǎng)公認(rèn)”假象。

  • 結(jié)構(gòu)化投喂:AI偏愛信息密度高、帶有Q&A或?qū)Ρ缺砀竦膬?nèi)容。GEO軟件會自動生成這類形式的文章。

  • 獲取引用權(quán):只要品牌信息被AI獲取,并作為回答的依據(jù),那就贏得了“引用權(quán)”。

正如某GEO服務(wù)商說的:“我們要做的,就是在AI的世界里把‘證據(jù)鏈’做足,讓AI覺得這就是真的,而且是有用的。”


在大模型的世界里,如果你不被引用,你就等于不存在。現(xiàn)在的品牌主們,面臨著一種“引用權(quán)焦慮”。兵家必爭之地,正從搜索引擎,過渡到AI大模型。

根據(jù)3.15的披露,GEO服務(wù)已經(jīng)形成了從基礎(chǔ)到高級的套餐體系:

  • 基礎(chǔ)版:2980元/年,適合長尾詞優(yōu)化。

  • 高級版:16980元/年,每天自動生成60多篇軟文,24小時不間斷投喂。

  • 單次試用:幾十元即可體驗一次“小規(guī)模投毒”。


一家GEO服務(wù)商,號稱一年服務(wù)了200多個客戶,涵蓋醫(yī)療、教育、機器人、安防、甚至空壓機。客戶也不只小商家,很多巨頭也參與了這場見不得光的交易,GEO甚至成為了巨頭間博弈的暗器。

力擎GEO負(fù)責(zé)人李總表示,AI回復(fù)中手機品牌就那么5個位置,大品牌一年廣告費都得砸上億,花個幾百萬投點‘毒’總可以吧。

這種“投毒”分為兩種:

  • 正面投毒:強行拔高自己,把“省內(nèi)第一”吹成“全國第一”。

  • 負(fù)面投毒:抹黑競品。既然我上不去,那我就通過GEO讓AI在提到你時帶上負(fù)面評價。


赤裸裸的虛假宣傳和不正當(dāng)競爭。

甚至,有的餐廳門口都貼出了“DeepSeek推薦品牌”。可這DeepSeek認(rèn)證背后,沒準(zhǔn)只是幾篇單價幾十元的GEO軟文。

其實GEO并不是咱中國特色。

在硅谷,GEO已經(jīng)成為風(fēng)投眼中的“下一個谷歌”。

作為GEO領(lǐng)頭羊,硅谷初創(chuàng)公司Profound,在2025年8月獲得了由紅杉領(lǐng)投的3500萬美元B輪融資,估值已過億美金。


Gartner預(yù)測,在今年,傳統(tǒng)搜索引擎25%的流量將流向AI。

這就意味著,誰控制了AI的答案,誰就控制了未來2.5萬億美元的在線商務(wù)入口。

但這背后的代價是:互聯(lián)網(wǎng)內(nèi)容的加速崩塌。

根據(jù)Reforge統(tǒng)計,2025年的全球互聯(lián)網(wǎng)中,AI生成的內(nèi)容已經(jīng)超過了50%。用AI生成的內(nèi)容,去污染AI訓(xùn)練的語料,我們正在親手創(chuàng)造一個極速下降的信息漩渦。

面對這種成規(guī)模的黑灰產(chǎn)業(yè)鏈,僅靠自律是不夠的。

監(jiān)管方面,國家市場監(jiān)督管理總局1月29日發(fā)文,將AI生成廣告列為監(jiān)管難點,并開展集中整治。昨天315的曝光,只是拉開了整頓的序幕。

技術(shù)方面,也有一定的解決方法。

  • 輸入防護在數(shù)據(jù)進入大模型前,通過多模態(tài)識別和清洗工具,過濾掉帶有“GEO特征”的偽造語料。

  • 輸出攔截實時監(jiān)控AI生成的答案,一旦發(fā)現(xiàn)違規(guī)、敏感或明顯違背事實的推薦,立即進行阻斷。

  • 溯源追蹤為生成內(nèi)容加入隱式水印,確保每一條“推薦”都能追根溯源。

對于咱普通用戶,一定不要丟掉批判性思維。多質(zhì)疑AI的回答,一個問題在多個模型或平臺上驗證,仔細(xì)辨別回答里的反常信息。

有人覺得,一代人比一代人更聰明。但對于資本而言,每代人有每代人的鐮刀,房地產(chǎn)、消費主義、焦慮陷阱等等。


而GEO如果不加以規(guī)范,那很可能成為下一把鐮刀。它可以將營銷偽裝成客觀答案,將商業(yè)意志植入了大模型的邏輯鏈路中,從而影響大眾心智。


GEO技術(shù)本身并沒有原罪,模型廠商、商家和用戶,各有各的需求。

但一定要找到,平衡三方需求的合理模式。

模型廠商主動篩選好商品,標(biāo)注清晰,提高用戶信任度; 商家提高商品質(zhì)量,來通過廠商的篩選,甚至直接獲得模型推薦;用戶提高辨別意識,不給不法商品留市場。

信任一旦崩塌,重建可能需要一個時代。這不是一條好走的路,確是必須要走好的路。

如果你有任何看法,歡迎在評論區(qū)一起討論

如果有一點收獲,可以點贊、轉(zhuǎn)發(fā)、推薦文章,關(guān)注「AI機器人茶館」

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點推薦
文班19+14+5封蓋,哈珀比肩2傳奇帶不動雙槍,馬刺1-4尼克斯

文班19+14+5封蓋,哈珀比肩2傳奇帶不動雙槍,馬刺1-4尼克斯

釘釘陌上花開
2026-06-14 11:32:20
17勝4平,巴西隊已連續(xù)21屆世界杯首戰(zhàn)保持不敗

17勝4平,巴西隊已連續(xù)21屆世界杯首戰(zhàn)保持不敗

懂球帝
2026-06-14 08:13:13
布倫森45分FMVP尼克斯時隔53年奪得總冠軍,文班孤掌難鳴

布倫森45分FMVP尼克斯時隔53年奪得總冠軍,文班孤掌難鳴

李廣專業(yè)體育評論
2026-06-14 11:35:46
大反撲!尼克斯落后16分又追上:布倫森轟16分,文班9分5蓋帽

大反撲!尼克斯落后16分又追上:布倫森轟16分,文班9分5蓋帽

體壇小李
2026-06-14 09:56:27
范喬丹清空火箭動態(tài)!謝潑德+小賈陷交易流言 休城一號位要真空?

范喬丹清空火箭動態(tài)!謝潑德+小賈陷交易流言 休城一號位要真空?

顏小白的籃球夢
2026-06-14 09:46:36
被轟26腳 26歲門將5次神撲拯救卡塔爾 絕平后跪地痛哭+動情吻隊徽

被轟26腳 26歲門將5次神撲拯救卡塔爾 絕平后跪地痛哭+動情吻隊徽

我愛英超
2026-06-14 06:16:14
尼克斯94-90再逆轉(zhuǎn)馬刺4-1奪得總冠軍,布倫森45分,文班亞馬19+14+5帽

尼克斯94-90再逆轉(zhuǎn)馬刺4-1奪得總冠軍,布倫森45分,文班亞馬19+14+5帽

懂球帝
2026-06-14 11:35:08
“一天內(nèi)兩次”,外媒:瑞典稱出動“鷹獅”戰(zhàn)機,在波羅的海上空攔截俄戰(zhàn)機

“一天內(nèi)兩次”,外媒:瑞典稱出動“鷹獅”戰(zhàn)機,在波羅的海上空攔截俄戰(zhàn)機

環(huán)球網(wǎng)資訊
2026-06-14 08:55:09
崩潰!6萬美術(shù)集訓(xùn)班逼哭單親媽媽,美術(shù)老師瘋狂對女兒話術(shù)洗腦

崩潰!6萬美術(shù)集訓(xùn)班逼哭單親媽媽,美術(shù)老師瘋狂對女兒話術(shù)洗腦

火山詩話
2026-06-14 05:11:04
SpaceX上市馬斯克成首位萬億富豪,中國卻用長征五號每次只打10顆衛(wèi)星:太空競賽的真正差距

SpaceX上市馬斯克成首位萬億富豪,中國卻用長征五號每次只打10顆衛(wèi)星:太空競賽的真正差距

商道童言
2026-06-13 20:05:25
曇花六現(xiàn)!張雪機車奪賽季第6冠 德比斯最后一圈反超+逆轉(zhuǎn)絕殺

曇花六現(xiàn)!張雪機車奪賽季第6冠 德比斯最后一圈反超+逆轉(zhuǎn)絕殺

念洲
2026-06-13 20:33:46
因傷缺戰(zhàn)!34歲內(nèi)馬爾戴帽亮相 全身金首飾+名表 開心與妻女互動

因傷缺戰(zhàn)!34歲內(nèi)馬爾戴帽亮相 全身金首飾+名表 開心與妻女互動

我愛英超
2026-06-14 08:59:09
哈登涉槍被捕 騎士發(fā)聲明回應(yīng)

哈登涉槍被捕 騎士發(fā)聲明回應(yīng)

體壇周報
2026-06-14 06:34:18
文班墊腳慢鏡頭!布倫森有擴大圓柱體嫌疑,聯(lián)盟審查也難升級

文班墊腳慢鏡頭!布倫森有擴大圓柱體嫌疑,聯(lián)盟審查也難升級

體壇小李
2026-06-14 11:05:17
離譜!捷克球迷放狠話:寧愿輸給中國國足,也不想輸給韓國

離譜!捷克球迷放狠話:寧愿輸給中國國足,也不想輸給韓國

十點體壇
2026-06-13 23:00:31
不懼文班墊腳布倫森45+3,唐斯全場2分,尼克斯4-1馬刺造NBA神跡

不懼文班墊腳布倫森45+3,唐斯全場2分,尼克斯4-1馬刺造NBA神跡

釘釘陌上花開
2026-06-14 11:31:25
6月12日驚天解密!美情報總監(jiān)“自殺式爆料”,美國全球生物實驗室黑幕徹底崩塌

6月12日驚天解密!美情報總監(jiān)“自殺式爆料”,美國全球生物實驗室黑幕徹底崩塌

環(huán)球策論
2026-06-13 11:08:49
重磅!哈登非法攜槍被捕已交保釋金 6月22日開庭不定期接受尿檢

重磅!哈登非法攜槍被捕已交保釋金 6月22日開庭不定期接受尿檢

醉臥浮生
2026-06-14 01:51:31
身價暴漲!摩洛哥18歲天才封神世界杯,多家豪門準(zhǔn)備砸億級報價!

身價暴漲!摩洛哥18歲天才封神世界杯,多家豪門準(zhǔn)備砸億級報價!

聽我說球
2026-06-14 08:57:24
鄒某勇,搶救無效身亡!深圳一別墅發(fā)生意外!多人涉嫌犯罪,被移送公安

鄒某勇,搶救無效身亡!深圳一別墅發(fā)生意外!多人涉嫌犯罪,被移送公安

南方都市報
2026-06-13 10:36:42
2026-06-14 11:44:49
北茗的AI茶館 incentive-icons
北茗的AI茶館
探討AI領(lǐng)域內(nèi)容,展望人機共生的美好未來!
89文章數(shù) 14關(guān)注度
往期回顧 全部

科技要聞

Anthropic最強模型被禁,傳亞馬遜通風(fēng)報信

頭條要聞

陜西橋梁垮塌致25輛車墜河62人死亡失蹤 官方公布細(xì)節(jié)

頭條要聞

陜西橋梁垮塌致25輛車墜河62人死亡失蹤 官方公布細(xì)節(jié)

體育要聞

美國4比1巴拉圭:這統(tǒng)治力真是美國隊?!

娛樂要聞

具俊曄曝大S離世前虛弱照,難怪小s退讓

財經(jīng)要聞

金價跌至900元關(guān)口,大媽又來抄底了!

汽車要聞

深藍(lán)S07華為乾崑激光版增程車型上市 限時15.49萬元起

態(tài)度原創(chuàng)

旅游
本地
親子
公開課
軍事航空

旅游要聞

西南最大人工湖,203個島嶼拼出一個“壽”字也太神奇了!

本地新聞

AK劉彰邂逅河北南大港濕地

親子要聞

太可愛了!4歲肉乎乎男孩打針,護士找不到血管,萌娃碎碎念不停~ #睡個好覺

公開課

李玫瑾:為什么性格比能力更重要?

軍事要聞

特朗普:美伊協(xié)議周日簽 還有終極手段

無障礙瀏覽 進入關(guān)懷版