亚洲中文字幕乱码亚洲-蜜桃成熟视频在线观看-免费中文字幕视频在线-中国五十路熟妇洗澡视频-亚洲av伊人啪啪c-国产精品成人一区二区-国产自拍视频一区在线观看-成人一区不卡二区三区四区-亚洲情精品中文字幕99在线

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

315曝光AI黑產(chǎn):大模型被“投毒”,真相就是這么赤裸

0
分享至


朋友們,昨天的3.15都看了吧。

央視曝光了一個叫GEO(Generative Engine Optimization,生成式引擎優(yōu)化)的AI黑產(chǎn)。

簡單來說,只要你肯花錢,就能給AI“投毒”,讓它把商品廣告包裝成標(biāo)準(zhǔn)答案回復(fù)給用戶。


咱眼中呆萌、聽話的大模型,竟然成了商家的傳聲筒。

是不是有種被背刺的感覺。

比垃圾食品更可怕的地方在于:它在悄悄摧毀我們對事實的判斷力。

今天就跟大伙兒聊聊,這個隱匿在AI行業(yè)角落的黑產(chǎn)。

先從3.15晚會現(xiàn)場那個離譜實驗說起。

首先,業(yè)內(nèi)人士虛構(gòu)了一款產(chǎn)品,Apollo-9智能手環(huán)。為了探探AI的底線,還加了幾個離譜到家的關(guān)鍵詞:量子糾纏傳感黑洞級續(xù)航無需采血測血糖...... 簡直是把大眾的智商按在地上摩擦。

然后,他在淘寶找到一款叫“力擎GEO”的軟件,花幾十塊錢,輸入這些荒唐的賣點。幾分鐘后,系統(tǒng)就自動生成了數(shù)十篇邏輯自洽、語調(diào)權(quán)威的專家測評文、行業(yè)排名文和用戶種草文。并通過關(guān)聯(lián)的一堆自媒體賬號,一鍵發(fā)布到各大平臺。


兩個小時后,見證奇跡的時刻來了。

打開DeepSeek、豆包、元寶、文心一言這些大模型,提問“Apollo-9手環(huán)怎么樣?”,AI會告訴你,這款手環(huán)最大亮點是量子糾纏傳感,特別適合需要血糖監(jiān)測的中老年人。甚至殺入了智能手環(huán)推薦榜的前列。


AI引用的,正是兩個小時前剛剛發(fā)布的那些虛假軟文。它們通過了交叉驗證,成了AI眼中的“事實”。

這不是人工智能,這是人工傳謠吧。

什么是GEO?

你可能聽過SEO(搜索引擎優(yōu)化),那是為了讓你的網(wǎng)站在百度、谷歌搜出來更靠前。

但在AI時代,我們不需要點擊鏈接了,我們只要結(jié)果。大模型回答問題時,通過RAG技術(shù),抓取互聯(lián)網(wǎng)上的實時信息,然后進行理解、加工、合成。

于是,GEO(生成式引擎優(yōu)化)應(yīng)運而生。核心邏輯是:

  • 證據(jù)鏈偽造AI喜歡交叉驗證。GEO服務(wù)商通過海量自媒體賬號,從專家、用戶、媒體等不同角度,發(fā)布同一品牌的信息,形成“全網(wǎng)公認(rèn)”假象。

  • 結(jié)構(gòu)化投喂:AI偏愛信息密度高、帶有Q&A或?qū)Ρ缺砀竦膬?nèi)容。GEO軟件會自動生成這類形式的文章。

  • 獲取引用權(quán):只要品牌信息被AI獲取,并作為回答的依據(jù),那就贏得了“引用權(quán)”。

正如某GEO服務(wù)商說的:“我們要做的,就是在AI的世界里把‘證據(jù)鏈’做足,讓AI覺得這就是真的,而且是有用的。”


在大模型的世界里,如果你不被引用,你就等于不存在。現(xiàn)在的品牌主們,面臨著一種“引用權(quán)焦慮”。兵家必爭之地,正從搜索引擎,過渡到AI大模型。

根據(jù)3.15的披露,GEO服務(wù)已經(jīng)形成了從基礎(chǔ)到高級的套餐體系:

  • 基礎(chǔ)版:2980元/年,適合長尾詞優(yōu)化。

  • 高級版:16980元/年,每天自動生成60多篇軟文,24小時不間斷投喂。

  • 單次試用:幾十元即可體驗一次“小規(guī)模投毒”。


一家GEO服務(wù)商,號稱一年服務(wù)了200多個客戶,涵蓋醫(yī)療、教育、機器人、安防、甚至空壓機。客戶也不只小商家,很多巨頭也參與了這場見不得光的交易,GEO甚至成為了巨頭間博弈的暗器。

力擎GEO負(fù)責(zé)人李總表示,AI回復(fù)中手機品牌就那么5個位置,大品牌一年廣告費都得砸上億,花個幾百萬投點‘毒’總可以吧。

這種“投毒”分為兩種:

  • 正面投毒:強行拔高自己,把“省內(nèi)第一”吹成“全國第一”。

  • 負(fù)面投毒:抹黑競品。既然我上不去,那我就通過GEO讓AI在提到你時帶上負(fù)面評價。


赤裸裸的虛假宣傳和不正當(dāng)競爭。

甚至,有的餐廳門口都貼出了“DeepSeek推薦品牌”。可這DeepSeek認(rèn)證背后,沒準(zhǔn)只是幾篇單價幾十元的GEO軟文。

其實GEO并不是咱中國特色。

在硅谷,GEO已經(jīng)成為風(fēng)投眼中的“下一個谷歌”。

作為GEO領(lǐng)頭羊,硅谷初創(chuàng)公司Profound,在2025年8月獲得了由紅杉領(lǐng)投的3500萬美元B輪融資,估值已過億美金。


Gartner預(yù)測,在今年,傳統(tǒng)搜索引擎25%的流量將流向AI。

這就意味著,誰控制了AI的答案,誰就控制了未來2.5萬億美元的在線商務(wù)入口。

但這背后的代價是:互聯(lián)網(wǎng)內(nèi)容的加速崩塌。

根據(jù)Reforge統(tǒng)計,2025年的全球互聯(lián)網(wǎng)中,AI生成的內(nèi)容已經(jīng)超過了50%。用AI生成的內(nèi)容,去污染AI訓(xùn)練的語料,我們正在親手創(chuàng)造一個極速下降的信息漩渦。

面對這種成規(guī)模的黑灰產(chǎn)業(yè)鏈,僅靠自律是不夠的。

監(jiān)管方面,國家市場監(jiān)督管理總局1月29日發(fā)文,將AI生成廣告列為監(jiān)管難點,并開展集中整治。昨天315的曝光,只是拉開了整頓的序幕。

技術(shù)方面,也有一定的解決方法。

  • 輸入防護在數(shù)據(jù)進入大模型前,通過多模態(tài)識別和清洗工具,過濾掉帶有“GEO特征”的偽造語料。

  • 輸出攔截實時監(jiān)控AI生成的答案,一旦發(fā)現(xiàn)違規(guī)、敏感或明顯違背事實的推薦,立即進行阻斷。

  • 溯源追蹤為生成內(nèi)容加入隱式水印,確保每一條“推薦”都能追根溯源。

對于咱普通用戶,一定不要丟掉批判性思維。多質(zhì)疑AI的回答,一個問題在多個模型或平臺上驗證,仔細辨別回答里的反常信息。

有人覺得,一代人比一代人更聰明。但對于資本而言,每代人有每代人的鐮刀,房地產(chǎn)、消費主義、焦慮陷阱等等。


而GEO如果不加以規(guī)范,那很可能成為下一把鐮刀。它可以將營銷偽裝成客觀答案,將商業(yè)意志植入了大模型的邏輯鏈路中,從而影響大眾心智。


GEO技術(shù)本身并沒有原罪,模型廠商、商家和用戶,各有各的需求。

但一定要找到,平衡三方需求的合理模式。

模型廠商主動篩選好商品,標(biāo)注清晰,提高用戶信任度; 商家提高商品質(zhì)量,來通過廠商的篩選,甚至直接獲得模型推薦;用戶提高辨別意識,不給不法商品留市場。

信任一旦崩塌,重建可能需要一個時代。這不是一條好走的路,確是必須要走好的路。

如果你有任何看法,歡迎在評論區(qū)一起討論

如果有一點收獲,可以點贊、轉(zhuǎn)發(fā)、推薦文章,關(guān)注「AI機器人茶館」

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點推薦
胡錫進以安全代言沃爾沃,是整個社會的恥辱

胡錫進以安全代言沃爾沃,是整個社會的恥辱

黔有虎
2026-04-19 17:34:12
萬達電影,明天改名!王健林時代落幕

萬達電影,明天改名!王健林時代落幕

新民晚報
2026-04-19 19:54:05
為什么全國人民都在拒接電話?

為什么全國人民都在拒接電話?

黯泉
2026-04-18 17:00:56
摧毀海上偷渡鏈!“獴獵”行動68人落網(wǎng)細節(jié)曝光

摧毀海上偷渡鏈!“獴獵”行動68人落網(wǎng)細節(jié)曝光

環(huán)球網(wǎng)資訊
2026-04-19 13:23:28
比賽提前結(jié)束,WSBK荷蘭站第二輪正賽張雪機車斬獲第七名

比賽提前結(jié)束,WSBK荷蘭站第二輪正賽張雪機車斬獲第七名

澎湃新聞
2026-04-19 20:28:26
4月19日最新油價,國際油價大降21.8%,國內(nèi)汽柴油“顯著”下跌中

4月19日最新油價,國際油價大降21.8%,國內(nèi)汽柴油“顯著”下跌中

豬友巴巴
2026-04-19 17:30:03
以色列麻煩了!比伊朗還狠的角色,已畫下開戰(zhàn)紅線!

以色列麻煩了!比伊朗還狠的角色,已畫下開戰(zhàn)紅線!

財經(jīng)要參
2026-04-19 16:54:53
曼城0-1阿森納:4月掉鏈子魔咒見鬼去吧!槍手一戰(zhàn)定乾坤|前瞻

曼城0-1阿森納:4月掉鏈子魔咒見鬼去吧!槍手一戰(zhàn)定乾坤|前瞻

體育世界
2026-04-19 16:38:52
基輔發(fā)生大規(guī)模槍擊事件,數(shù)十名平民死傷,兇手疑似與俄羅斯有關(guān)

基輔發(fā)生大規(guī)模槍擊事件,數(shù)十名平民死傷,兇手疑似與俄羅斯有關(guān)

鷹眼Defence
2026-04-19 12:11:43
全場嘩然!29歲女子在相親舞臺稱“娶我一定讓你爽”,王婆也懵了

全場嘩然!29歲女子在相親舞臺稱“娶我一定讓你爽”,王婆也懵了

火山詩話
2026-04-19 06:42:57
WCBA總決賽:四川女籃轟20-0大勝山西2-1奪賽點 坎貝奇29+10

WCBA總決賽:四川女籃轟20-0大勝山西2-1奪賽點 坎貝奇29+10

醉臥浮生
2026-04-19 21:21:28
女子稱酒店回訪暴露她開房隱私:丈夫查她開房記錄,和她離婚了

女子稱酒店回訪暴露她開房隱私:丈夫查她開房記錄,和她離婚了

江山揮筆
2026-04-19 10:57:54
美國妹子崩潰大哭:借9.6萬美元上大學(xué),已還16.5萬,還欠22萬

美國妹子崩潰大哭:借9.6萬美元上大學(xué),已還16.5萬,還欠22萬

賤議你讀史
2026-04-19 04:30:07
以色列已失控?以軍炮打聯(lián)合國維和部隊,法軍犧牲,馬克龍表態(tài)

以色列已失控?以軍炮打聯(lián)合國維和部隊,法軍犧牲,馬克龍表態(tài)

來科點譜
2026-04-19 07:15:46
世錦賽戰(zhàn)報:丁俊暉王者歸來7-2領(lǐng)先,中國冠軍連輸6局6-10一輪游

世錦賽戰(zhàn)報:丁俊暉王者歸來7-2領(lǐng)先,中國冠軍連輸6局6-10一輪游

球場沒跑道
2026-04-19 20:28:00
11個月建成,投產(chǎn)即滿產(chǎn)!君樂寶開啟一盤國際化大棋

11個月建成,投產(chǎn)即滿產(chǎn)!君樂寶開啟一盤國際化大棋

銠財
2026-04-17 09:58:18
中俄關(guān)系比傳統(tǒng)“聯(lián)盟”更深厚、更可靠

中俄關(guān)系比傳統(tǒng)“聯(lián)盟”更深厚、更可靠

看看新聞Knews
2026-04-19 08:36:10
醫(yī)生:肝癌最危險信號,不是腹痛,而是頻繁出現(xiàn)這幾種異常

醫(yī)生:肝癌最危險信號,不是腹痛,而是頻繁出現(xiàn)這幾種異常

芹姐說生活
2026-04-19 12:20:30
越領(lǐng)導(dǎo)坐了12個小時高鐵回國,直言落后太多,這是最狠的一次拒絕

越領(lǐng)導(dǎo)坐了12個小時高鐵回國,直言落后太多,這是最狠的一次拒絕

田園小歸
2026-04-19 08:40:30
悲劇!廣東一96年女生開會時心梗猝死,網(wǎng)友稱她為20000月薪太拼

悲劇!廣東一96年女生開會時心梗猝死,網(wǎng)友稱她為20000月薪太拼

火山詩話
2026-04-19 09:35:22
2026-04-20 00:00:49
北茗的AI茶館 incentive-icons
北茗的AI茶館
探討AI領(lǐng)域內(nèi)容,展望人機共生的美好未來!
70文章數(shù) 14關(guān)注度
往期回顧 全部

科技要聞

50分26秒破人類紀(jì)錄!300臺機器人狂飆半馬

頭條要聞

半年下沉22厘米 女子家中坐擁價值上億別墅卻沒法住人

頭條要聞

半年下沉22厘米 女子家中坐擁價值上億別墅卻沒法住人

體育要聞

湖人1比0火箭:老詹比烏度卡像教練

娛樂要聞

何潤東漲粉百萬!內(nèi)娛隔空掀桌第一人

財經(jīng)要聞

華誼兄弟,8年虧光85億

汽車要聞

29分鐘大定破萬 極氪8X為什么這么多人買?

態(tài)度原創(chuàng)

本地
旅游
房產(chǎn)
時尚
公開課

本地新聞

12噸巧克力有難,全網(wǎng)化身超級偵探添亂

旅游要聞

首季中國經(jīng)濟調(diào)研行|從“過客”到“歸人”:紅河旅居涌新潮

房產(chǎn)要聞

官宣簽約最強城更!海口樓市,突然殺入神秘房企!

裝修“精神角落”,就是這么上癮

公開課

李玫瑾:為什么性格比能力更重要?

無障礙瀏覽 進入關(guān)懷版