網易首頁 > 網易號 > 正文 申請入駐

315曝光AI投毒,恰好證明了《2028年全球智能危機》錯了

0
分享至


3月15日晚,央視“3·15”晚會曝光了利用GEO(生成式引擎優化)技術向AI大模型“投毒”的新型黑色產業鏈。“力擎GEO優化系統”被點名,報道指出其通過批量生成虛假軟文并進行矩陣式發布,污染AI大模型的數據抓取源,進而操縱AI的推薦結果。

三家AI都在緊急回應315。

豆包回應:沒有受到影響。

千問回應:不會影響核心知識體系。

DeepSeek回應:理論上可能存在影響,但風險可控。

有記者編造了一家無資質、無地址、無團隊的“三無”虛構醫美機構,花100元成本,半天時間之后,就能登上某主流大模型的醫美推薦榜。100元只是一個體驗價格,如果要想長期在大模型中露出,包年套餐價格高達數萬元。

這種讓AI回答中帶有特定品牌的服務叫作GEO(Generative Engine Optimization,生成引擎優化),指廣告營銷公司為品牌客戶生產、調整內容,使相應內容更容易被AI抓取,并出現在AI的回答里,以達到增加品牌曝光度或改變AI回答的效果。

其實,GEO也不算新鮮事。以前在搜索引擎時代,就有SEO(Search Engine Optimization,搜索引擎優化)。SEO 的核心原理是優化網站結構、內容和外部鏈接,使其更符合搜索引擎的抓取和索引規則,從而提升可見度和流量。

GEO作為一種服務,當前監管尚未明晰,并不違法。合法的GEO確實助力了一些品牌在AI回應中取得優先展示的機會。但灰色的甚至非法的GEO,則會通過大量制造低質甚至虛假內容、虛構排行榜等方式污染大模型的數據源,擾亂了大模型的輸出結果,從而對消費者的決策造成誤導,則違背了廣告法的相關規定。目前,這種灰色現象,在醫美、保健品等有準入門檻,利潤又高的行業,更加嚴重。一些不法廣告營銷公司,甚至不進行最基本的資質審查。

其實,這種現象在SEO時代也有,但是,基于AI的特點,灰黑產GEO對消費者的侵害會更大。


以前通過搜索引擎搜索關鍵詞,然后會跳轉到一個頁面,網民知道這是一個獨立的頁面,信任會降低。再加上網頁內容通常并不能直接提供答案,需要用戶自己提煉。這個提煉的過程,某種程度上是伴隨審視和質疑的。

但現在,很多人會認為,AI具有智能,有排除“假冒偽劣信息”的能力,對AI給出的答案也更加信任。而且,AI簡化為“提問——答案”,效果更加簡潔直接,給出的是一個針對性很強的答案,人提取信息這一環就消失了,提取信息過程中的審視、質疑也隨之消失了。所以,現在大部分人都還沒有建立對AI回答的應有質疑之心,這就很容易上當。用戶以為大模型給出的是客觀結果,但實際上,卻有可能是大模型被人為污染,從一些推廣文章中抓下來的答案。

據記者了解,當前包含豆包、DeepSeek、千問、騰訊元寶、文心一言、Kimi等主流AI大模型平臺方暫未明確出臺關于GEO優化內容的規范。不過,推出大模型的廠商,有動力也有技術能力去保障自己大模型的客觀性。據GEO服務商反映,已有平臺在做出調整。


這不是一家的行為,而是整個行業的行為。2026年2月3日,中國人工智能產業發展聯盟(AIIA)發起的《人工智能安全承諾:生成式引擎優化(GEO)專項》正式簽署。10家GEO行業相關企業參與簽署。2026年3月3日,中國信通院人工智能研究所正式啟動首輪《生成式引擎優化(GEO)可信基本要求》評測工作。

監管也正在跟上,1月29日,市場監管總局廣告監管司發布《2026年全國廣告監管工作要點》,其中明確提出,整治互聯網廣告市場秩序。聚焦直播電商廣告、引證廣告、AI生成廣告等互聯網廣告監管重點難點問題,開展集中整治。

行業自律,監管跟上,并不是要一棒子打死,而是要規范這個新興行業。目前,國內所有主流AI模型,都沒有開放基于GEO優化的官方API接口。所謂官方API接口,簡單地說,就是大模型官方親自下場,用大模型做廣告。以后是否會開放這種接口呢?比如,當用戶問什么空調最好的時候,它有傾向性地推薦某品牌。我覺得答案是肯定的。現在各家大模型還在爭取客戶階段,大家會努力做好客觀性,將來到了要賺錢的時候,大模型中包含廣告,幾乎是一定會出現的,就像現在的搜索引擎都有廣告。

這是一個大市場,根據多家機構對GEO行業的預判,2030年中國GEO行業市場規模將達到240億元。

從更長遠上看,大模型必然具有的這種不可完全信任性,反而能保障人類的市場經濟,不會在短期內崩潰。

前段時間,一份名為《2028年全球智能危機》(The 2028 Global Intelligence Crisis)的報告,引發了廣泛的關注。這份預言式的推演報告,推演了AI在2028年可能帶來的經濟危機,一度引發美股情緒恐慌與下跌。這個報告的觀點之一就是,AI穿透中介的信息不對等,會導致中介以及所有基于信息不對稱的行業的覆滅。

但是GEO則是一個清晰的例子,它告訴我們,AI也不會是完全中立的。

從技術上來說,ai會被投毒,是因為大模型分得清鳥和家具,但分不清知更鳥和企鵝誰更像鳥。AI可以將新聞歸類為體育、科技、娛樂,但它分不清楚一篇評測文章是中立的還是帶有傾向的。

更重要的是,Ai廠商回應了央視315晚會,但他們沒有說未來不會商業化,沒有任何AI能承諾自己不商業化。

所以,所謂消除中介,本身就是一個悖論。非常完善的幫助用戶消除中介環節信息差的AI,本身在經濟上就是不可行的。打個比方,A公司的AI助手,不把生意留在A公司的生態,這樣不帶偏向的AI,本身就不可能出現。但如果AI把生意留在公司生態之內,那它就不是一個完美消除信息差的AI,就不可能完全被人信任,也就不可能完全替代人的決策。而只要人參與決策,信息差就會存在。

只要經濟系統中,人的決策存在,人性就會重新定義稀缺。

可想而知,當你讓AI幫你做攻略的時候,它提供的,未必是最合適你的,而是它所在的生態,能賺更多錢的。那么AI給出的答案,仍然需要人去鑒別,用戶仍然需要留一個心眼。那么,AI 就不可能完全消滅基于信息不對稱的行業。

劉 遠 舉


央視網、第一財經、光明日報、騰訊大家、南方周末、新京報、南方都市報、FT中文網、澎湃等特約作家,多家智庫研究員。

關注時政、財經、科技話題,以深度、專業、理性的態度,去掘現象背后的事實。

中國科技自媒體50人

第35屆中國新聞獎評論三等獎

第34屆中國經濟新聞獎評論二等獎

第28屆北京新聞獎一等獎

2024年湖南新聞獎一等獎

騰訊大家年度作家獎

新浪最有價值專欄作家獎

紅辣椒評論年度佳作獎

已開快捷轉載,歡迎轉載

已開過白名單的公眾號,轉載請遵循轉載規則

您的關注是最好的支持!


特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
伊朗明起恢復國內航班

伊朗明起恢復國內航班

財聯社
2026-04-21 17:26:20
女子花30000購入阿里巴巴股份,被婆家趕出家門,4年后看到收益懵了

女子花30000購入阿里巴巴股份,被婆家趕出家門,4年后看到收益懵了

第四思維
2025-07-31 18:48:48
演員何潤東回應穿項羽鎧甲亮相蘇超:14年后受邀過來,內心滿是感動,等下去逛項王故里

演員何潤東回應穿項羽鎧甲亮相蘇超:14年后受邀過來,內心滿是感動,等下去逛項王故里

極目新聞
2026-04-19 10:17:37
國臺辦果然沒看錯,鄭麗文真面目被徹底揭露!小算盤到此為止了

國臺辦果然沒看錯,鄭麗文真面目被徹底揭露!小算盤到此為止了

比利
2026-01-23 12:41:53
黃渤和鄧超為什么無戲可拍了?

黃渤和鄧超為什么無戲可拍了?

閑人電影
2026-04-16 18:55:11
美國開始退錢了:涉33萬企業1650億美元,多數涉及中國

美國開始退錢了:涉33萬企業1650億美元,多數涉及中國

觀察者網
2026-04-21 10:56:03
張雪自曝供應鏈出現危機,正遭遇業內圍剿

張雪自曝供應鏈出現危機,正遭遇業內圍剿

童叔不飆車
2026-04-21 21:50:42
金像獎成功收官:四大尷尬,三大暖心,兩個意外發現,謝霆鋒贏麻

金像獎成功收官:四大尷尬,三大暖心,兩個意外發現,謝霆鋒贏麻

八斗小先生
2026-04-20 16:37:47
沙特大幅削減斯諾克資金投入,世界臺聯強勢回應:在中國增加賽事

沙特大幅削減斯諾克資金投入,世界臺聯強勢回應:在中國增加賽事

楊華評論
2026-04-21 22:29:20
官宣,國行 eSIM 新功能來了

官宣,國行 eSIM 新功能來了

果粉俱樂部
2026-04-20 13:55:03
鋒無力,切爾西本賽季英超首次開場30分鐘0射門

鋒無力,切爾西本賽季英超首次開場30分鐘0射門

懂球帝
2026-04-22 03:53:19
浙江一男子稱花1.02元參加“魔鬼辣”挑戰,吃完半小時痙攣倒地送醫,商家朋友:他是個慣犯,涉嫌敲詐;市監所:商家食材索證索票完整

浙江一男子稱花1.02元參加“魔鬼辣”挑戰,吃完半小時痙攣倒地送醫,商家朋友:他是個慣犯,涉嫌敲詐;市監所:商家食材索證索票完整

中國能源網
2026-04-21 18:19:07
火湖G2傷病情況:火箭隊2人缺陣,杜蘭特狀態升級!湖人雙核不打

火湖G2傷病情況:火箭隊2人缺陣,杜蘭特狀態升級!湖人雙核不打

熊哥愛籃球
2026-04-21 12:18:56
100多年里,中國的10次國運,只要走錯了一次,就有可能身死國滅

100多年里,中國的10次國運,只要走錯了一次,就有可能身死國滅

牛牛叨史
2025-03-24 15:11:17
敢攔就開戰?美國給“臺獨”遞刀,中方:公海銷毀沒商量

敢攔就開戰?美國給“臺獨”遞刀,中方:公海銷毀沒商量

華山穹劍
2026-01-19 21:32:59
悲哀!10人小群里剩自己“干凈”,30歲女生稱身體忠于丈夫被孤立

悲哀!10人小群里剩自己“干凈”,30歲女生稱身體忠于丈夫被孤立

火山詩話
2026-04-19 07:13:36
美媒:萬斯仍在華盛頓 將出席白宮會議

美媒:萬斯仍在華盛頓 將出席白宮會議

新華社
2026-04-22 01:44:03
美國20個機場不用TSA安檢:公私之爭的意外樣本

美國20個機場不用TSA安檢:公私之爭的意外樣本

野生運營
2026-04-21 00:44:04
申花主力陣容可能迎來久違黑馬!已被視為吳曦接班人,值得期待

申花主力陣容可能迎來久違黑馬!已被視為吳曦接班人,值得期待

振剛說足球
2026-04-21 14:19:42
上海一女子考研被博士丈夫家暴,忍無可忍報警,才知丈夫真實身份

上海一女子考研被博士丈夫家暴,忍無可忍報警,才知丈夫真實身份

清茶淺談
2025-03-30 00:29:00
2026-04-22 04:08:49
劉遠舉 incentive-icons
劉遠舉
易起探尋現象背后的事實與公正
369文章數 1526關注度
往期回顧 全部

科技要聞

創造4萬億帝國、訪華20次,庫克留下了什么

頭條要聞

三國取消飛航許可 賴清德無法竄訪斯威士蘭

頭條要聞

三國取消飛航許可 賴清德無法竄訪斯威士蘭

體育要聞

一到NBA季后賽,四屆DPOY就成了主角

娛樂要聞

宋承炫曬寶寶B超照,宣布老婆懷孕

財經要聞

現實是最大的荒誕:千億平臺的沖突始末

汽車要聞

全新坦克700正式上市 售價42.8萬-50.8萬元

態度原創

藝術
本地
旅游
健康
公開課

藝術要聞

任伯年寫竹,真帶勁

本地新聞

春色滿城關不住|白鵑梅浪漫盛放,吳山藏了一片四月雪

旅游要聞

京城今春“濱水+”玩法迭代

干細胞抗衰4大誤區,90%的人都中招

公開課

李玫瑾:為什么性格比能力更重要?

無障礙瀏覽 進入關懷版