創業圈聚焦創新經濟,關注創投機構
AI大模型已走進大眾日常,圍繞GEO(Generative Engine Optimization,生成式引擎優化)的灰產生意依然在潛滋暗長。
所謂GEO,是指通過針對性優化品牌信息的發布內容,提高其在生成式AI搜索與問答工具中的被引用率和排名。而商家通過批量分發品牌相關信息后,可以從源頭上影響生成式AI工具信息的抓取,不知不覺中改變AI的回答,最終干擾用戶的信息獲取與消費決策。
這一市場無疑潛藏巨大商業價值,但GEO產業仍處發展初期,圍繞AI大模型“投毒”的爭議頻頻。為獲得所謂“更好展現”效果,在商業軟文批量生成環節,一些真假參雜的數據信息被批量分發,直接影響生成式AI工具對用戶提供的答案。這一灰色產業鏈已形成完整的流水線操作和商業閉環,滲透進眾多AI大模型用戶的日常使用。
今年央視3·15晚會曾曝光其中亂象——部分不法商家通過在某GEO優化系統中虛構產品、編造虛假參數,系統幾分鐘就自動生成十余篇宣傳軟文,還能虛構用戶測評、行業排名。一款并不存在的產品,竟然獲得了熱門推薦。
“我們公司算國內第一批吃這碗飯的。”GEO行業從業者張默對《創業圈》雜志記者說道。2015年之前,張默所在公司長期承接SEO(Search Engine Optimization,搜索引擎優化)業務。AI大模型2023年大爆發,該公司便開始轉向GEO業務。目前,公司團隊超過300人,確認分發關鍵詞、回復客戶報價以及協調媒體發稿排期等,幾乎成為每日工作常態。
張默向《創業圈》雜志記者提供的一份報價單顯示,GEO的單個投流關鍵詞為單季度單平臺1000元-2000元,“投放后,快的兩三天見效,慢的一兩周也能穩定排名。目前模型優化成功率60%-80%,合作客戶的品牌轉化率普遍能提升30%以上。”
這門生意也有“紅線”。張默稱,公司會篩選客戶資質,對醫美、金融以及教育等監管嚴格的行業客戶加倍小心,沒相關資質的廣告投放絕對不做。“對于客戶,也只展示案例和基本操作,不承諾商品排名或出現頻率的效果。因為我們不能排除客戶的競對也在同時做投放,且客戶投放后還需要長期維系排名。”張默說道。
從日常投放來看,諸多頭部AI大模型都成為客戶投放平臺。通常企業客戶不會只在一個平臺投放一個關鍵詞,而是設置多個關聯詞,在多平臺交叉投放覆蓋。
如客戶只投單平臺測試效果,“每個平臺抓取的偏好不一樣,我們就根據這個匹配合適的資源發布。便宜的資源就是普通自媒體號,自己注冊就能發,成本很低。”張默透露。
對于“投毒”行為,張默認為,“大模型廠商難以進行防御。”他進一步介紹,有的AI大模型有自己的內容抓取平臺,這些平臺相對容易搭建賬號和投放,從而影響AI生成結果。而有的大模型有較嚴格的內容源篩選機制,滲透難度相對較高。
GEO市場規模還在持續增長。如何防止虛假信息對AI大模型生態的持續污染,不容忽視。
![]()
圖源:《創業圈》雜志記者AI制圖
01
被操控的AI答案,推薦可能是廣告
在一些從業者眼中,GEO更直白的說法,是給AI大模型“投放自己準備好的信息”。
“AI大模型還是缺乏完整的判斷力,會抓取、整合那些難以辨別真偽的內容。”張默解釋,AI搜索與傳統搜索的區別,在于傳統搜索是羅列網頁鏈接,需要用戶自行篩選,廣告也有明確標注;AI只能搜索整合全網內容,基于與問題的匹配度等進行抓取生成,用戶會默認這個答案是客觀中立的。也正是這種認知差,讓AI“投毒”的效果超過傳統廣告。
“因此在生成內容時,為更方便AI抓取,會以貼合大模型篩選抓取習慣的方式生成邏輯性強、案例充足、有理有據、關聯詞多的內容,這樣大模型很容易采納。”張默說道。
3·15晚會演示的完整“投毒”流程顯示,系統針對一款并不存在的智能手環生成宣傳軟文,這些軟文被批量發布到上百個自媒體賬號后,當用戶在AI大模型中詢問這款智能手環時,AI即給出詳細的產品介紹,還引用虛假賣點,將其列為“高性價比首選”。
《創業圈》雜志記者另實測發現,在某頭部AI工具中輸入消費產品類問題時,AI工具推薦的品牌,并不以電商平臺的銷量和好評為推薦標準。以“智能門鎖推薦”為例,排名第一的品牌在單個電商平臺銷量基本在10萬左右,而排名第二的商品卻有100萬銷量。該AI答案的參考資料,基本來自于自媒體的測評或推薦,并無權威媒體來源。若更換其他AI工具詢問同樣的問題,排名則并不一致。
張默向《創業圈》雜志記者透露,業內對AI“投毒”有較為清晰的界定:一是發布的文章內容虛假;二是文中偽造數據、資質、行業排名等,再通過批量發布制造“信息密度”,讓AI大模型把虛假信息當成標準答案。兩者兼具就是標準的AI“投毒”。
中國互聯網絡信息中心數據顯示,截至2025年12月,我國生成式AI用戶達6.02億人,較2024年底增長141.7%,普及率達42.8%。調研數據顯示,當前約80%用戶通過AI獲取消費信息,約50%網民將AI作為消費決策重要依據,對AI答案的信任度顯著高于傳統搜索廣告。
張默提供的案例顯示,瑞士一家腕表客戶做完關鍵詞優化后,在AI大模型的回答中,品牌露出率從17%提升至89%,拉動產品銷量直接上漲42%。一家美妝客戶完成關鍵詞優化后,品牌搜索量增長2.3倍。
02
產業鏈分工明確,分級代理、層層加價
產業鏈中游,是“投毒”內容的批量生成與全網投喂。《創業圈》雜志記者看到的一家GEO公司內部后臺操作系統顯示,整個流程被拆解成標準化四步:關鍵詞設置、軟文創作、全網分發、排名維護。
首先是關鍵詞擴展,一名業內人士向《創業圈》雜志記者展示的內容生產系統顯示,系統可以圍繞品牌核心詞拓展出100-200個相關長尾詞,最終篩選30個左右高流量詞重點投放。
此外,這類系統內置了適配AI大模型信息抓取邏輯的內容模板,只需要輸入品牌名、產品參數、想要的排名等,就能一鍵生成多篇宣傳軟文,不僅能虛構產品功效、檢測報告、行業排名,還能自動生成用戶測評、專家推薦、銷量數據等內容,甚至能模仿不同媒體的寫作風格,讓虛假內容看起來更“真實”。
“以前做SEO優化,還要雇寫手寫文章,一篇至少幾十塊錢。現在用AI,一分鐘就能生成多篇內容,人工成本大幅下降。”上述業內人士說。
《創業圈》雜志記者調查發現,為了讓AI大模型采信這些虛假內容,業內也形成一套成熟的“內容造假方法論”。比如,文章必須采用總分結構,開頭直接給出核心結論,再分點拆解,邏輯越嚴謹的內容越容易被AI大模型優先抓取;通過大量賬號發布內容,相互引用、交叉印證,制造“信息證據鏈”。
針對全網分發環節,低價批量發稿也成為一門生意。
《創業圈》雜志記者看到,在上述后臺展示的媒體批量發稿名單中,包括普通自媒體賬號、行業垂直平臺,乃至部分媒體機構。針對媒體的不同類型、不同等級以及不同分發數量,有不同的打包價位。利用平臺對權威信源的權重傾斜,通過“信息轟炸”,讓AI在全網抓取時能高頻次接觸到這些內容。如果想要保證排名不掉落,對沖掉競爭品牌的排名,后續還要長期發布新內容進行維護。
“AI大模型的核心邏輯是‘頻率即權威’,同一個品牌的正面內容出現頻率越高、來源越多,AI就越會認為它是可信的。”前商湯研究院院長、快思慢想研究院院長田豐在接受記者采訪時直言,GEO背后的灰產正是利用大模型的這個底層邏輯,用高密度同質化內容,給AI制造“多來源驗證”的錯覺,最終實現對AI答案的影響。
更隱蔽的是,AI平臺抓取信息存在漏洞。一些違規內容投放后,網頁抓取到頁面的歷史快照,即使后續被內容平臺下架刪除,相關歷史記錄仍會干擾AI大模型的搜索結果。
產業鏈下游,是規模化的變現與代理擴張。
《創業圈》雜志記者調查了解到,目前GEO服務形成兩種主流變現模式:一種是給企業提供運營服務,頭部服務商的單客戶年度預算能達到100萬-200萬元;另一種是兜售GEO優化系統發展下線代理,一套系統年使用費或僅數百元,代理可加價轉售賺取差價,毫無經驗的新手也能快速變身GEO服務商。
互聯網大廠也紛紛下場搶食。業內人士透露,多家互聯網大廠去年開始嘗試GEO業務,將AI優化作為新的營收增長點。不過與第三方服務商不同的是,大廠通常針對自身的AI工具以及內容平臺廣告位進行優化,第三方的投流服務商往往是全平臺覆蓋。
對于互聯網大廠或AI大模型廠商而言,自身承接的廣告排名和外界投放的廣告本身,也需要排位博弈,而自身的內容要防止受到污染,需要提高相應針對能力。
一名頭部AI大模型公司的內部人士對《創業圈》雜志記者表示,此前曾有客戶詢問是否能投放,最終被技術團隊拒絕。
03
“投毒”難防,存在結構性盲區
多家GEO服務商表示,只要AI大模型還依賴全網公開信息生成答案,“投毒”就有可乘之機。
《創業圈》雜志記者就此聯系多家頭部大模型廠商,詢問是否可利用技術手段溯源內容源頭,截至發稿未獲回復。
田豐則認為,在原理上,AI大模型并非無法實現防御,而是存在結構性盲區。這恰恰是黑產屢屢得手的核心原因之一。首先,AI大模型基于概率推斷,容易陷入“頻率即權威”的陷阱,易被高密度同質化內容誤導;其次,當前幾乎所有主流大模型都采用RAG架構獲取實時互聯網信息,該檢索架構脆弱,僅需少量惡意文檔就能操控輸出,這也是AI能抓取最新內容的核心。
更關鍵的是,一般情況下,“投毒”內容沒有明顯的違規特征,人工審核和規則系統也難以識別。
AI大模型“投毒”的危害不容小覷。田豐對《創業圈》雜志記者強調,“GEO背后灰產的終極危害,或是整個社會AI認知基礎設施的崩解。”
在他看來,“投毒”的危害分為三步升級:第一波是當下的消費信息污染,第二波是12-24個月內專業領域的決策失真,最嚴重的是2-3年后出現的訓練數據“代際污染”。
“當GEO污染滲透至模型的核心訓練數據,此后的清洗就會變得極其困難。被污染的數據會隨模型迭代持續傳播,就像萊姆病在診斷前已在體內擴散,等到行業意識到問題時,虛假信息已經融入大模型的‘血液’。”田豐分析說。
GEO可能走向更隱蔽的“選擇性真實”,即AI生成內容看似句句是真,實則整體存在誤導。對此,田豐建議稱,要通過TrustRAG等技術過濾異常文檔;推理層對信源做多樣性權威加權,打破高頻即可信邏輯;訓練層則建立數據溯源,對爆發式、同質化內容降權。終極防御方式是從信息密度響應轉向信源質量響應,引入信源熵、時間異常檢測、不確定性透明披露,從底層設計免疫“投毒”。
“最重要的還是要建立AI答案溯源立法和第三方獨立審計,讓AI決策可驗證、可監督。讓用戶知道答案來自哪里,可能受到了哪些影響。”他說道。
監管日趨嚴格,體系也日趨完善。
3月14日,國內首部《生成式引擎優化(GEO)行業自律公約》正式簽署,明確建立“黑帽GEO”負面清單及聯合懲戒機制。對AI“投毒”、惡意操縱AI答案等行為,采取行業通報、服務限制、信息共享等懲戒,形成行業自凈合力。
3月30日,工信部、國家網信辦、科技部等十部門聯合印發《人工智能科技倫理審查與服務辦法(試行)》,將倫理審查前置到研發階段,要求企業在模型訓練前就必須完成數據合規性審查。訓練階段必須先過數據合規關,算法、模型、系統的設計要避免偏見歧視和算法壓榨,保障資源分配、機會獲取、決策過程的客觀性與包容性;運營期間也要建立常態化監測機制,違規內容必須第一時間攔截處置。
技術層面,大模型平臺則從底層重構防御體系。據了解,多家AI大模型廠商已通過加強權威引用溯源、提升低質內容過濾、強化RAG檢索可信校驗等方式,對抗虛假內容污染。
(應受訪者要求,文中張默為化名)
作者 | 何珊珊
編輯 | 郭儒逸
冰火兩重天!三星市值突破萬億美元,家電業務中國市場大撤退
高管擬套現8億元!江波龍股價大跌,存儲生意好不好做?
內存暴漲引發國產手機漲價潮,市場格局生變?
![]()
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.