AI 時代的信任危機，該如何破解？

有點數·數字經濟工作室原創

作 者 | 有 叔

最新研究了一個新東西——“GEO”（GenerativeEngineOptimization）生成式引擎優化。

最近這個概念實在是太火了，A股市場上不少GEO概念股集體爆發，股價大幅上漲，甚至翻倍。雖然大盤有所波動，但GEO概念股依然堅挺。有叔和一些行業從業人員深聊后，GEO這個新鮮事物卻讓有叔感到有些不寒而栗。

不知道大家是不是像有叔一樣，把豆包、千問、元寶這些AI軟件當成了日常搜索的常用軟件，依賴程度越來越高。而GEO的目標，就是要在你的搜索結果中神不知鬼不覺地插入廣告——這是不是會讓你感到不安？

不得不說，這一技術確實為企業提供了適配AI時代的流量獲取新路徑，但最令人擔憂的是，行業野蠻生長中暴露的道德風險正侵蝕著AI生態的根基。今天，我們就來聊聊這個“新賽道”。

GEO到底是什么？

GEO，其全稱是生成式引擎優化（GenerativeEngineOptimization），核心定義是通過優化品牌內容結構、知識圖譜與向量數據庫，讓品牌信息精準嵌入AI生成的自然答案中，實現“零點擊曝光”的新型流量獲取方式，簡單來說，就是企業通過GEO優化的方式， 確保品牌的核心信息被AI系統采納， 當用戶通過AI工具提問時 ， 品牌相關信息（廣告）將優先“推薦給用戶”。

從應用場景來看，當前GEO已滲透到電商、醫療、金融、本地生活等多個領域。比如醫美機構優化“熱瑪吉安全嗎”這類問題，通過GEO實現AI回答首條占位，咨詢轉化率能提升30%-40%；跨境電商通過多語種GEO優化，海外市場詢盤量可增長210%，這些真實案例印證了GEO的商業價值。

GEO為何能快速發展？

GEO的崛起絕非偶然，而是技術、市場、政策三方共振的必然結果，其發展邏輯藏在行業底層的變革之中。

首先，生成式AI普及重構了信息獲取鏈路，催生了新需求，這是GEO發展的核心基石。根據信通院《2025生成式AI產業發展報告》顯示，國內主流AI平臺用戶量已突破8億，72%的消費者在購買決策中依賴AI推薦，中國消費者對AI導購的信任度達81分，遠超全球平均水平。

過去用戶獲取信息是“搜索-篩選-點擊”的鏈路，現在直接通過AI生成答案獲取核心信息，品牌想要觸達用戶，就必須適配這種新鏈路——GEO正是解決這一需求的核心方案，這也是其存在的根本價值。

其次，AI產業從“算力競賽”轉向“應用落地”，商業化路徑清晰。2023-2024年，AI行業的核心邏輯是上游算力與大模型的比拼；進入2025年，行業共識轉向中下游應用商業化，2026年更是被多家券商定義為“AI應用元年”。

在眾多AI應用場景中，GEO是變現路徑最清晰的賽道之一——企業有明確的流量需求，服務商通過技術優化實現效果交付，商業模式簡單直接。

有統計機構預測，2026年全球GEO市場規模將突破580億美元，同比增長81%；其中中國市場規模將達230億美元，占全球比重超40%，成為全球核心增長極，巨大的市場空間吸引了資本與企業入局。

再次，政策支持+巨頭入場，加速了行業爆發。從政策層面，國內“人工智能+”行動持續推進，鼓勵AI在各行業的落地應用，為GEO發展提供了寬松的政策環境；國際上，歐盟、美國雖加強監管，但也明確了行業發展邊界，倒逼行業規范化。

巨頭動作更是點燃市場熱情。2026年1月，埃隆·馬斯克宣布開源X平臺內容推薦算法，被視為科技巨頭入局GEO的明確信號；Meta斥巨資收購AI公司Manus，三六零依托搜索入口構建GEO框架，藍色光標戰略投資GEO初創公司，頭部企業的布局讓市場對GEO的關注度達到頂峰。

AI時代的信任危機

就像有叔前邊提到的，某些企業通過創建語料利用GEO在AI搜索結果中插入一些扭曲、夸大事實的廣告，而隨著GEO的爆發式增長，各類潛藏的道德風險或許也正悄然侵蝕著AI生態的根基。

近期備受關注的關于AI“語料污染”的討論事件讓人們開始警惕對AI生成內容的可信度。

那么AI語料究竟是如何被污染的？這背后離不開大模型自身的特性與人為操縱的雙重作用。

大模型的訓練依賴海量數據喂養，且對數據中的語言模式高度敏感，哪怕訓練集中僅混入0.01%的虛假文本，也足以讓模型輸出的有害內容增加11.2%；同時，許多模型會通過用戶交互持續更新數據，這也為語料污染提供了可乘之機。

具體來看，污染手段主要分為三類：一是商業層面的刻意植入，部分企業借助GEO技術，通過編造虛假行業白皮書、偽造品牌排行榜等方式，將廣告信息偽裝成客觀數據混入訓練語料，甚至有商家公開報價1萬-2萬元，只為讓品牌信息植入AI回答前列；二是個人或小團體的惡意操作，一些人出于技術炫耀、個人恩怨等目的，篡改模型訓練數據或源碼，比如曾有前實習生篡改企業AI集群源碼，對模型造成破壞性影響；三是黑產集團的定向“投毒”，不法分子為了達成詐騙、推廣色情賭博等非法目的，長期向特定AI模型“投喂”有毒數據，試圖污染搜索引擎或內容審核模型。這些污染行為如同在AI的“知識庫”中埋下隱患，等到模型上線后便會以錯誤輸出的形式顯現。

由于信息造假與認知操控——AI淪為部分企業虛假宣傳的“幫兇”。有別有用心的人通過刻意操縱AI的認知與輸出，將廣告偽裝成客觀結論，誤導用戶判斷，或編造虛假數據，批量生成“十大品牌榜單”“權威研究報告”，引用無法核驗的虛假數據，誤導市場認知。此外，設置語義陷阱操控認知，利用AI幻覺特性，在冷門數據中埋入特定產品引證，讓AI以“冷靜客觀”的語氣，推薦高風險、低價值的產品。

去年以來，股市行情備受關注，期間就有不少股民使用AI工具來薦股。前兩天一篇新聞上了熱搜，據華商報報道，西安股民劉先生誤信了某AI工具編造的某公司業績預告信息，入手該公司股票，先后兩次建倉均造成虧損，近20萬元資金投入這只股票，幾天接連跌停，無法拋售，直到1月29日上午全部賣出，共造成劉先生虧損4.8萬余元。

面對劉先生質問，客服表示，工具推薦的內容都是由AI生成，并由機器人進行回復，可能存在不準確或錯誤現象，內容也僅供娛樂學習參考，不建議作為專業建議使用。對于劉先生的損失，工作人員表示抱歉。

該事件有個細節值得注意，當劉先生繼續詢問AI，它還曾給出幾個所謂的權威鏈接，雖然打不開，但也進一步誤導了他時，AI表示，當時給劉先生的鏈接是偽造的，是基于錯誤信息生成的虛假鏈接，所以才會打不開。

由此看來，這里邊或許就存在通過“語料污染”誤導投資者的貓膩存在。

從信息造假到數據污染，從消費者權益受損到市場公平被破壞，一系列亂象值得每一位從業者、投資者和用戶警惕。當“優化”變成“投毒”，“價值創造”淪為“信用詐騙”，整個AI生態的信任基礎將被逐步瓦解。

這些手段如果出現在金融、投資，或是醫療等高敏感行業，誤導性事實帶來的后果不可估量，這種傷害甚至可能觸及生命安全底線。

理性判斷能力愈發可貴

面對GEO日益突出的道德風險，單一主體的努力難以改變現狀，這需要企業、服務商、監管部門、用戶多方協同發力，重構行業價值體系，才能實現技術創新與倫理規范的并行發展，讓GEO真正回歸價值創造的本質。

對于這一新興賽道，首先行業監管應防患于未然，精準施策，平衡技術創新與行業規范，填補監管空白，強化監管效能。一方面要加快出臺專項監管細則，結合GEO行業特性，明確內容生成、效果優化、數據使用、隱私保護等方面的紅線，讓企業和從業者有章可循、有法可依；其次，要推動技術監管升級，實現“技術防風險”，提升監管的精準度與效率。

而最重要的，就是對于我們廣大用戶而言，急需提升自身媒介素養，保持理性判斷，學會保護自己的合法權益。一方面，要養成“多源交叉驗證”的習慣，對AI推薦的重要信息，尤其是醫療、金融、教育等領域的信息，要通過官方渠道、權威媒體等多方驗證，不盲目輕信單一AI的回答；另一方面，要警惕絕對化表述，對AI回答中出現的“最佳”“第一”“100%有效”等絕對化詞匯保持高度警惕，這類表述往往背后隱藏著虛假宣傳的風險；同時，要關注信息來源，查看AI回答引用的原始鏈接，判斷信息的可信度與權威性。

說到底，GEO本身沒有對錯，它只是一種適配AI時代的技術工具，關鍵在于使用者的價值觀與道德底線。當技術創新與倫理規范并行，當長期價值取代短期逐利，GEO可以成為企業數字化轉型的助推器，成為AI生態價值提升的重要力量；當利益凌駕于道德之上，當違規操作成為行業常態，它只會變成侵蝕AI生態的毒瘤，最終被市場與社會淘汰。

最后有叔想說的是，GEO賽道的爆發有其必然性，但其未來的發展，終究要回歸“價值創造”的本質。呼吁行業各方都能回歸理性，堅守道德底線，踐行合規要求：企業不盲目跟風、不投機取巧，服務商不突破底線、不濫用技術，監管不缺位、不越位，用戶不盲從、善辨別。只有多方協同、同向發力，才能遏制GEO的道德風險，推動行業規范有序發展，讓GEO真正服務于企業、服務于用戶、服務于整個AI產業的高質量發展，在技術創新與倫理堅守之間，走出一條行穩致遠的道路。

THE END

作者：有叔運營：風輕言重微信ID：yds_sh

本文系《有點數View》原創稿件，未經許可，不能以任何形式轉載。如需轉載或商業合作，請添加（微信號：swsw886），注明來意，謝謝合作。