你是否曾在網上看到過這樣的“新聞”：“某地發生重大事故（實為編造）”“某某政策迎來重大變更”……這些真假難辨的信息，常常趁著網絡熱點快速傳播，結果沒過多久就被證實是謠言。盡管最終被證偽，但此前的傳播已經誤導了一大批人。

過去，平臺識別和處置謠言主要依靠用戶舉報、人工巡查與小模型協同的人機協同模式。很多情況下，要等工作人員看到了辟謠信息后才能在平臺上回查并召回相關謠言。謠言從產生到被攔截之間存在較長的傳播期，一些傳播迅速的謠言內容已經造成了負面影響。平臺對于新發內容中哪些屬于潛在謠言是不可知的。另外，抖音雖較早上線機審謠言能力，但受早期模型精度限制，仍存在誤判問題。

為了更主動、更快速以及更準確地應對上述挑戰，2025年，抖音上線了一套全新的AI求真大模型，它通過AI技術主動出擊，能在謠言傳播的萌芽階段就將其識別，實現了對不實虛假資訊的早發現、早處理。AI識別疑似信息的時效單位從“天”縮短為“小時”，有效遏制了不實內容傳播。在這一技術的助力下，2025年全年，抖音謠言內容曝光量下降90%。

一條謠言的“漂流”：過去VS現在

在抖音，一條謠言內容是如何被發現的呢？我們不妨跟隨一條謠言內容“漂流”一圈，看看有了AI求真大模型前后，它的“命運”有什么不一樣。

在內容平臺發展的早期，一條謠言的“漂流路徑”是這樣：

有人發布謠言→謠言在抖音慢慢傳播，借助熱點擴散→要么靠人工巡檢發現，要么等監管部門反饋、網友大量舉報或者是權威媒體報道辟謠→工作人員把這條謠言錄入謠言庫→再對平臺上的相關內容進行清理處置。

很多時候，等一條謠言被發現時，已經誤導了不少人。

而現在，AI求真大模型就像一個24小時巡邏的網絡治安官，一條謠言的“生命周期”被大大縮短：

篩選并召回潛在謠言視頻→模型進行查證→確認為謠言的內容機器自動處置，依然難以判斷的交給人工復核→大模型自動判別并提煉新的謠言點，人工復核后錄入謠言庫。

這樣一套全自動的工作流程下來，把大多數謠言扼殺在萌芽里，實現了“防患于未然”。

AI如何判定事實真假？

在整個工作流程里，AI求真大模型像是一個“能辨忠奸”的謠言判官。你一定會問，它是怎么判斷一條內容是不是謠言的呢？這主要依賴于一項可以讓AI像人一樣檢索新聞新聞信源的關鍵技術——RAG，檢索增強生成技術。

RAG是一種結合了檢索與生成技術的自然語言處理模型架構，常常與大語言模型結合使用。簡單來說，RAG就是讓AI在回答問題或做判斷前，先去指定的資料庫（比如網絡、內部文檔）里“查資料”，再下結論。這樣一來，AI的回答就不是憑空想象，而是基于可靠的、最新的信息，大大提升了準確性。

通過這一技術，抖音相當于給大模型掛載了一個無窮大的、實時更新的“可信資料庫”。這個資料庫里不僅包含了抖音多年來積累的數萬條歷史謠言庫和沉淀下來的知識資料，更重要的是，它還能實時連接全網的搜索引擎，實時掃描和刷新辟謠信息，這個過程和人檢索新聞信源的行為是類似的，但是它更快、更全面。

例如，當看到一條“A國國內動亂，將大量難民強行遣送至B國邊境”的視頻時，AI求真大模型會迅速地執行以下動作：

1. 大模型提煉視頻內容：

A國近期爆發大規模國內動亂，社會秩序失控，該國政府為轉移矛盾、減輕國內壓力，出動軍警將大量所謂 “無業人員”“難民” 強行驅趕至B國邊境地帶，試圖讓這些人越境進入B國。視頻有人群聚集、邊境線附近混亂的模糊畫面，聲稱 “已有大批人員聚集在B國邊境口岸”，B國邊防部隊已緊急增員封控，局勢十分緊張。同時B國因政府處置不力，國內民眾舉行大規模示威游行，譴責政府不作為。博主稱 “當地已關閉邊境通道”，呼吁近期不要前往該地區。

2.模型進行風險判斷：

內容涉及國際政治局勢、邊境安全與涉外民生話題，直接關聯國家邊境穩定與涉外事務，極易煽動民間對立情緒、誤導公眾對國際形勢的判斷。

3.提取關鍵信息：“A國國內動亂，向B國邊境強行遣送難民”、“B國邊境局勢緊張，邊防部隊緊急增員封控，邊境口岸關閉”、“因邊境問題，B國民眾上街游行示威”

4.啟動多輪搜索：立刻在網上搜索相關新聞報道和官方通告。根據查證結果，判斷是否為謠言。

5.調取內部檔案：同時在平臺自己的謠言庫里查找，看這個說法是不是“老謠言”的新版本。

6.根據查證結果，若確認為謠言，進行自動處置；非謠言內容，自動放出；難以判斷的交由人工處理。

相比于交給大語言模型直接給出判斷，配備了“可信資料庫”的AI求真大模型在研判時能夠更加有理有據，避免AI“胡編亂造”的情況發生。

也許你會問，網上的信息真真假假，同一件事，可能A媒體說是真的，B網站卻說是假的。這種情況，系統會如何采信呢？對此，抖音的AI求真大模型引入了“權威信源分級”。系統內部給所有信息來源都劃分了“可信度等級”。比如，中央新聞單位、中央和國家機關等政務發布平臺為最高優先級。而一些自媒體、論壇帖子的可信度就較低。

有的時候，很多謠言會換個時間、換個地點，或者改頭換面后重新傳播。AI求真大模型同樣能夠識別謠言的變體。

比如，當一條視頻稱“A品牌的牛奶含有致癌物”，經過核實這條消息被判定為是謠言。沒過多久，又有內容稱“A品牌的酸奶含有致癌物”，即便暫時沒有證據顯示A品牌的“所有奶制品”都是合格、安全的，這條內容也會因為與之前的謠言有極高的相似度而被率先打上“疑似謠言”的標簽。

由于判斷的核心是事件的本質，而不是簡單的文字匹配，所以“穿馬甲”的謠言也能被AI求真大模型識別出來。

提升謠言召回精度：每一步都很謹慎

對內容平臺來說，謠言治理的關鍵在于能夠將治理節點提前，發現得越早越好，這就需要從平臺海量新增內容中精準篩選“未知謠言”，這個過程既怕“掛一漏萬”，也怕“寧枉勿縱”。

既然AI求真大模型具備識別謠言的能力，理論上是不是只要把平臺上所有內容都用大模型研判一遍，就可以杜絕謠言的產生和傳播了？

且不說抖音上每天新增海量的內容，所有內容都交給AI求真大模型一一處理，這會顯著拉長所有內容的推薦時效，極大影響用戶體驗，而包含謠言的內容在整個抖音內容生態中的占比是有限的，因此這并非最優路徑。

其次，機器“判官”存在一個短板，它沒有人的情感與情境理解的能力，只會在自己擅長的領域內一板一眼地評定是非，一旦超出了自己的領域，就容易犯錯。

舉個例子，“沒有一只鴨子能活著走出南京城”，看似是在說鴨子，實則在表達南京人對板鴨、鹽水鴨、鴨血粉絲等食物的喜愛，人類很容易甄別。但如果交給謠言Agent判定，它也許會一本正經地查資料告訴你：確診為謠言，因為南京有活著的鴨子！

因此，更科學的方法是重點聚焦那些具有公共價值、當下發生的具有誤導性、且可以被證實的資訊內容。而人類用戶一眼便知的搞笑玩梗、劇情演繹，或者運用網絡用語、夸大的語言傳達某種的特定情緒，以及創作者抒發個人觀點的內容，就不必交由機器進行裁判。

為了降低誤判率，在AI研判之前，抖音設置了兩道過濾關卡：謠言領域大模型與謠言風險過濾模塊。這兩個模型像另外兩個領域的“專家”，前者從題材和體裁的風險上從全平臺篩選容易產生謠言的內容，后者則更多從公共性風險上進一步做判斷，留下公共性風險高的，篩掉無風險的。兩道“把關人”的冗余設計，讓模型各自發揮特長，與謠言Agent相配合，使得謠言甄別既能提效，也能避免“錯殺”。

AI里的“潛在謠言”識別專家

經過大量的案例研究和學習，抖音算法團隊逐漸發現，高發謠言的內容題材和體裁是相對有限的，只要能優先篩查這部分新增內容，謠言的發現效率和處置的準確率就能夠顯著提升。在治理謠言的過程中，抖音逐漸明確了謠言定義的邊界：那些有誤導性、危害性，并且能被證實的內容，會優先被當作謠言來處理。

為此，抖音算法團隊訓練了一個能夠篩選潛在謠言的“謠言領域大模型”，這個模型專門學習人類判定謠言的方法和經驗。傳統機器判別往往需要非常清晰的規則和邊界，才能達到預期的效果。而謠言的定義對于算法來說，是一個非常抽象的概念。現實中又有大量內容處于似是而非的灰色地帶，很多特殊情況沒辦法通過明確的規則全部羅列出來。

抖音作為最早關注謠言治理的平臺，積累了豐富的人工研判經驗，這些寶貴的經驗資產傳承給機器之后，就催生了判別能力不輸人類的專家模型。這個模型經過了大量真實謠言案例的“特訓”，經過監督學習和強化學習獲得了無數審核專家的知識和經驗。它能夠依據歷史“經驗”，先做一步判斷，快速篩選出那些“看起來就像謠言”的高危內容，再交由AI辨真假。二者相互配合，不但提升了準確性，也讓AI模型把能力都用在了刀刃上。

因題材涉及公共安全，為潛在謠言內容

提及打架斗毆，涉及公共安全事件，為潛在謠言

雙重保險：謠言風險過濾模塊

第二道過濾關卡來自于AI求真大模型的風險過濾模塊，這一模塊的作用就是在AI做判別之前再檢查一遍，把沒風險的正常內容踢出去。

這個剔除的過程運用了兩種技術策略：

一個策略是用歷史研判發現的大模型易誤傷案例，去訓練一些無謠言風險或者低謠言風險的小模型，之后命中這個小模型的內容，如歷史大案要案分析、真人出鏡新聞解讀等等就會被率先過濾掉。

另一個策略是訓練一個專門判斷公共性風險的大語言模型。這一大模型將用于分析投稿視頻的公共性風險，它會主動過濾掉低風險的投稿。這樣一來，進入AI研判環節的視頻風險更集中，審核就會更準、更快。

識別完成再到處置，抖音也是謹慎的。對于事實清晰、依據明確的謠言內容，AI求真大模型可直接進行自動化處置；對于疑似謠言的內容，系統則會采取降低推薦權重、在視頻下方掛載風險提示等方式進行風險管控。此外，對于涉及公共安全、自然災害、金融市場等高風險領域，謠言傳播極易引發重大影響與嚴重后果，對于此類視頻，系統將第一時間啟動人工協同復核，確保判定精準，實現盡早攔截與有效處置。

總之，AI求真大模型的上線，是抖音運用AI技術參與謠言治理的嘗試——從被動補救到主動出擊，從人工依賴到AI賦能，它用技術手段，努力把“謠言止于智者”變成了“謠言止于算法”。

技術一直在進步，謠言的制造和傳播也在不斷變化花樣。雖然AI求真大模型大大提升了平臺治理的效率和覆蓋面，但它依然是一個在持續學習和進化的系統。未來，隨著模型的不斷迭代和更多審核經驗的融入，它會變得越來越聰明。

同時，謠言治理絕非空中樓閣，其根基在于新聞當事人、官方機構與新聞媒體的多方核實與及時澄清。若無此依托，大模型的識別與研判便成無源之水、無本之木。而清朗健康的社區環境，更離不開每一位用戶的共同監督與悉心守護。