將AI大模型技術應用于謠言治理和辟謠運營工作一年之際,抖音公布最新數據:自“AI求真”大模型上線以來,謠言被處置時的平均瀏覽量下降62%,謠言內容從發布到被處置的窗口期顯著縮短。
同時,抖音公布了過去一年的“十大辟謠案例”,覆蓋社會事件、健康養生、公共安全等謠言高發領域。相關謠言均經AI求真大模型識別或處置,并通過“求真卡”等形式向用戶傳遞辟謠信息。
24小時“網絡治安官”:謠言處置時效提升50%以上
據抖音方面介紹,應用于謠言治理的AI求真大模型就像一個24小時巡邏的網絡治安官,能夠篩選并召回平臺上的潛在謠言視頻,通過大模型搜索權威信源查證,并在復雜判斷中引入人工復核。經機器或人工判定為謠言的信息均會被納入謠言庫,由機器自動處置下架、攔截新增發布。
![]()
一年來,抖音持續提升AI求真大模型的識別信號范圍、準確度、時效性、主動性。今年以來,在熱點事件中,平臺對謠言的處置時效提升50%以上。
準確率達95%:大模型實現“主動出擊”
在識別和研判層面,2026年,大模型上線了DeepResearch和交叉驗證等能力,能夠針對不同信息要點分別進行多輪聯網檢索和核實。在此過程中,一方面,大模型在聯網檢索中優先采納權威度排名較高的信源;另一方面,大模型也深度學習了抖音過去多年積累的人工審核經驗。數據顯示,AI求真大模型判斷謠言的準確率已提升至95%。
在此基礎上,治理介入也更主動。過去,一個謠言點常延伸出同質化文案和高度相似的變體,占用大量審核人力和資源。以“峨眉山猴子攻擊游客、被射殺”這一謠言為例,同一段核心內容被改編為“九寨溝猴子”“張家界猴子”“猥褻女游客”等多個版本傳播。有了大模型介入,其語義理解能力能夠匹配出相似的謠言案例,由機器直接復用判定結果、自動處置,實現從“人找謠言”到“模型主動出擊”的轉變。
激發用戶求真意識:以“求真卡”共筑認知防線
抖音不實信息治理負責人表示,技術賦能謠言治理只是第一步,激發用戶求真意識同樣重要。因此,抖音“AI求真”另一重點就是用AI大模型技術幫助用戶更便捷地獲取事實、提升辨別能力,與公眾共筑“認知防線”。
目前,用戶可通過抖音內的“求真提示”“求真卡”獲知事件真實信息。具體而言,當用戶在抖音瀏覽一些可能存在誤導或爭議的內容時,視頻下方會浮現“AI求真”提示條,點擊后即可前往“求真卡”獲知事件溯源、權威媒體報道、當事方澄清等信息。當用戶主動搜索某個熱點事件時,如該事件與謠言相關,搜索結果頁會直接以“求真卡”形式展現,呈現鑒定結果及核心事實信息。近日,抖音也在“安全與信任中心網站”增設了“AI求真”的網頁服務入口,用戶搜索關心的謠言信息,即可了解真偽。
專家觀點:從“事后治理”轉向“陪伴式賦能”
中國社會科學院大學互聯網法治研究中心主任劉曉春表示,AI技術的參與讓謠言治理從簡單的事后治理,有可能轉為“陪伴式賦能”。AI不僅重塑辟謠機制,更在細水長流中培養網民的理性求真素養。“以前傳謠和辟謠是分離的,辟謠信息能觸達到的人群和一開始接觸到謠言的人群可能是分離的。現在有了AI工具,可以在信息傳播過程中,慢慢去培養用戶主動求真的意識和習慣。通過AI求真這樣的產品在傳播的不同階段為用戶提供陪伴式辟謠和陪伴式識別,我覺得是非常重要的。”劉曉春說。
十大辟謠案例公布:大模型23秒核查一例
抖音還根據過去一年謠言治理情況,公布了“十大辟謠案例”。其中,既有“山東女子向丈夫索要5元買早餐遭拒后輕生”等社會事件,也有“兒童DHA含有大量防腐劑”等健康類資訊。一些不實信息多借助情緒噱頭或片面說辭傳播,博取流量。相關案例經由AI求真大模型進行核查或處置,并通過“求真卡”形式呈現辟謠信息,減少不實信息帶來的誤導影響。
以“山東女子向丈夫索要5元買早餐遭拒后輕生”為例,該內容在平臺發布后,命中“公共性風險”信號被AI求真大模型識別,進入查證環節。在聯網搜索過程中,大模型搜羅到多家權威媒體報道,并挖掘出引用信源——山東互聯網聯合辟謠平臺官方信息。其中明確指出:經向省內各地和有關部門核實,該網傳信息不實。大模型隨即給出此內容為謠言的研判結果,總耗時23秒。
隨后,AI求真大模型對視頻完成自動處置,并將此謠言點錄入謠言庫。基于此,平臺對存量謠言回查清理、實時攔截新增內容,并配置求真卡。用戶在抖音搜索這一事件時,即能獲知權威辟謠內容。
![]()
治理方表態:謠言治理需多方協同
抖音不實信息治理負責人表示,謠言治理和辟謠內容的運營絕非空中樓閣,其根基在于新聞當事人、官方機構與新聞媒體的多方核實與及時澄清。若無此依托,大模型的識別與研判便成無源之水、無本之木。而清朗健康的社區環境,更離不開每一位用戶的共同監督與悉心守護。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.