核心導(dǎo)覽

近年來，AI謠言借助生成式AI技術(shù)的便利頻繁滋生，其中還包括利用AI技術(shù)催生的黑灰產(chǎn)，這些不僅嚴重擾亂了公共信息秩序，更對社會信任與穩(wěn)定構(gòu)成現(xiàn)實威脅。

知微數(shù)據(jù)聯(lián)合中國傳媒大學(xué)媒介與公共事務(wù)研究院、中央財經(jīng)大學(xué)金融品牌研究所、法碼象發(fā)布《Al謠言的特征、危害與綜合治理路徑》報告，分析Al謠言的生成源頭、目的，以及傳播態(tài)勢與社會影響等內(nèi)容，并從技術(shù)、事件、法律等多維度探討治理策略。

專家觀點

Expert Insight

謠言如同假貨；平臺放縱謠言傳播，如同商場販賣假貨。謠言雖能在短期內(nèi)吸引眼球、增加點擊、賺取流量；但從長遠看，謠言破壞誠信，愚弄受眾，擾亂秩序，最終必將影響平臺聲譽和用戶黏性，造成反噬。因此，平臺對謠言不能“睜一只眼閉一只眼”，而應(yīng)該像良心商場打擊假貨一樣，抵制謠言、屏蔽謠言、清除謠言。

——楊宇軍

中國傳媒大學(xué)媒介與公共事務(wù)研究院院長

在數(shù)智時代，AI謠言正以空前速度侵蝕信息生態(tài)：其成本更低、生成更快、內(nèi)容更逼真、傳播更精準、擴散更廣泛，極易形成“遍在效應(yīng)”，誘發(fā)公眾盲目跟從。應(yīng)對此類新型風(fēng)險，僅靠傳統(tǒng)治理遠遠不夠——公眾亟需提升媒介素養(yǎng)，以批判性思維與邏輯能力筑牢認知防線。與此同時，也需法律規(guī)制與技術(shù)反制雙管齊下，構(gòu)建系統(tǒng)性治理框架。《AI謠言的特征、危害與綜合治理路徑》嘗試揭示謠言生成與擴散機制，并提出多維度應(yīng)對策略。推薦每一位關(guān)注聲譽風(fēng)險、公共溝通、數(shù)字倫理與社會治理的讀者閱讀，共同抵御AI時代的信息失序。

——王曉樂

中央財經(jīng)大學(xué)金融品牌研究所所長

聲譽風(fēng)險研究中心主任

法律面對AI的核心原則是“人類主體性不可讓渡”，AI本身不是風(fēng)險，人類放棄思考和判斷才是。從本質(zhì)上，AI與人手中的紙筆、相機并無區(qū)別，無論技術(shù)如何放大治理難點、新增技術(shù)盲區(qū)，“人”永遠是違法責(zé)任的核心主體，“誰違法、誰擔(dān)責(zé)”“風(fēng)險控制能力決定責(zé)任大小”的邏輯從未改變。

——丁嵐

法碼象首席法律專家

Part.1

AI謠言的核心特征與規(guī)律性

AI謠言的特征分為三大塊：從技術(shù)特征上看， AI謠言具有“超真實偽造”“個性化投喂”以及“低成本量產(chǎn)”三大特征；從 內(nèi)容特征上看，AI謠言具有“熱點寄生性”“情緒優(yōu)先性”以及“圈層化敘事”三大特征； 從傳播特征上看，AI謠言具有“跨平臺裂變”“人機協(xié)同化”“進化與迭代”三大特征。 這些特征使得AI謠言的迷惑性、隱蔽性、破壞力更大。

首先，從技術(shù)特征上看，此前，傳統(tǒng)謠言多依賴于拼接手段，造謠者往往在網(wǎng)絡(luò)上搜羅各種碎片化信息，通過斷章取義、移花接木等手段，將不同來源的文字、圖片生硬拼湊，這一類謠言往往因為素材來源多、拼接痕跡明顯而缺乏可信度和邏輯連貫性，公眾稍加留意便不難辨別。

但AI謠言可實現(xiàn)“原生式生成”“超真實偽造”，通過對海量數(shù)據(jù)的分析，AI算法能夠精準把握事物的特征和一般規(guī)律，進而根據(jù)用戶輸入的指令生成具有真實感且沒有明顯瑕疵的內(nèi)容。這種依托AI技術(shù)的“超真實偽造”謠言，從內(nèi)容到形式都是全新構(gòu)建，并相較于傳統(tǒng)謠言更加逼真、連貫。此外，目前AI謠言中，音頻、視頻內(nèi)容占比急劇上升，這顛覆了民眾“有圖有真相”的傳統(tǒng)認知底線，證偽難度指數(shù)級增長。

（更多分析內(nèi)容，請掃碼添加客服“知小微”獲取完整版報告。）

Part.2

AI謠言產(chǎn)生的時代背景

AI謠言作為新型虛假信息形態(tài)，其快速發(fā)展與技術(shù)發(fā)展、社會心態(tài)、信息生態(tài)、公眾素質(zhì)等密切相關(guān)。

01

技術(shù)發(fā)展層面

隨著Kimi、deepseek等生成式人工智能的進一步落地，AI工具的使用門檻大幅降低，這種技術(shù)民主化一定程度上為造謠者提供了便捷工具。近年來利用AI技術(shù)生成的虛假新聞呈現(xiàn)出新特征，不僅嚴格遵循新聞寫作的“5W1H”要素確保內(nèi)容完整性，更通過專業(yè)新聞?wù)Z體增強可信度，同時輔以深度偽造的圖片或視頻，迷惑性更強。

02

社會心態(tài)層面

當(dāng)前正處社會轉(zhuǎn)型期，公眾面對快速變化的社會環(huán)境易產(chǎn)生集體焦慮感，這種情緒為AI謠言傳播提供了土壤，同時部分傳統(tǒng)媒體公信力的下降產(chǎn)生信任赤字，使公眾下意識更傾向于相信非官方渠道的信息。

03

信息生態(tài)層面

主流內(nèi)容平臺普遍采用算法推薦機制，這種機制往往優(yōu)先推送能引發(fā)強烈情緒反應(yīng)的內(nèi)容，AI謠言往往通過夸張標題（如“驚爆！內(nèi)部消息”）和情緒化內(nèi)容快速搶占流量，流量經(jīng)濟成為了AI謠言產(chǎn)生和傳播的核心驅(qū)動力。

04

公眾素質(zhì)層面

面對快速演進的AI技術(shù)，公眾的數(shù)字素養(yǎng)相對滯后。民眾普遍缺乏辨別AI生成內(nèi)容的能力，盡管有媒體持續(xù)輸出“如何辨別AI內(nèi)容”的相關(guān)教程，但其給出的判定標準往往缺乏可實操性，且辨別內(nèi)容的輸出速度無法與技術(shù)更新同步，綜合因素導(dǎo)致公眾認知的相對滯后，使得謠言制造者有機可乘，此外公眾的法律意識淡漠，對于擴散AI謠言的違法性認識不足，容易成為AI謠言傳播的“幫兇”。

Part.3

AI謠言的典型危害與應(yīng)對建議

AI謠言肆虐，對政府、企業(yè)、公眾均造成不良影響。首先，AI謠言對政府公信力構(gòu)成嚴重威脅；其次，AI謠言肆虐影響企業(yè)正常運營。 針對AI謠言的特殊性和危害性，需要從政策、平臺、技術(shù)和信息發(fā)布多個層面構(gòu)建綜合治理體系，形成有效應(yīng)對機制。

政策層面：執(zhí)法需快速跟進

今年以來，AI生成謠言的現(xiàn)象迎來了強監(jiān)管。先是四部門發(fā)布《人工智能生成合成內(nèi)容標識辦法》，后網(wǎng)信辦針對AI內(nèi)容標識缺失誤導(dǎo)公眾、利用AI技術(shù)制作發(fā)布謠言等問題開展專項行動。但AI謠言仍存在諸多法律治理難點，包括人機創(chuàng)作邊界模糊、責(zé)任主體溯源難、算法不可解釋等。對于AI謠言治理，法律既要保障AI技術(shù)創(chuàng)新應(yīng)用，又要守住信息真實、傳播有序的法律與道德底線。

平臺層面：內(nèi)容平臺需加強治理

超大型內(nèi)容平臺，作為信息分發(fā)樞紐，不能僅依賴“通知-刪除”的避風(fēng)港規(guī)則，更需承擔(dān)主動防控、算法透明義務(wù)。目前各內(nèi)容平臺雖然已有封禁措施，但主要通過設(shè)置熱點關(guān)鍵詞屏蔽謠言，而AI模型可通過針對性的對抗訓(xùn)練繞過謠言關(guān)鍵詞。因此，平臺可通過建立平臺間的信息共享和協(xié)同機制提升整體治理效率，避免造謠者利用平臺間的規(guī)則差異進行傳播。

技術(shù)層面：部署AI溯源與鑒偽工具

平臺和相關(guān)部門可以開發(fā)用戶端等便捷工具，輔助公眾識別AI生成的虛假信息。例如，提供圖片、視頻真實性核驗功能，用戶上傳可疑內(nèi)容后系統(tǒng)自動進行初步鑒定。此外，還可以通過瀏覽器插件、小程序等形式，為用戶提供一鍵驗證信息真實性的便捷工具，降低公眾辨別謠言的門檻。

信息發(fā)布層面：加強主動發(fā)布

全媒體時代，當(dāng)政府部門或企事業(yè)單位面臨重大輿情危機時，往往也是各類虛假信息的活躍期，不論虛假信息是人工編造還是AI生成，及時公布還原事件真相都是打擊謠言的最有效手段。一是要快速反應(yīng)。AI謠言的生成、迭代和傳播速度極快，這就對主動發(fā)布的及時性和準確性提出了更高要求；二是要打造權(quán)威的發(fā)聲平臺。不論政府部門還是企業(yè)，都應(yīng)建立比較確定的權(quán)威發(fā)聲渠道，確保真實聲音能夠通過權(quán)威渠道及時發(fā)出；三是要打造權(quán)威的發(fā)聲媒體。發(fā)生重大危機時，應(yīng)確保有主流媒體在場，通過媒體客觀真實的現(xiàn)地調(diào)查和報道，把真實信息傳播出去；四是要采取各種措施提高全社會的媒介素養(yǎng)、科學(xué)素養(yǎng)和法治素養(yǎng)，增強公眾對于虛假信息的辨別力和免疫力。

（更多分析內(nèi)容，請掃碼添加客服“知小微”獲取完整版報告。）

報告圍繞此次事件，從不同維度展開了全面分析，如需獲取完整版報告或其他行業(yè)報告，請掃碼添加“知小微”，也歡迎加入營銷、公關(guān)專屬社群進行交流。

知微輿論場

知微事見

知微危機案例庫