AIGC低質(zhì)內(nèi)容在網(wǎng)絡(luò)空間蔓延

警惕“數(shù)字泔水”侵蝕學(xué)術(shù)凈土

近日，一則關(guān)于國際學(xué)術(shù)季刊曝光的學(xué)術(shù)不端事件，為學(xué)術(shù)界敲響了警鐘。一篇發(fā)表于該刊物的博士論文被發(fā)現(xiàn)存在嚴(yán)重學(xué)術(shù)不端行為，在其列出的61條參考文獻(xiàn)中，竟有24條系由人工智能憑空捏造的“幽靈文獻(xiàn)”。雖然部分引文標(biāo)注了真實(shí)的來源期刊信息，但在相應(yīng)期數(shù)中卻查無實(shí)據(jù)。

“這是‘AI垃圾’在學(xué)術(shù)領(lǐng)域最惡劣、最危險(xiǎn)的表現(xiàn)之一。”浙江大學(xué)哲學(xué)學(xué)院教授李恒威在接受本報(bào)記者采訪時(shí)表示，所謂“幽靈文獻(xiàn)”，是指那些在學(xué)術(shù)成果中被正式引用并標(biāo)注為信息來源，但實(shí)際無法查證、根本不存在，或與引用內(nèi)容嚴(yán)重不符的虛假資料。它們?nèi)缤瑢W(xué)術(shù)界的“幽靈”，表面上構(gòu)建起論證的“支撐”，實(shí)則空無一物，不僅可能誤導(dǎo)研究方向，更嚴(yán)重破壞了學(xué)術(shù)共同體賴以維系的信任基石。

當(dāng)生成式人工智能（AIGC）的強(qiáng)大生產(chǎn)力被濫用，其產(chǎn)出的內(nèi)容空洞、邏輯混亂、價(jià)值缺位的數(shù)字產(chǎn)物，正在引發(fā)社會(huì)各界尤其是學(xué)術(shù)界的深切憂慮。如何有效識(shí)別、遏制并治理“AI垃圾”，守護(hù)清朗的數(shù)字生態(tài)與學(xué)術(shù)凈土，已成為人工智能時(shí)代必須正視的緊迫課題。

技術(shù)濫用毀掉深度思考能力

“幽靈文獻(xiàn)”事件并非孤例。記者調(diào)查發(fā)現(xiàn)，從社交平臺(tái)上空洞無物的“廢話文學(xué)”，到短視頻里荒誕離奇的惡搞內(nèi)容；從營銷號(hào)批量產(chǎn)出的模板化文章，到以假亂真的深度偽造人文科普——一種被網(wǎng)民形象地稱為“AI垃圾”或“數(shù)字泔水”的低質(zhì)量信息流，正以驚人的速度在互聯(lián)網(wǎng)空間蔓延。而這股濁流已悄然突破公共信息領(lǐng)域的邊界，開始滲透并侵蝕嚴(yán)謹(jǐn)?shù)膶W(xué)術(shù)生態(tài)。

在AI技術(shù)浪潮下，“幽靈文獻(xiàn)”暴露了部分研究者對(duì)技術(shù)底線的失守。正如中國社會(huì)科學(xué)院新聞與傳播研究所網(wǎng)絡(luò)信息與智能傳播研究室副主任楊斌艷所觀察到的，當(dāng)前一個(gè)突出問題是，大量缺乏約束和引導(dǎo)的“試探性使用”正在泛濫。人們出于好奇或測試目的，向AI輸入各種非常規(guī)甚至刻意設(shè)計(jì)的指令，導(dǎo)致其輸出大量邏輯混亂、脫離現(xiàn)實(shí)的荒誕內(nèi)容。當(dāng)這些“玩鬧”性質(zhì)的內(nèi)容被不當(dāng)利用，甚至移植到嚴(yán)肅的學(xué)術(shù)生產(chǎn)領(lǐng)域時(shí)，便構(gòu)成了對(duì)學(xué)術(shù)精神的直接挑戰(zhàn)。

“用AI得來的輕松快樂，最終可能會(huì)毀掉我們深度思考的能力。”中國人民大學(xué)哲學(xué)院教授劉永謀對(duì)此深感憂慮。他將依賴AI替代費(fèi)力思考的行為稱為“認(rèn)知卸載”。在他看來，思考本身即是學(xué)術(shù)與求知的核心價(jià)值所在。如果任由AI代勞核心的思考環(huán)節(jié)，長期“不費(fèi)腦子”，人類最終可能會(huì)喪失寶貴的獨(dú)立思考能力。當(dāng)論文發(fā)表淪為形式空轉(zhuǎn)，其探索真理、推動(dòng)文明進(jìn)步的根本意義也將蕩然無存。

“AI垃圾”何以泛濫

“AI垃圾”肆虐并非偶然，是多重因素交織下的必然產(chǎn)物。北京師范大學(xué)心理學(xué)部教授劉超從技術(shù)與社會(huì)心理層面剖析了成因。在他看來，大語言模型的普及使得內(nèi)容生產(chǎn)成本降低，原本需要?jiǎng)?chuàng)造性投入的活動(dòng)，正異化為機(jī)械的“流水線工作”。更深層的危機(jī)在于，AI模型本身依賴于互聯(lián)網(wǎng)海量數(shù)據(jù)進(jìn)行訓(xùn)練，而當(dāng)網(wǎng)絡(luò)中已充斥大量低質(zhì)AI內(nèi)容時(shí)，新一代模型再抓取這些“垃圾”作為語料，便形成了一個(gè)“用垃圾喂出更多垃圾”的惡性循環(huán)，導(dǎo)致信息環(huán)境的質(zhì)量每況愈下。

中國科學(xué)院計(jì)算技術(shù)研究所研究員陳薇從技術(shù)特征上揭示了“AI垃圾”的隱匿性。她表示，這類內(nèi)容往往呈現(xiàn)出“形式完整，實(shí)質(zhì)空洞”的特點(diǎn)。它們擁有虛假的專業(yè)感和極高的流暢度，慣于講述“正確的廢話”。其偽裝手段多樣，例如，通過多語種互譯、同義詞改寫、半人工潤色等手段來掩蓋AI生成痕跡，甚至利用編造虛假文獻(xiàn)、一本正經(jīng)地論述謬誤等方式來制造“原創(chuàng)”假象。

識(shí)別這些“數(shù)字泔水”，正成為數(shù)字時(shí)代公眾必備的素養(yǎng)。楊斌艷提醒，對(duì)于那些嚴(yán)重違背常識(shí)邏輯、明顯不符合現(xiàn)實(shí)情況的內(nèi)容，應(yīng)保持高度警惕。同時(shí)，要提防以各種“變臉”形式隱匿出現(xiàn)、實(shí)則推銷同一話術(shù)的內(nèi)容。劉超則建議關(guān)注內(nèi)容的生成動(dòng)機(jī)：“是意在引導(dǎo)讀者站隊(duì)、轉(zhuǎn)發(fā)、加群還是轉(zhuǎn)賬？是在單純煽動(dòng)情緒，還是引發(fā)深度思考？”這些追問都有助于剝開AI生成內(nèi)容的偽裝。

學(xué)者們呼吁，公眾應(yīng)主動(dòng)培養(yǎng)對(duì)“模板化表達(dá)”和“過度完美敘事”的敏感度，并結(jié)合交叉驗(yàn)證、溯源查證等方法，提升自身的辨識(shí)能力。

構(gòu)建多維治理格局

面對(duì)洶涌而來的“AI垃圾”，單一的治理手段顯然難以應(yīng)對(duì)。多位學(xué)者在接受本報(bào)記者采訪時(shí)都表示，必須構(gòu)建一個(gè)覆蓋技術(shù)、制度與人文教育的全流程、多維度的防控體系。

從技術(shù)層面筑起“防火墻”是首要任務(wù)。陳薇提出兩點(diǎn)具體建議：一是大力推廣數(shù)字水印與內(nèi)容指紋技術(shù)，實(shí)現(xiàn)對(duì)AI生成內(nèi)容從生產(chǎn)到傳播的全鏈條溯源，讓每一份“數(shù)字產(chǎn)物”都有跡可循；二是研發(fā)高精度的AI生成內(nèi)容檢測算法，并針對(duì)科教領(lǐng)域優(yōu)化學(xué)術(shù)工作流，建立“引用可點(diǎn)擊、證據(jù)可復(fù)算”的自動(dòng)化驗(yàn)證機(jī)制，確保研究數(shù)據(jù)和結(jié)論的真實(shí)性與可復(fù)現(xiàn)性。

李恒威將AI比作承載人類文明的“忒修斯之船”。他認(rèn)為，治理“AI垃圾”需秉持“在航行中修理船只”的動(dòng)態(tài)思維。首先，在技術(shù)設(shè)計(jì)初期即“造船階段”，就應(yīng)嵌入可追溯、可解釋的機(jī)制，并建立明確的AI訓(xùn)練與生成內(nèi)容的質(zhì)量規(guī)范和倫理標(biāo)準(zhǔn)。其次，在技術(shù)運(yùn)行過程中即“日常維護(hù)”階段，需要建立功能強(qiáng)大的事實(shí)核查、深度偽造檢測及質(zhì)量評(píng)估體系，并強(qiáng)化專業(yè)審核力量。最后，在價(jià)值導(dǎo)向?qū)用妫仨氬^定AI服務(wù)于求真、向善、創(chuàng)造的核心目標(biāo)，加強(qiáng)人文教育與公眾數(shù)字素養(yǎng)，從根本上提升社會(huì)對(duì)低質(zhì)信息的“免疫力”。

平臺(tái)作為信息傳播的關(guān)鍵樞紐，同樣責(zé)無旁貸。楊斌艷提出，網(wǎng)絡(luò)平臺(tái)應(yīng)積極建立“AI垃圾”一鍵舉報(bào)機(jī)制，并構(gòu)建共享錯(cuò)誤信息的阻隔數(shù)據(jù)庫，讓廣大網(wǎng)民成為治理環(huán)節(jié)中的活躍力量，形成群防群治的局面。

學(xué)術(shù)界應(yīng)自覺守護(hù)知識(shí)標(biāo)準(zhǔn)

在這場抵制“AI垃圾”的戰(zhàn)役中，學(xué)術(shù)界不能成為被動(dòng)的研究者，應(yīng)成為主動(dòng)的守護(hù)者和引領(lǐng)者。守護(hù)知識(shí)生產(chǎn)與認(rèn)知標(biāo)準(zhǔn)，是學(xué)術(shù)界責(zé)無旁貸的使命。

劉永謀強(qiáng)調(diào)，人文學(xué)界尤其應(yīng)發(fā)揮價(jià)值引領(lǐng)作用。通過積極的學(xué)術(shù)發(fā)聲，倡導(dǎo)優(yōu)質(zhì)內(nèi)容生產(chǎn)，抵制“AI垃圾”的泛濫。同時(shí)，要致力于培育理性、審慎、有深度的網(wǎng)絡(luò)文化與數(shù)字倫理，推動(dòng)形成尊重原創(chuàng)、崇尚思辨、拒絕信息快餐的網(wǎng)絡(luò)道德共識(shí)，為清朗的數(shù)字生態(tài)注入不可或缺的人文精神與價(jià)值定力。

楊斌艷認(rèn)為，學(xué)術(shù)界應(yīng)將學(xué)者的集體智慧轉(zhuǎn)化為治理力量，通過聚合專家們的碎片化時(shí)間，共同參與構(gòu)建識(shí)別“AI垃圾”的“防火墻”。學(xué)者更應(yīng)積極參與到大模型的“有效投喂”和持續(xù)優(yōu)化訓(xùn)練中去，為糾正“AI幻覺”充當(dāng)“守門人”，為優(yōu)質(zhì)內(nèi)容的生成貢獻(xiàn)高質(zhì)量的知識(shí)養(yǎng)料。

劉超建議，學(xué)術(shù)界應(yīng)以開放課程、科普文章等多元化形式，提升大眾對(duì)AI生成低質(zhì)信息的鑒別能力。“學(xué)術(shù)界在整治‘AI垃圾’中的核心使命，不是與技術(shù)進(jìn)行簡單的對(duì)抗，而是致力于重建可信知識(shí)的生產(chǎn)、驗(yàn)證與傳播秩序。”陳薇進(jìn)一步提出，鑒于AI對(duì)教育領(lǐng)域的深遠(yuǎn)影響，應(yīng)推動(dòng)教育回歸思維訓(xùn)練與價(jià)值塑造的本質(zhì)，弱化對(duì)機(jī)械記憶的考核，強(qiáng)化邏輯思辨能力的培養(yǎng)，鼓勵(lì)那些雖不完美卻真實(shí)、獨(dú)特的表達(dá)，培育人們對(duì)具有靈魂與情感深度內(nèi)容的審美判斷力。

李恒威認(rèn)為，我們或許永遠(yuǎn)無法抵達(dá)一個(gè)AI被“完全修復(fù)”、信息環(huán)境“毫無瑕疵”的靜止終點(diǎn)。技術(shù)將持續(xù)迭代，新的問題會(huì)隨之滋生，新的“AI垃圾”也會(huì)以新的形態(tài)不斷涌現(xiàn)。這要求我們具備一種與時(shí)俱進(jìn)的治理智慧——在技術(shù)的發(fā)展與治理的完善之間，保持動(dòng)態(tài)的平衡，在航行中不斷修繕我們這艘承載著人類文明與認(rèn)知希望的“忒修斯之船”。

中國社會(huì)科學(xué)報(bào)記者 段丹潔

來源：中國社會(huì)科學(xué)報(bào)

新媒體編輯：程可心

如需交流可聯(lián)系我們