近日，上海警方通報打擊 “涉企網(wǎng)絡(luò)謠言”成果。截至目前，警方已偵辦涉企網(wǎng)絡(luò)謠言案件50起，依法查處69人，累計清理涉企網(wǎng)絡(luò)謠言信息4600余條，270余個違規(guī)賬號被采取禁言、封停措施。

在通報中，舉了四個典型案例，其中三個和AI有關(guān)，兩個是AI制作虛擬視頻，這大部分人都可以理解，典型案例三則不同。

兩個人為博人眼球、獲取流量，使用AI寫稿，發(fā)布針對多家車企的謠言，累計發(fā)布不實文章70余萬篇次，非法獲利8萬余元。

注意此案的特點：

① AI批量生成虛假文案；

② 海量賬號發(fā)布；

③ 收入來源主要是平臺的流量費。

70余萬篇，非法獲利8萬余元，平均每篇收入不到0.13元。這收入很可能都來自平臺的流量收入。

AI被用于海量制造垃圾，去斬獲每篇文章“微不足道”的流量收入，但聚沙成塔，積累起來也成為某些人獲得不低的“收入”的捷徑。

現(xiàn)在在中文互聯(lián)網(wǎng)上，AI制造的垃圾比例極高，且比例還在不斷提高。每隔一兩個月，我都會把我母親的手機清理一下，每次都會有至少新增幾十個微信群、公眾號、服務(wù)號、視頻號，其中的內(nèi)容絕大多數(shù)都是水文（一個人可以管理幾百個賬號，每個賬號每天更新，核心內(nèi)容均為AI生成），在AI生成內(nèi)容基礎(chǔ)上嵌入了平臺的廣告以及賬號吸引關(guān)注、轉(zhuǎn)發(fā)的“便捷按鈕”，就是一篇能賺錢的水文。

當(dāng)然不是說只有微信有這問題，只是因為，我沒給母親的手機上裝更多的APP。其他自媒體平臺、短視頻平臺上，類似的AI稿件也不少。很多自媒體文章，一看就是AI寫的，洋洋灑灑幾千字，言之無物，沒有特色。甚至有點正規(guī)媒體，也在用Ai寫稿。

AI濫用問題已經(jīng)成為了社會公害。央視《法治在線》剛剛報道了AI擬聲，聽你1秒鐘說話，就可以模仿你和其他人對話。

此外，大量的短視頻、漫劇都由AI生成，在短視頻中，“AI演員”已經(jīng)能夠以假亂真。

更甚者，有你一張照片和一段聲音，騙子就可以模仿你和他人視頻聊天，面部表情已相當(dāng)逼真（目前身體需基本處于靜止?fàn)顟B(tài)）。近兩年，電信運營商、手機廠商、即時通訊APP、移動支付APP等都陸續(xù)推出識別“AI換臉”的功能，但“道”和“魔”的戰(zhàn)斗一直沒有停止。