新華視點(diǎn)｜嘴上都是“情意”，心里全是生意——警惕“AI霸總”騙老人

短視頻平臺(tái)上，身著正裝、開著豪車、戴著金表的“儒雅霸總”，張口“姐姐”、閉口“想你”，噓寒問暖甚至下跪求婚……

這些“霸總”其實(shí)是AI生成的，但不少老年粉絲信以為真，不僅身心健康受到影響，還存在被詐騙的風(fēng)險(xiǎn)。

“AI霸總”賬號(hào)流量驚人

“姐姐，我今年67歲，上市公司老總，上海有幾套房，千萬存款都備著，這輩子啥都齊了，就缺個(gè)你”“老婆，我知道你在看我，懇請(qǐng)老婆大人下嫁給我這個(gè)老男人可以嗎”……短視頻平臺(tái)上，這類視頻比比皆是。這些“AI霸總”或是AI數(shù)字人，或是經(jīng)AI換臉、擬聲偽造的形象，大多頂著儒雅成熟的人設(shè)，話術(shù)直白，戳中老年粉絲的心意。

即便視頻下方標(biāo)注著“內(nèi)容由AI生成”，評(píng)論區(qū)里的一些老年粉絲依舊深信不疑。

一條條評(píng)論充滿真情——“弟弟你要照顧好自己”“你把微信告訴姐姐，姐姐來接你”“我愛你，就等你娶我”，還有不少人留下自己的聯(lián)系方式、家庭地址，期盼能與“霸總”見上一面。

這些“AI霸總”賬號(hào)流量驚人。“新華視點(diǎn)”記者搜索關(guān)鍵詞發(fā)現(xiàn)，僅平臺(tái)推送來的“AI霸總”賬號(hào)就達(dá)上百個(gè)，數(shù)個(gè)賬號(hào)粉絲達(dá)到十幾萬。

“AI霸總”在視頻中跪地求婚。（網(wǎng)絡(luò)截圖）

有從業(yè)者表示，由于制作門檻極低，單個(gè)從業(yè)者可管理多個(gè)賬號(hào)，“AI霸總”賬號(hào)“數(shù)以萬計(jì)”。一個(gè)擁有15.6萬粉絲的“霸總”賬號(hào)，一條“姐姐今天是我的生日，能祝我生日快樂嗎”的視頻，收獲7.1萬點(diǎn)贊、1.3萬條評(píng)論；該賬號(hào)還開設(shè)了三個(gè)粉絲群，記者看到，總共有400余名粉絲加入，每天群內(nèi)都有粉絲分享自拍照并問候“霸總”。

部分賬號(hào)還開通了AI聊天功能。記者嘗試與一個(gè)“AI霸總”聊天后發(fā)現(xiàn)，其聊天內(nèi)容全程圍繞感情生活和個(gè)人隱私展開，比如反復(fù)詢問“是不是一個(gè)人在家”“有沒有男朋友”“你們感情好不好”等。

記者在社交平臺(tái)上看到，關(guān)于自家長(zhǎng)輩深陷“AI霸總”視頻無法自拔的吐槽不在少數(shù)：有的奶奶大半夜給“AI霸總”做一桌子菜，等著對(duì)方“赴約”；有的老人堅(jiān)信視頻里的“霸總”會(huì)送房送車，執(zhí)意要“奔現(xiàn)”。

虛情假意帶來豐厚獲益

記者調(diào)查發(fā)現(xiàn)，“AI霸總”利用情感捆綁，通過流量或帶貨等渠道變現(xiàn)，讓部分老年人財(cái)產(chǎn)受損，甚至身心健康受到嚴(yán)重影響。

記者在各大社交平臺(tái)搜索“AI老年人賽道”，相關(guān)教程類商品超百條，產(chǎn)品標(biāo)題相當(dāng)直白——“中老年AI視頻，暴利賽道，每天穩(wěn)定1K到2K”“中老年深信不疑賽道，AI制作視頻，20個(gè)作品漲粉40萬”，部分教程售出200多件。

記者花費(fèi)10元購買了一個(gè)“AI中老年情感賽道”教程，商家宣稱能“20天純利12W+”。所謂的“培訓(xùn)導(dǎo)師”稱，“AI中老年情感賽道”就是利用老年人的情感空缺與精神壓力，生成AI視頻來緩解他們的焦慮。

“AI霸總”在線表白引得老年網(wǎng)友在彈幕深情 回復(fù)。（網(wǎng)絡(luò)截圖）

“制作一條數(shù)字人視頻最多只要5分鐘。你可以同時(shí)運(yùn)營幾十甚至上百個(gè)賬號(hào)。這些AI視頻對(duì)老年人完全是降維打擊，不用擔(dān)心新號(hào)沒有流量。”“培訓(xùn)導(dǎo)師”給記者展示了一個(gè)僅有4條“AI霸總”視頻的新號(hào)，每條視頻的點(diǎn)贊量都達(dá)到1000左右，相關(guān)的櫥窗購物銷量就有33件，且客單價(jià)不低。

據(jù)介紹，變現(xiàn)渠道主要有三種：一是流量分成，賺取平臺(tái)流量收益；二是櫥窗帶貨，積累粉絲后，賬號(hào)櫥窗可售賣中老年服飾、養(yǎng)生產(chǎn)品、書籍等；三是專屬會(huì)員通道，粉絲按月或者按年支付費(fèi)用，享受包括優(yōu)先服務(wù)、付費(fèi)連線等權(quán)益。

“我媽就在‘AI霸總’的賬號(hào)里下單了好多用不上的東西，家里成堆的快遞盒甚至都沒有打開。我粗略數(shù)了數(shù)，定價(jià)199元、288元的開運(yùn)掛件，她買了50多個(gè)，一心想著要支持‘好弟弟’。”上海市民陳曉蓉說。

湖南網(wǎng)友抹茶告訴記者，“AI霸總”甚至添加了自家老人的微信，每天發(fā)曖昧小作文、AI合成的假照片，配上“帶你去旅行”“未來一起生活”等虛假承諾，引得老人持續(xù)打賞、轉(zhuǎn)賬。

多方共治守護(hù)銀發(fā)群體

“AI霸總”圍獵老年人的亂象，既是法律問題，也是社會(huì)問題。

2025年，國家互聯(lián)網(wǎng)信息辦公室等四部門聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，明確服務(wù)提供者應(yīng)當(dāng)對(duì)文本、音頻、圖片、視頻、虛擬場(chǎng)景等生成合成內(nèi)容添加顯式標(biāo)識(shí)。各大平臺(tái)也積極響應(yīng)，明確對(duì)AI生成內(nèi)容同步添加顯式與隱式標(biāo)識(shí)。

“從法律層面看，如果是生成合成的數(shù)字人‘霸總’，但視頻沒有明顯標(biāo)注，那么就顯然違規(guī)了。”上海市君悅律師事務(wù)所合伙人律師王垚翔說，“如果這類‘AI霸總’賬號(hào)打著真人的名義跟老年人建立一對(duì)一關(guān)系，且利用老年人對(duì)其身份的錯(cuò)誤認(rèn)識(shí)，引導(dǎo)老人購買產(chǎn)品、服務(wù)甚至直接轉(zhuǎn)賬，就有可能涉嫌詐騙，至少也構(gòu)成民事上的欺詐。”

但專家也表示，“AI霸總”賬號(hào)迭代快、隱蔽性強(qiáng)，取證難度大，且侵權(quán)成本低、維權(quán)流程繁瑣，部分老人即便發(fā)現(xiàn)情感受騙，也難以維權(quán)。

從社會(huì)層面來看，部分老年人深陷其中，根源在于情感需求空缺和自我防御意識(shí)不足。上海大學(xué)副教授陸丹丹認(rèn)為，隨著人口老齡化加劇，不少老年人獨(dú)自生活，情感孤獨(dú)，而“AI霸總”恰好填補(bǔ)了情感空白。同時(shí)，老年群體對(duì)AI合成技術(shù)缺乏辨別能力，難以識(shí)破虛假套路。

為了在AI時(shí)代守護(hù)好銀發(fā)群體，受訪專家表示，需要構(gòu)建起多方共治的格局。王垚翔說，各短視頻平臺(tái)應(yīng)切實(shí)履行主體責(zé)任，加大對(duì)違規(guī)賬號(hào)的查處力度，完善AI生成內(nèi)容的標(biāo)識(shí)機(jī)制，確保標(biāo)識(shí)清晰、醒目；優(yōu)化算法推送，推出更完善的老年人模式，減少對(duì)AI離奇內(nèi)容的推送。

陸丹丹建議，一方面子女應(yīng)承擔(dān)起責(zé)任，多給予老人情感陪伴，主動(dòng)幫老人熟悉網(wǎng)絡(luò)環(huán)境，提醒老人警惕網(wǎng)絡(luò)詐騙；另一方面社區(qū)層面也應(yīng)常態(tài)化開展AI科普和防騙培訓(xùn)，提升老年人的自我防御意識(shí)。“要多方協(xié)同發(fā)力，讓老年人在數(shù)字時(shí)代安心享受科技便利，遠(yuǎn)離AI騙局的傷害。”

來源：新華社微信公眾號(hào)

主編：趙小強(qiáng)