不是AI變壞了，而是“壞人”學(xué)會(huì)了用AI

4月14日消息，昨日，“央視財(cái)經(jīng)”曝光一條完整的AI“造黃”黑色產(chǎn)業(yè)鏈。只需一張普通照片、幾句隱晦“提示詞”，幾分鐘即可生成大尺度視頻，最低成本僅9.9元。

這條產(chǎn)業(yè)鏈分工明確：有人兜售教程和提示詞，有人開(kāi)發(fā)專用軟件，有人通過(guò)社交平臺(tái)批量引流。商家將敏感詞翻譯成英文寫(xiě)入提示詞，引導(dǎo)用戶使用境外AI工具或本地離線部署，以此繞過(guò)平臺(tái)審核。

“央視財(cái)經(jīng)”記者實(shí)測(cè)發(fā)現(xiàn)，在擁有1.4億用戶的某知名AI應(yīng)用中，輸入購(gòu)買的提示詞后，幾分鐘即生成半裸女性跳舞視頻，全程未觸發(fā)任何限制。“哩布哩布AI”等平臺(tái)同樣存在漏洞。一款號(hào)稱“免下載、快速換臉”的軟件，可根據(jù)付費(fèi)金額生成全裸照片和色情視頻。

境外AI聊天軟件成為另一重災(zāi)區(qū)。“Dady”“flai”等虛擬陪伴軟件通過(guò)灰色通道流入國(guó)內(nèi)，以“可開(kāi)車、無(wú)限制詞”為賣點(diǎn)，聊天內(nèi)容幾乎圍繞色情話題展開(kāi)。這些軟件通過(guò)“拉新返利”機(jī)制裂變擴(kuò)張，老用戶發(fā)帖引流可獲金幣和充值返利，評(píng)論區(qū)隨處可見(jiàn)下載鏈接和邀請(qǐng)碼。

知情人士透露，推銷平臺(tái)刻意繞過(guò)監(jiān)管，瞄準(zhǔn)未成年人群體。今年4月10日公布的《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》已明確安全評(píng)估和算法備案要求。2025年4月網(wǎng)信辦“清朗”專項(xiàng)行動(dòng)將未履行備案的違規(guī)AI產(chǎn)品列為重點(diǎn)整治對(duì)象。

專家指出，境外軟件缺乏安全審核，下載后可能帶來(lái)病毒或信息安全隱患。央視評(píng)論稱，這不是AI變壞了，而是“壞人”學(xué)會(huì)了用AI。“日入五位數(shù)”的暴利驅(qū)動(dòng)下，AI造黃正從個(gè)案演變?yōu)楣I(yè)化犯罪。

消息釋出后，有網(wǎng)友評(píng)論：“AI絕不能帶病“裸奔”，或“先污染后治理”。更有網(wǎng)友呼吁：”AI治理刻不容緩！“”科技進(jìn)步的同時(shí)，監(jiān)管一定要跟上！“”加強(qiáng)管理，不要?dú)Я宋磥?lái)，任何新東西的誕生都是雙面的 有好有壞，就看自己怎么用。“”嚴(yán)厲打擊！“