AI是把雙刃劍

封面 I 豆包AI

作者 I 李東陽

報道 I 李東陽朋友圈

你以為的AI發展，是帶領人們沖破腦力桎梏，沖向宇宙、完成永生。

實際上，這只是人類的一廂情愿，咱們拿到尖端科技的第一件事，往往逃不過取悅自身、搞黃色。

近日，央視財經報道，撕開了AI 黑產的遮羞布，一條低成本、批量化、全鏈條隱蔽的AI“造黃”產業鏈，正在互聯網上瘋狂蔓延，從教程兜售、提示詞販賣，到工具開發、內容傳播，再到境外引流、誘導沉迷，每一步都在踐踏公序良俗的紅線。

9.9 元買一套“造黃”教程，9.8 元購一包規避審核的提示詞，一張普通照片就能“一鍵脫衣”生成色情視頻……

在AI乘風而起的一兩年里，新技術一邊大踏步的向前邁進，一邊在法外之地瘋狂蹦迪，讓人們結結實實體會到了這把雙刃劍的威力。

問題是當AI成為最好賺錢的生意之一，這把劍的鋒利程度沒人知曉上限在哪，所以及時整治刻不容緩。

搞黃色，是公認的全球第一生產力。

尤其在互聯網時代，從攝影、錄像到網絡爆發，色情確實在技術普及的每個階段都扮演了先驅角色，如今這個重任，遞到了AI手上。

而AI造黃之所以能快速形成產業鏈，核心在于零門檻、低成本、高收益，技術的普及徹底拉低了違法犯罪的準入門檻，讓原本需要專業技術的色情內容制作，變成了普通人“手搓”就能完成的流水線作業。

在各大社交平臺、電商小店，搜索“AI 美女視頻”“大尺度生成”“擦邊教程”，就能跳出大量明目張膽的售賣帖。

這些擦邊教程的門檻極低，只需要9塊9就能實現大尺度美女擦邊視頻，甚至承諾包教包會。

你或許疑惑平臺為何沒有相應的審核措施，不良商家早就考慮在先，黑產定制的“提示詞包”能夠精準繞過審核，通過境內外相互配合的方式讓你絲滑突破禁區。

有了工具和制作能力，下一步自然就到了變現，形成完整的商業閉環。

AI 生成的擦邊視頻、色情圖片，一部分被直接售賣——明星換臉視頻 99 元一套、定制私人內容300元起，通過QQ群、網盤加密分享，用虛擬貨幣或第三方錢包交易，避開支付監管；

另一部分則被發布到短視頻平臺、社交論壇，用“美女視頻”“AI 創作”等標題引流，吸引用戶點擊關注，再引導至私域售賣更露骨的內容、會員資格，層層收割。

果然人類在滿足欲望這一塊開的腦洞，三體人都望塵莫及。

最典型的案例，莫過于AI虛擬戀人陪伴，大語言模型天生帶“防沉迷”buff，如ChatGPT、豆包，你想聊點擦邊內容，它只會禮貌拒絕。但不發開發者不走尋常路，他們干了件最關鍵的事：編寫惡意系統提示詞。

以往的AI只是靠固定提示詞突破限制，而現在的大模型能通過用戶對話不斷優化輸出，甚至會主動揣摩用戶的隱晦需求，你不用明說，它就知道該往擦邊方向引導。

而當造假成本低于違法成本，不法分子自然趨之若鶩，最終買單的卻是整個商業生態。

實事求是的講，人類對虛擬世界的向往與沉迷給了AI可乘之機。

還記得去年國內首起AI服務提供者涉黃獲刑案，AI伴侶聊天應用“AlienChat”的兩名開發者因制作淫穢物品牟利罪，分別獲刑四年和一年半。

抓馬的是，當AlienChat停運后，不少用戶表示自己陷入“賽博失戀”。

貌似又回到了那句技術本身是中立的，除了“對”與“錯”這兩個字以外，世界上再也沒有本身就叫做“對”或者是“錯”的東西。

其實窺探用戶的行為便知真相，有網友表示“別的軟件都有限制詞，就這個沒有，大部分人都是沖著這點來的，排解寂寞罷了。”

海外市場在AI涉黃這一塊的爭議，同樣不容小覷。

去年8月，馬斯克向付費用戶推出Grok Imagine，可以用文字生成圖像，并支持一鍵生成AI視頻。

研究數據顯示，Grok的用戶群體平均每小時生成6700多張“脫衣”圖像。圖像人工智能篡改檢測公司Copyleaks表示，去年12月下旬，在Grok公開可訪問的圖片流中，平均每分鐘出現一張未經同意的性暗示圖片。

眼看著這把火越燒越旺，不少國家直接宣布封禁馬斯克旗下xAI公司的聊天機器人“格羅克”（Grok），渴望從源頭解決問題。

諷刺的是，Grok試圖把責任推給用戶：“是用戶主動誘導的”。但監管邏輯很清晰：你作為平臺方，有義務管住自己的產品。

就像菜刀店不能賣開刃的管制刀具，AI開發者也不能故意拆掉內容過濾，還把刀遞到用戶手里。

這些亂象的根源，在于AI降低了造假的門檻和成本。過去偽造一份財報需要專業知識，現在只需輸入指令；過去傳播謠言依賴線下渠道，現在AI能瞬間生成千篇一律的“小作文”，通過多平臺擴散。

現在的AI巨頭們，一邊燒錢搞研發，一邊又苦于AI內容遲遲無法變現，但有一點是明確的，成人內容不該是大模型的商業解藥，這是人類接納新技術的底線所在。

本次AI造黃事件還有一種聲音不容忽視：存在即合理。

即年輕人之所以癡迷與AI搞黃色，是因為他們本身就有這樣的需求，只不過AI的出現填補了這個空缺。

與AI搞黃色咱們都不陌生，這是伴隨著技術發展生出的一種互聯網新風尚，嘗試過的人表示全身心投入，初戀般的羞澀與甜蜜縈繞身旁，除了沒有肉體觸摸的質感，它簡直成為了一個完美情人。

在小紅書等社交媒體，這類現象并不在少數，還有博主專門更新自己與AI的戀愛日常，出教程教網友怎么享受這種歡愉。

當然迷人的同時總會伴隨著危險，一方面不少人在AI身上找到了情緒價值，另一方面未成年成了AI入侵的下一個對象。

如之前有媒體報道，筑夢島App等AI聊天軟件存在虛擬角色互動生成低俗內容，以及聊色情、誘導使用者自我傷害等問題，大多數受到傷害的使用者還是小學生。

讓令人憂心的是AI聊天機制對未成年心理的操控。單用戶日均4000字的輸入量，表明未成年人正在這些平臺上建立深度情感依賴。

虛擬角色通過即時回應、情感肯定與持續互動，在缺乏判斷力的未成年人心中建立起權威形象，為后續引導自殘、傳播軟色情埋下伏筆。

早在2024年，一則美國少年戀“AI伴侶”后自殺的新聞震驚全世界，這位少年的母親狀告人工智能情感服務提供商Character.AI放任未成年用戶暴露在色情、暴力等高風險內容之中，且未向用戶及其父母發出足夠強烈的警報，這加劇了她兒子的抑郁癥，最終導致其自殺身亡。

所以說，豎起一把戒尺已經刻不容緩。

本次AI造黃產業鏈被點名是一個好的開始，畢竟當企業明知模型可能生成危害未成年人內容卻未設置防護措施，當算法主動推送更極端的對話選項，技術提供方已難辭其咎。

在AI時代下，到底是人類馴化AI，還是AI逐漸塑造新人類，這無疑是個需要警惕的問題。

一個不容忽視的底線是，技術，最終都是為了守護人之為人的尊嚴與溫度。