網易首頁 > 網易號 > 正文 申請入駐

AI制黃群組被曝光,大批人遭殃了!

0
分享至

來源:市場資訊

(來源:電商最前線)


先表達觀點:

五塊錢一張的AI黃圖,把AI時代的潘多拉魔盒徹底撬開了。


五塊錢一張

地下工廠被曝光

就在近日,有媒體暗訪了七個AI色情內容交易群,群成員加起來超過六千人,光是最大的那個群就塞了三千四百多號人。


3400人是什么概念?這個規模已經夠開一所縣級中學了。而這所「學校」里,大家每天研究的不是數理化,而是怎么把某個女生的臉精準貼到成人視頻的身體上。

有人專門賣「焚訣」,沒錯,就是玄幻小說里那個燒天煮海的功法,在這里代指經過特殊改造、可以繞過AI審核機制的提示詞;


有人賣成品視頻,按長度、按精細度、按清晰度分檔次定價;

有人干脆賣整套工具包,附贈所謂的“手把手教程”,價格從二十元到二百八十八元不等,堪稱黃賭毒版的知識付費。


其中最暢銷的就是「焚訣」。因為便宜,因為好傳播,因為小白也能用。

記者實測,六條升級版提示詞里有三條能直接生成色情圖片,剩下三條才會被系統拒絕,也就是說,這個所謂的審查機制,成功率只有百分之五十。

而真正讓人后怕的,是一張五元的真人定制服務。

你提供照片,他生成色情圖。照片越多、越高清,成品越逼真。哪怕你只給一張,也能交差。

賣家還補充:“什么需求都可以提,是自己的模型,國內正經AI搞不了這種!

女大學生塔塔(化名)就是被這條產業鏈瞄準的受害者之一。她發在QQ空間的生活照被人扒下來,AI篡改后丟到境外社交網站上。


整個過程她毫不知情,等她發現的時候,圖已經在幾十個陌生人的電腦里被反復點開、反復評頭論足。

而這,幾乎是每一個AI受害者的標準劇本。


AI涉黃

已成國際化問題

AI涉黃到底嚴重到什么程度,可以先舉幾個實例:

據路透社援引Security Hero報告,韓國是深偽色情最嚴重的目標國家之一,韓國歌手和女演員在全球深偽色情受害者中占比高達53%。


2025年,香港大學一名學生被曝利用AI工具,將多名女性同學的人像合成至色情影像中,素材及生成圖像多達700余張,受害者約20至30人,均為現實中認識的人。

《經濟參考報》2026年報道,一名娛樂主播“小雨”被不法分子將面部惡意嫁接到色情影片中傳播,導致其直播間被彈幕攻擊、個人社交生活受嚴重影響。報道同時指出,AI換臉已滋生黑灰產,女性面容被惡意嫁接成為常見侵害方式。

就在此前,馬斯克的xAI公司和他的聊天機器人Grok就因為生成露骨成人內容陷入多起訴訟風波。


Grok上線了所謂的「不限制模式」和AI伴侶功能,允許用戶跟虛擬角色進行曖昧甚至露骨的互動。

馬斯克本人在推特上還挺得意,覺得這是「給成年人應有的自由」。


圖源:BBC

結果很快就有用戶發現,只要稍加引導,Grok可以生成帶有明確性暗示的內容,而且不少涉及真實名人。好幾位女性公眾人物的律師團隊直接把律師函懟到了xAI總部。

OpenAI這邊也沒少挨罵。雖然ChatGPT的審核機制是行業里相對嚴格的,但架不住「越獄」提示詞滿天飛。

在《電商最前線》看來,AI公司的估值在過去兩年坐著火箭往上竄,千億美金、萬億美金的估值往外報?墒且簧婕暗絻热輰徍恕⑹芎φ哔r償、黑產追責,這幫估值宇宙第一的公司就變得跟破產戶似的,什么都做不了,什么也不能做。

如果朋友們去搜一下「AI換臉 法律責任」,會發現一個有趣的現象:國內的法律條款其實已經不少了,《民法典》關于肖像權、名譽權的條款清清楚楚,《個人信息保護法》也擺在那兒,甚至還有專門針對深度偽造的《生成式人工智能服務管理暫行辦法》。


潘多拉魔盒已經撬開

必須承認,AI走到今天,也不全是壞事。

它讓程序員少寫了一半的代碼,讓設計師一晚上能出十版方案,讓抑郁癥患者半夜三點還有人陪聊,讓非洲村莊的孩子第一次用上了家庭教師。

醫院里,AI輔助診斷把早期癌癥的識別率提高了一大截,在科研圈,AlphaFold把人類折騰了五十年的蛋白質結構問題給破了。

這些都是真的,一點都不摻水。

但AI也讓地鐵里坐你對面的大哥,能通過一張偷拍照,十分鐘后就擁有一段你的“不雅視頻”。它讓初中女生不敢再發朋友圈自拍,讓女明星每周都要發律師函,讓一個普通人的臉變成了隨時可能被征用的公共資源。


這也是真的。

在筆者看來,技術從來都是雙刃劍,這句話說爛了。但AI的特殊之處在于,它把「作惡」的門檻降到了前所未有的低。

印刷術被發明的時候,偽造一本書需要印刷廠;Photoshop流行的時候,P一張能騙過別人的照片需要專業技能;但到了AI這一代,一個高中生花半小時學個教程,就能批量生產曾經只有頂級特效團隊才能做出來的東西。

作惡的成本被壓縮到了幾乎為零。

當作惡的成本趨近于零,作惡的規模就會趨近于無限。

而今天,我們正站在一個特別奇怪的時間節點上。

一方面,AI大模型的喜訊天天上新聞;

另一方面,五塊錢一張的AI黃圖已經成了某些QQ群里的日常交易。

兩件事聽起來不像同一個宇宙的產物,但它們確確實實生長在同一片土壤里。

等到有一天,我們終于建立起配得上這個時代的AI治理體系的時候,回頭看看今天這些被做成黃圖的人,大概就像今天的我們回看那些早期互聯網時代被人肉搜索的受害者,我們會說一句:

“那時候的人真可憐”

然后繼續享受技術帶來的便利,難道不是嗎?

特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
國家終于出手!住建部官宣:全國大范圍整治物業亂象!

國家終于出手!住建部官宣:全國大范圍整治物業亂象!

職場資深秘書
2026-05-07 15:19:37
普京高利率反噬:俄羅斯五分之一銀行虧損,大批企業開始還不起錢

普京高利率反噬:俄羅斯五分之一銀行虧損,大批企業開始還不起錢

桂系007
2026-05-07 22:31:20
5月5日南海突發大事!黃巖島正面對峙,中方舉動讓外界徹底沉默

5月5日南海突發大事!黃巖島正面對峙,中方舉動讓外界徹底沉默

混沌錄
2026-05-06 17:22:09
巴拉克:凱恩已經單刀直面球門了,裁判不能提前吹停比賽

巴拉克:凱恩已經單刀直面球門了,裁判不能提前吹停比賽

懂球帝
2026-05-07 04:56:44
世界冠軍又怎樣!吳宜澤奪得世錦賽冠軍,回家照樣被姐姐揪耳朵

世界冠軍又怎樣!吳宜澤奪得世錦賽冠軍,回家照樣被姐姐揪耳朵

童叔不飆車
2026-05-06 19:42:57
人和人相處久了就會發現,低層次的人喜歡占便宜,中層次的人沉迷于交換,而真正的高層次人群都在默默做著這兩件事

人和人相處久了就會發現,低層次的人喜歡占便宜,中層次的人沉迷于交換,而真正的高層次人群都在默默做著這兩件事

心理觀察局
2026-05-06 07:28:05
中國海警局新聞發言人發表談話

中國海警局新聞發言人發表談話

界面新聞
2026-05-07 22:43:56
三星宣布停止在中國市場銷售所有家電產品

三星宣布停止在中國市場銷售所有家電產品

財聯社
2026-05-06 19:32:22
一種“謀劃”叫馬伊琍,離婚七年隱婚曝光,文章只是一個“過客”

一種“謀劃”叫馬伊琍,離婚七年隱婚曝光,文章只是一個“過客”

幽棠的趣式
2026-05-07 23:55:25
不出 5 年,中國貶值最快的不是房子和現金,而是這 3 樣東西

不出 5 年,中國貶值最快的不是房子和現金,而是這 3 樣東西

細說職場
2026-04-26 21:04:20
無一人投反對票!55比0全票敲定,菲律賓副總統結局已定?

無一人投反對票!55比0全票敲定,菲律賓副總統結局已定?

錯過美好
2026-05-08 04:04:31
鐵人新帥徐正源:后面我們會變成一支強隊,肯定會越來越好

鐵人新帥徐正源:后面我們會變成一支強隊,肯定會越來越好

懂球帝
2026-05-07 19:53:04
小寶與王某雷,誰探訪花的數量更多?

小寶與王某雷,誰探訪花的數量更多?

挪威森林
2026-01-31 12:15:26
泰康保險銷冠被抓,青島有錢人慌了:窮人家孩子不要幻想掙快錢了

泰康保險銷冠被抓,青島有錢人慌了:窮人家孩子不要幻想掙快錢了

別人都叫我阿腈
2026-05-07 19:38:01
50美元能買到2K門鈴?亞馬遜旗下品牌Blink做到了

50美元能買到2K門鈴?亞馬遜旗下品牌Blink做到了

閃存獵手
2026-05-07 03:27:08
19時48分27秒,我國正式進入……

19時48分27秒,我國正式進入……

譚老師地理大課堂
2026-05-06 14:52:48
弗賴堡總分4-3十人布拉加晉級歐聯決賽,庫布勒雙響,曼贊比建功

弗賴堡總分4-3十人布拉加晉級歐聯決賽,庫布勒雙響,曼贊比建功

懂球帝
2026-05-08 05:05:51
伊朗格什姆島附近傳出爆炸聲

伊朗格什姆島附近傳出爆炸聲

財聯社
2026-05-08 03:00:08
美方故技重施,中方斬釘截鐵,特朗普能不能來華,中方回應有深意

美方故技重施,中方斬釘截鐵,特朗普能不能來華,中方回應有深意

阿器談史
2026-05-08 01:03:05
美記:擁杜蘭特就像買游艇,買來和賣掉的第一天是最快樂的兩天

美記:擁杜蘭特就像買游艇,買來和賣掉的第一天是最快樂的兩天

懂球帝
2026-05-07 22:03:04
2026-05-08 05:23:00
新浪財經 incentive-icons
新浪財經
新浪財經是一家創建于1999年8月的財經平臺
3137163文章數 7221關注度
往期回顧 全部

科技要聞

月之暗面完成20億美元融資,估值突破200億

頭條要聞

日媒詢問中國是否希望恢復中日之間人員往來 中方回應

頭條要聞

日媒詢問中國是否希望恢復中日之間人員往來 中方回應

體育要聞

巴黎再進歐冠決賽,最尷尬的情況還是發生了

娛樂要聞

Lisa主持!寧藝卓觀看脫衣秀風波升級

財經要聞

人均年薪406萬,這家ST公司驚呆市場!

汽車要聞

雷克薩斯全新純電三排SUV 全新TZ全球首發

態度原創

教育
游戲
本地
親子
旅游

教育要聞

二模很重要!2026臨沂二模、青島二模語文、數學試題及答案!

《遠星物語》團隊新作《皓白初曉》登Steam EA

本地新聞

用青花瓷的方式,打開西溪濕地

親子要聞

只祝她“母親節快樂”是不夠的

旅游要聞

在上圖文字奇旅中尋找她的筆跡(邊玩邊贏獎,互動體驗開啟預約!)

無障礙瀏覽 進入關懷版