回復(fù)電商領(lǐng)取《1000份電商運(yùn)營(yíng)干貨案例》

作者 | 錢游 報(bào)道 | TOP電商

很多人還在驚嘆AI能寫(xiě)作、畫(huà)畫(huà)、剪視頻，沒(méi)想到另一批人早已把它拖進(jìn)了更惡心的角落。

5月4日，封面新聞暗訪曝光多個(gè)AI制黃群組，記者加入的7個(gè)群組成員總數(shù)超過(guò)6000人，其中最大群組超過(guò)3400人。

群里有人賣所謂“焚?zèng)Q”指令，有人賣成品視頻，有人賣工具包，價(jià)格從20元到288元不等。

更離譜的是，有賣家提供真人換臉“定制”服務(wù)，一張照片5元，聲稱“什么需求都可以提”。

從擦邊視頻到付費(fèi)群AI制黃已經(jīng)有了產(chǎn)業(yè)鏈

一張普通生活照，被從社交平臺(tái)偷偷搬走，最后出現(xiàn)在色情群組里。

這個(gè)過(guò)程聽(tīng)起來(lái)像恐怖故事，現(xiàn)實(shí)卻已經(jīng)被拆成了商品流程。

上游是賣“鏟子”的人。他們不直接制作最終內(nèi)容，而是售賣所謂指令、教程、工具包，把高風(fēng)險(xiǎn)內(nèi)容包裝成“學(xué)習(xí)資料”“工作流”“會(huì)員資源”。

部分群組專門(mén)以交流資源為名義吸引用戶，再把人引到其他付費(fèi)群里。

媒體暗訪顯示，不同群組分工明確，有的售賣指令，有的售賣成品視頻，還有的直接出售工具包。

中游是加工內(nèi)容的人。他們拿著明星、網(wǎng)紅，甚至普通人的照片做素材，利用AI生成擦邊或色情化內(nèi)容，再把成品放進(jìn)群里售賣。

有賣家聲稱，只要提供照片就能定制，照片越清晰，成品越“逼真”。

下游是引流的人。部分賬號(hào)長(zhǎng)期在視頻平臺(tái)發(fā)布AI生成的擦邊視頻，單條播放量超過(guò)50萬(wàn)，再通過(guò)評(píng)論區(qū)把用戶導(dǎo)向付費(fèi)群。

前臺(tái)是擦邊內(nèi)容，后臺(tái)是群組交易，再往深處是工具包、教程、定制服務(wù)。

整條鏈路像一間沒(méi)有招牌的小作坊，白天在平臺(tái)上招客，晚上在群里收錢。

更荒誕的是，這門(mén)生意還披了一層“正規(guī)交易”的皮。

調(diào)查顯示，有賣家通過(guò)數(shù)字商品銷售平臺(tái)發(fā)布鏈接，購(gòu)買時(shí)收款方顯示為上海尚億咖網(wǎng)絡(luò)科技有限公司。

企查查信息顯示，該公司成立于2024年4月，注冊(cè)資本50萬(wàn)元。

相關(guān)平臺(tái)雖然列有“低俗色情服務(wù)”等禁售項(xiàng)目，但商家用“工作流”“會(huì)員群”等模糊名稱包裝商品，注冊(cè)成為商家只需要手機(jī)號(hào)，不經(jīng)審核即可上架鏈接。

真正可怕的不是AI會(huì)作惡是作惡成本被打到5元

這件事最刺痛網(wǎng)友的地方，并不只是AI能生成色情內(nèi)容。

真正讓人后背發(fā)涼的，是傷害一個(gè)人的成本已經(jīng)低到離譜。

一張照片，5元。

一套教程，幾十元。

一個(gè)群組，幾千人圍觀。

一次傳播，可能永遠(yuǎn)清不干凈。

有網(wǎng)友說(shuō)，以后發(fā)自拍都要先把臉擋住。有人說(shuō)，普通女生的公開(kāi)照片正在變成高風(fēng)險(xiǎn)素材。

而對(duì)受害者來(lái)說(shuō)，傷害完全是真的。

她要面對(duì)陌生人的觀看、傳播、羞辱、截圖、二次擴(kuò)散，還要一遍又一遍解釋那不是自己?，F(xiàn)實(shí)里的名譽(yù)、親密關(guān)系、職業(yè)處境和安全感，都可能被一段虛假的內(nèi)容擊穿。

TOP電商AI制圖

最高人民法院曾指出，未經(jīng)權(quán)利人同意違法應(yīng)用AI換臉技術(shù)，將直接侵害肖像權(quán)；如果被惡意應(yīng)用到色情、暴力、丑化等場(chǎng)景，還可能侵害名譽(yù)權(quán)、榮譽(yù)權(quán)和個(gè)人信息權(quán)益。

這就是AI制黃最惡心的地方，而且，維權(quán)成本遠(yuǎn)遠(yuǎn)高于作惡成本。

作惡者買一份工具包，換一個(gè)群，換一個(gè)賬號(hào)，就能繼續(xù)開(kāi)張。受害者卻要截圖、取證、舉報(bào)、聯(lián)系平臺(tái)、等待處理，甚至尋找律師。

等平臺(tái)終于處理完，內(nèi)容可能早就被存進(jìn)更多硬盤(pán)、更多群聊、更多境外網(wǎng)站。

《生成式人工智能服務(wù)管理暫行辦法》明確要求，提供者發(fā)現(xiàn)違法內(nèi)容，應(yīng)及時(shí)采取停止生成、停止傳輸、消除等處置措施，并向有關(guān)主管部門(mén)報(bào)告；發(fā)現(xiàn)使用者利用生成式AI從事違法活動(dòng)，也應(yīng)依法采取警示、限制功能、暫停或終止服務(wù)等措施。

《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》也明確，AI生成合成內(nèi)容包括文本、圖片、音頻、視頻、虛擬場(chǎng)景等信息，并規(guī)定顯式標(biāo)識(shí)和隱式標(biāo)識(shí)等要求。

問(wèn)題在于，規(guī)則在鋪路，灰產(chǎn)在狂奔。

平臺(tái)不能繼續(xù)裝睡

每次這類事件曝光，平臺(tái)總會(huì)被推到臺(tái)前。

這一次也一樣。

人臉不是普通素材，它背后有一個(gè)活生生的人。凡是涉及真人肖像、生物識(shí)別信息、親密內(nèi)容的生成與編輯，都不該被當(dāng)成普通修圖功能處理。

內(nèi)容平臺(tái)要回答：為什么一些擦邊AI視頻賬號(hào)可以長(zhǎng)期發(fā)布，播放量做到幾十萬(wàn)，還能通過(guò)評(píng)論區(qū)持續(xù)引流？

算法能識(shí)別用戶愛(ài)看什么，也應(yīng)該識(shí)別什么內(nèi)容正在把用戶導(dǎo)向灰產(chǎn)。單個(gè)視頻也許能說(shuō)漏審，長(zhǎng)期賬號(hào)形成穩(wěn)定引流路徑，就很難再用“沒(méi)看到”解釋。

交易平臺(tái)也要回答：禁售規(guī)則寫(xiě)了一百多條，為什么換個(gè)“會(huì)員群”“工作流”的名字就能上架？

如果注冊(cè)商家只需手機(jī)號(hào)，不經(jīng)審核即可收款，那平臺(tái)實(shí)際上給灰產(chǎn)提供了一個(gè)低門(mén)檻收銀臺(tái)。

換臉、擦邊、付費(fèi)群、外鏈、指定對(duì)象、工具包、定制服務(wù)、會(huì)員資源，這些信號(hào)已經(jīng)不是灰色模糊地帶，而是一排排紅旗。

平臺(tái)如果還把它們當(dāng)成普通內(nèi)容、普通交易、普通工具使用，就等于把治理責(zé)任扔給受害者和媒體暗訪。

說(shuō)到底，AI制黃不是一個(gè)獵奇新聞。

AI原本可以幫人創(chuàng)作、學(xué)習(xí)、工作，甚至照亮很多過(guò)去無(wú)法完成的想象。

技術(shù)越先進(jìn)，底線越不能落后。

工具越強(qiáng)大，平臺(tái)越不能裝睡。

行業(yè)資訊、案例資料、運(yùn)營(yíng)干貨，精彩不停

【添加備注：進(jìn)群】

最新電商行業(yè)資訊，盡在【Top電商】↓↓↓