以下文章來源于風(fēng)聲OPINION，作者朱光星

朱光星

中國(guó)政法大學(xué)副教授

近日，央視財(cái)經(jīng)《財(cái)經(jīng)調(diào)查》曝光了一條借助生成式人工智能迅速蔓延的“造黃”黑色產(chǎn)業(yè)鏈。不法分子公然售賣“教程+提示詞+生成軟件”的套餐，用戶只需提供一張照片、輸入幾句指令，就能批量制造色情、擦邊視頻或圖片等。

盡管《生成式人工智能服務(wù)管理暫行辦法》第四條明確規(guī)定，生成式人工智能服務(wù)不得生成淫穢色情等內(nèi)容，但用戶通過將敏感詞替換為英文或者修改為隱晦表達(dá)，或者下載境外軟件、本地離線部署等手段，便能輕易繞過監(jiān)管審查，低成本、規(guī)?；厣梢x圖片與視頻，實(shí)現(xiàn)高額非法牟利。

在這類AI造黃的違法犯罪中，有一類行為性質(zhì)尤為惡劣，那就是專門制作涉及兒童形象的淫穢圖片或視頻等。之所以要將其單獨(dú)拎出來討論，不僅因?yàn)槠渖鐣?huì)危害性遠(yuǎn)高于一般色情內(nèi)容，更因?yàn)樗诜梢?guī)制上面臨一個(gè)特殊的理論難題：當(dāng)色情內(nèi)容不涉及真實(shí)兒童時(shí)，刑法是否應(yīng)當(dāng)介入？

歐美社會(huì)如何應(yīng)對(duì)AI色情？

近年來，這一問題已成為西方國(guó)家立法和執(zhí)法關(guān)注的重中之重。

例如，隸屬于英國(guó)國(guó)家數(shù)據(jù)科學(xué)與人工智能研究院艾倫?圖靈研究所的“新興技術(shù)與安全中心”發(fā)布的一份《人工智能與嚴(yán)重網(wǎng)絡(luò)犯罪》的報(bào)告，多次提到網(wǎng)絡(luò)犯罪分子正越來越多地利用防護(hù)機(jī)制薄弱的開源權(quán)重模型實(shí)施更高級(jí)的犯罪活動(dòng)，尤其是在利用AI生成兒童色情制品領(lǐng)域表現(xiàn)得尤為突出。

但對(duì)AI生成兒童色情相關(guān)行為的打擊，是隨著人們對(duì)技術(shù)認(rèn)知的深化以及對(duì)違法行為危害性認(rèn)識(shí)的提升而逐步凝聚成共識(shí)的。

域外國(guó)家近代以來普遍認(rèn)為，兒童色情是一種嚴(yán)重侵害兒童個(gè)體人身權(quán)利與人格尊嚴(yán)的犯罪類型。兒童并非合適的性行為或性滿足對(duì)象, 任何描述兒童性行為、性展示或者性暗示的材料，本質(zhì)上都是對(duì)兒童的身體與性特征的物化，構(gòu)成對(duì)兒童的性剝削或者性虐待。

無論是否涉及身體暴力，無論兒童是否認(rèn)識(shí)制作者，甚至無論材料是否為兒童自行制作，其中的兒童始終是性剝削與性虐待的受害者。這類材料將涉及兒童的性行為或性展示記錄下來, 未來有可能被反復(fù)傳播, 對(duì)兒童的健康成長(zhǎng)和心理健康造成深遠(yuǎn)的負(fù)面影響。

在傳統(tǒng)規(guī)制的理念中, 每一份兒童色情制品的制作都意味著有真實(shí)兒童遭受了實(shí)際侵害。禁止兒童色情制品的核心目的，就是要保護(hù)這些真實(shí)受害的兒童。因此，除了前期的制作行為, 持有、瀏覽、傳播等后續(xù)行為，因助長(zhǎng)了整個(gè)兒童色情產(chǎn)業(yè)鏈的持續(xù)運(yùn)作，也同樣受到刑法的嚴(yán)厲打擊。

基于這一邏輯,許多國(guó)家對(duì)兒童色情制品犯罪的傳統(tǒng)規(guī)制，通常會(huì)要求該色情制品必須涉及真實(shí)的兒童, 而對(duì)“虛擬兒童色情”是否需要予以犯罪化則缺少明確的標(biāo)準(zhǔn)。

然而，人工智能的崛起和普及對(duì)這一傳統(tǒng)規(guī)制理念構(gòu)成了根本性挑戰(zhàn)。AI生成的兒童色情圖片或視頻中，并沒有真正的兒童受害，僅僅是借用了兒童的形象而已，而完全由AI生成的虛擬兒童色情，則更是與真實(shí)的兒童毫無關(guān)聯(lián)。對(duì)此，少數(shù)刑法學(xué)者認(rèn)為，這類行為就像歷史上的通奸、同性戀、賣淫等一樣，屬于“無被害人犯罪”，應(yīng)當(dāng)予以非罪化處置。

實(shí)踐中，部分虛擬兒童色情制品的創(chuàng)作者、消費(fèi)者也辯稱, 利用人工智能生成虛擬兒童色情是一種合法的性幻想和技術(shù)實(shí)驗(yàn), 并未侵犯真實(shí)兒童，造成的危害不大。更有觀點(diǎn)進(jìn)一步主張, 對(duì)不涉及真實(shí)兒童的色情制品進(jìn)行過度規(guī)制，涉嫌侵犯公民的表達(dá)自由與藝術(shù)創(chuàng)作空間。

盡管有少數(shù)西方學(xué)者認(rèn)為，AI生成的虛擬兒童色情，可以為戀童癖群體的性沖動(dòng)提供一個(gè)可接受的替代宣泄途徑，從而可能減少現(xiàn)實(shí)中遭受性虐待的兒童數(shù)量。

但越來越多的研究顯示，長(zhǎng)期接觸兒童色情制品會(huì)滋生對(duì)性侵兒童行為的脫敏，可能導(dǎo)致對(duì)更極端、更具虐待性的性侵兒童材料的偏好，削弱行為人內(nèi)心對(duì)虐待兒童的抑制力；而且，消費(fèi)AI生成的虛擬兒童色情制品，可能會(huì)增加現(xiàn)實(shí)世界中接觸式性侵犯兒童犯罪的風(fēng)險(xiǎn)。由此可見，兒童色情的虛擬化，并不等于無害化。

基于這一共識(shí)，近些年來西方越來越多的國(guó)家，逐步突破傳統(tǒng)規(guī)制中要求有真實(shí)兒童受害的要求，立法和司法對(duì)虛擬兒童色情犯罪的打擊力度顯著增強(qiáng)。

以英國(guó)為例，根據(jù)政府最近發(fā)布的一份政策說明文件，英國(guó)正在推動(dòng)一部新的改革法案，擬將專門用于生成兒童色情素材的優(yōu)化人工智能模型列為非法；并將新增罪名，將改造、持有、提供或兜售兒童色情圖片生成工具均規(guī)定為違法，最高可判處五年監(jiān)禁刑。

該法案還將對(duì)之前關(guān)于戀童癖的立法規(guī)定進(jìn)行修改，將AI生成的虛擬兒童色情材料也納入規(guī)制范疇，使其與真實(shí)的兒童色情適用同一法律標(biāo)準(zhǔn)。再如，荷蘭在2023年通過對(duì)原有刑法做擴(kuò)大解釋，將利用深度偽造技術(shù)制作和傳播性露骨內(nèi)容的行為也納入刑事處罰范圍。

需要說明的是，上述立法動(dòng)向雖然主要針對(duì)兒童色情，但其背后反映的規(guī)制邏輯對(duì)于一般性的AI造黃行為同樣具有借鑒意義，即不再要求色情內(nèi)容必須對(duì)應(yīng)真實(shí)受害者，而是直接打擊AI生成行為本身。

“造黃”產(chǎn)業(yè)：技術(shù)中立不是放任的借口

那么，我國(guó)法律對(duì)AI生成色情內(nèi)容（包括但不限于兒童色情）是如何應(yīng)對(duì)的？

我國(guó)雖然沒有專門針對(duì)AI生成色情內(nèi)容的新立法動(dòng)向，但現(xiàn)行刑法對(duì)淫穢物品已有嚴(yán)格管控。《中華人民共和國(guó)刑法》第363、364條規(guī)定有“制作、復(fù)制、出版、販賣、傳播淫穢物品牟利罪”和“傳播淫穢物品罪”等罪名。

AI為違法犯罪分子帶來極大便利、降低其違法犯罪成本的同時(shí)，也因內(nèi)容的生產(chǎn)自動(dòng)化、規(guī)?；约斑`法收益與傳播速度成倍放大，使得越來越多的普通人更容易觸犯刑法。

以淫穢視頻為例，過去制作淫穢視頻需要拍攝、剪輯、后期等專業(yè)能力，周期長(zhǎng)、門檻高、風(fēng)險(xiǎn)大；如今，任何人只要購(gòu)買廉價(jià)提示詞，復(fù)制粘貼即可驅(qū)動(dòng)AI自動(dòng)生成高清視頻；只要輕微變換表述，便能輕易突破審核攔截；只要使用境外模型，就能隱匿行蹤、逃避打擊。

AI的普及，使得違法犯罪行為從“專業(yè)化作案”降級(jí)為“大眾化復(fù)制”，普通網(wǎng)民甚至是未成年人都可能被卷入其中。

央視調(diào)查顯示，AI“造黃”早已不是個(gè)人零散行為，而是形成了分工嚴(yán)密、上下游協(xié)同、全鏈條牟利的黑色產(chǎn)業(yè)體系：上游有人專門編寫、販賣涉黃提示詞與規(guī)避教程；中游有人提供破解模型、境外軟件、離線運(yùn)行工具；下游有人批量生成、多平臺(tái)分發(fā)、引流變現(xiàn)。每一環(huán)都只做“一小段”，每一方都可能以“技術(shù)中立”為自己開脫。

由此，便引出了一個(gè)核心的法律難題：在鏈條化、分布式、去中心的AI犯罪面前，究竟誰該承擔(dān)刑事責(zé)任？

提示詞販賣者不直接生成視頻，模型提供者不參與內(nèi)容發(fā)布，平臺(tái)方不控制具體用戶行為。傳統(tǒng)刑法以“直接實(shí)行行為人”為中心的追責(zé)模式在此陷入困局：直接打擊使用者，治標(biāo)不治本；放任上游工具提供者，則黑產(chǎn)屢打不絕；擴(kuò)大平臺(tái)責(zé)任，又可能傷及技術(shù)創(chuàng)新。如何精準(zhǔn)識(shí)別、合理分配、依法追責(zé)，是我國(guó)刑法在AI時(shí)代必須回答的考題。

此次曝光，更是暴露出平臺(tái)治理的明顯短板。許多AI工具號(hào)稱設(shè)有內(nèi)容審核與安全護(hù)欄，但實(shí)踐中卻形同虛設(shè)——簡(jiǎn)單修改表述、切換英文指令、更換接口來源，即可輕易繞過限制。

長(zhǎng)期以來，“技術(shù)中立”成為不少平臺(tái)自我免責(zé)的通行說辭。然而，技術(shù)中立從來不是絕對(duì)的，更不是無限的。當(dāng)平臺(tái)明知其服務(wù)被大規(guī)模用于“造黃”，當(dāng)平臺(tái)具備技術(shù)能力卻故意不采取必要防控措施，并有意從流量、用戶、使用量中持續(xù)獲利，所謂“技術(shù)中立”的辯解，實(shí)際上是放任違法犯罪的借口。

面對(duì)AI“造黃”這條黑色產(chǎn)業(yè)鏈，刑法的態(tài)度不宜簡(jiǎn)單滑向“重刑擴(kuò)罪”或“技術(shù)放任”兩個(gè)極端。真正的難題在于，如何在保護(hù)技術(shù)創(chuàng)新空間的同時(shí)，將法律責(zé)任精準(zhǔn)落到每一個(gè)關(guān)鍵環(huán)節(jié)——提示詞的販賣者、模型的提供者、離線部署工具的傳播者，以及明知黑產(chǎn)卻消極放任的平臺(tái)方，各自應(yīng)當(dāng)承擔(dān)怎樣的刑事責(zé)任？目前，無論是立法，還是司法，都缺乏清晰、可操作的答案。

與其反復(fù)強(qiáng)調(diào)“技術(shù)向善”這類原則，不如盡快啟動(dòng)針對(duì)性研究，明確AI生成違法內(nèi)容場(chǎng)景下的入罪邊界、共同犯罪認(rèn)定標(biāo)準(zhǔn)、平臺(tái)的安全保障義務(wù)邊界，以及跨境技術(shù)犯罪的管轄與取證規(guī)則等諸多問題。

法律只有真正讀懂了技術(shù)邏輯，才能穿透黑產(chǎn)鏈條，讓躲在“技術(shù)中立”背后的責(zé)任主體無處遁形。

文章轉(zhuǎn)載自“風(fēng)聲OPINION”公眾號(hào)，原文標(biāo)題為《法治理想國(guó)｜AI“涉黃”，平臺(tái)應(yīng)該負(fù)多大責(zé)任？》。本文所載內(nèi)容來源于互聯(lián)網(wǎng)等公開渠道，我們對(duì)文中觀點(diǎn)持中立態(tài)度，僅供讀者參考、交流。轉(zhuǎn)載的稿件版權(quán)歸原作者和機(jī)構(gòu)所有，如有侵權(quán)，請(qǐng)聯(lián)系我們刪除。

??

Serving national strategies, focusing on university research and the transformation of scientific and technological achievements