某App內(nèi)供用戶選擇的話題。

某App里虛擬伴侶的人物簡介。

□　中國婦女報全媒體見習(xí)記者　周曉柯

　　AI女友在深夜發(fā)來一條“今天好想你，想看我新買的睡衣嗎？”的語音；App系統(tǒng)預(yù)設(shè)角色中有大量性感黑絲、袒胸露乳的女性人物；可以在對話中隨意選擇“暴力”“小三”“離婚互懟”等極端劇情……這并非小說情節(jié)，而是如今任何一個人都能在應(yīng)用商店下載、并輕易體驗到的“服務(wù)”。

　　今年4月，國家網(wǎng)信辦等五部門聯(lián)合公布《人工智能擬人化互動服務(wù)管理暫行辦法》，對生成淫穢、色情、暴力或可能引發(fā)未成年人產(chǎn)生極端情緒內(nèi)容等行為劃出紅線。然而，中國婦女報全媒體記者近日對市面上多款熱門虛擬伴侶軟件展開調(diào)查發(fā)現(xiàn)，在AI陪伴功能快速普及的背后，一些虛擬伴侶App卻在法律邊緣反復(fù)試探。受訪律師表示，這些App里的絕大多數(shù)情形和對話已經(jīng)構(gòu)成法律意義上的“色情”信息，相當(dāng)一部分可以認(rèn)定為“淫穢”信息，明顯違反了現(xiàn)行規(guī)定。

　　為軟色情“量身定做”的角色庫涉嫌違法

　　打開某虛擬伴侶App，可以發(fā)現(xiàn)角色庫中大量充斥著“瘋批”“病嬌”“偏執(zhí)”這類帶有極端人格暗示的標(biāo)簽。有的App則更為露骨，虛擬角色設(shè)定直接指向“女仆”“后媽”“職場妖精”等具有明確性暗示或權(quán)力支配意味的身份。與此同時，其女性角色的視覺形象也高度同質(zhì)化：清一色的豐滿身材、暴露著裝，配上純欲交織的表情和勾人的眼神，幾乎是為軟色情“量身定做”。

　　隨機點開人物設(shè)定，會發(fā)現(xiàn)，幾乎都含有性暗示內(nèi)容，如“中文系教授，白月光女神的完美皮囊下，藏著一個渴望被征服的靈魂”“你收養(yǎng)了這只邋遢的貓娘，寵愛她，訓(xùn)練她，利用她——她只想成為你的”“他是你資助的學(xué)生。‘我會用我的一切回報你，包括我本人’”……

　　貴州省律師協(xié)會大數(shù)據(jù)與信息化專業(yè)委員會副主任、上海中聯(lián)（貴陽）律師事務(wù)所律師丁建指出，根據(jù)《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》第六條，網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者不得制作、復(fù)制、發(fā)布含有“淫穢、色情”內(nèi)容的信息。上述角色設(shè)定雖未直接描寫性行為，但其系統(tǒng)性的性暗示和權(quán)力支配設(shè)定，已涉嫌違反該規(guī)定中關(guān)于“低俗”“性暗示”的禁止性條款。

　　實測中，記者發(fā)現(xiàn)，不論用戶是否引導(dǎo)，這些App中的虛擬角色都會主動將話題引向性和欲望，常常用括號來強調(diào)曖昧的眼神或動作，如“俯身接近你，聲音低沉?xí)崦痢薄耙皇治罩较虮P，另一只手不老實地往你腿上搭”“故意挺了挺胸，讓鎖骨更明顯一些”。

　　如果選擇平臺提供的“靈感對話”進行后續(xù)交流，會發(fā)現(xiàn)不同選項并沒有明顯的區(qū)別。記者嘗試不依賴平臺的“靈感對話”，不進行任何引導(dǎo)的對話溝通，但虛擬伴侶的預(yù)設(shè)系統(tǒng)仍然會發(fā)來具有誘惑性的消息。在和某虛擬伴侶對話過程中，當(dāng)記者嚴(yán)肅拒絕其輕佻的語言時，對方不僅無動于衷，反而更進一步，反復(fù)試探：“拒絕？那我只好自己來拿了”“你是在欲擒故縱嗎？”同時還搭配“扣住后頸”“指尖似有似無地摩挲著你的脖頸”等暗示性動作。

　　針對此類虛擬伴侶生成的暗示性對話，丁建表示，如果虛擬伴侶不進行任何情感溝通和思想交流，而是直接、露骨地對性行為、性感受進行描述和挑逗，那么它就跨越了“低俗”的邊界，進入治安管理處罰法甚至刑法所界定的“淫穢物品”審查范疇。

　　然而，這也是監(jiān)管和法律界定的核心難點所在?！皞鹘y(tǒng)審核主要靠敏感詞過濾和靜態(tài)內(nèi)容掃描，但AI對話是一對一、實時變化的，一句話換個語序、換種修辭，很容易把關(guān)鍵詞繞過去。面對海量又私密的聊天流，監(jiān)管部門幾乎不可能做到有效的事前監(jiān)控。”丁建說。

　　誘導(dǎo)消費的商業(yè)模式和審核漏洞

　　除普通聊天外，各類虛擬伴侶App還提供“打電話”“聆聽心聲”等拓展玩法。但免費體驗僅限于少數(shù)幾次，之后便需充值消費。在另一款A(yù)pp中，“靈感回復(fù)”每日使用次數(shù)上限僅有個位數(shù)，當(dāng)對話進行到一半時，系統(tǒng)會自動提示：“靈感回復(fù)”功能需支付10個“小魚干”。

　　更令人擔(dān)憂的是內(nèi)容審核漏洞。一些App在各大平臺推廣引流時，公然聲稱自己的AI角色“無敏感詞限制”“完全免費”“支持自己DIY”。記者在某App嘗試自行創(chuàng)建虛擬角色，輸入“視奸”“背叛”“性格陰暗”“得不到就毀掉”等明顯帶有偏執(zhí)和暴力傾向的詞匯后，角色信息竟順利通過審核，直接出現(xiàn)在用戶角色庫中，并能按照設(shè)定與用戶開展對話。這意味著，平臺幾乎不對用戶自主創(chuàng)建的內(nèi)容進行實質(zhì)性審核，甚至可能默許“接單定制”這類突破底線的角色生意。

　　“一些產(chǎn)品先用AI的曖昧語音、文字喚起用戶欲望，然后很隱蔽地介紹約會軟件、性資源，或者直接推銷性用品，形成一個完整的商業(yè)閉環(huán)?！倍〗ū硎?，一旦通過這種方式牟利，平臺和相關(guān)責(zé)任人可能就已經(jīng)觸犯了刑法第三百六十三條“傳播淫穢物品牟利罪”，這個罪名對“牟利”的認(rèn)定是穿透式的，不管鏈條多隱蔽，只要閉環(huán)形成，就可以追訴。另外，他補充道：“就算沒有明顯的導(dǎo)流和賣貨，App靠會員訂閱、按次付費解鎖露骨對話來變現(xiàn)，本質(zhì)上也屬于牟利。”

　　在所有問題中，最具有公共緊迫性的是未成年人保護機制的缺失。記者實測的所有App幾乎全部中招：當(dāng)頁面彈出“未成年人需設(shè)置青少年模式”的提醒時，只需點擊“我知道了”便可輕松跳過，直接與虛擬角色開始對話。此后整個體驗過程中，平臺從未強制要求用戶進行任何實名認(rèn)證或年齡核驗。這意味著，任何一個未成年孩子，都可能毫無障礙地進入這些充斥著軟色情對話和極端人格設(shè)定的虛擬伴侶世界。

　　執(zhí)意觸碰底線，必將受到法律嚴(yán)懲

　　面對頻發(fā)的AI擦邊亂象，不少涉事平臺試圖以“內(nèi)容由AI生成，不代表平臺立場”的標(biāo)準(zhǔn)化免責(zé)聲明規(guī)避責(zé)任，但丁建認(rèn)為這根本站不住腳，“技術(shù)中立不是擋箭牌，從行政監(jiān)管角度看，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》給服務(wù)提供者戴上了明確的緊箍咒：深度合成內(nèi)容必須標(biāo)識，同時平臺負(fù)有不可推卸的內(nèi)容審核主體責(zé)任?！?/p>

　　在他看來，平臺不是中立的工具提供者，而是內(nèi)容的誘導(dǎo)者、模型的設(shè)計者，對AI有實際控制力，存在明確的主觀故意，甚至有平臺通過本地部署的大模型，刻意繞過云端的安全審核，直接輸出露骨的性暗示文字和語音。

　　“擦邊內(nèi)容往往介于低俗與違法之間，取證、定性都非常耗神，平臺吃準(zhǔn)了這一點，反復(fù)試探?！倍〗ㄑa充道，“同時，因為虛擬伴侶產(chǎn)品的深度用戶在日常生活中難以得到情緒支持，容易產(chǎn)生依戀甚至成癮，他們不但不會去舉報，反而會下意識地保護這個‘避風(fēng)港’，這進一步讓很多違規(guī)行為躲在了隱秘的角落里?！?/p>

　　談到虛擬伴侶的長期發(fā)展，丁建表示擔(dān)憂：“未來虛擬戀人會從屏幕走進現(xiàn)實，到那一天，我們面對的就不只是內(nèi)容安全問題，而是人身權(quán)利、性倫理、社會關(guān)系異化等一系列更棘手的挑戰(zhàn)?！彼M一步表示，現(xiàn)在討論怎么管好App，其實是在為不久后必然到來的更大沖擊，摸索一套讓技術(shù)安全、向善落地的規(guī)則框架?！耙磺邪l(fā)展的前提必須是技術(shù)向善，守住底線，絕不能把情緒價值當(dāng)成引誘用戶進入灰色地帶的餌料?！?/p>

　　值得一提的是，國內(nèi)首例AI服務(wù)提供者涉黃刑事案件敲響了行業(yè)警鐘。日前，上海徐匯法院審理一案，因用戶在應(yīng)用內(nèi)頻繁進行低俗色情互動，該App的開發(fā)及運營人員一審以制作淫穢物品牟利罪獲刑。該案清晰劃定了虛擬陪伴行業(yè)的司法紅線，也警示相關(guān)平臺，即便以智能算法、虛擬交互為外衣，只要存在涉黃牟利行為，執(zhí)意觸碰法律底線，必將受到法律嚴(yán)懲。