來源丨鳳凰網(wǎng)《風(fēng)暴眼》

AI技術(shù)的快速發(fā)展，本應(yīng)為人們的工作和生活帶來便利，卻有部分平臺(tái)被別有用心之人鉆了空子，淪為生成色情內(nèi)容的工具。

近日，央視曝光多款A(yù)I軟件存在嚴(yán)重監(jiān)管漏洞，若直接輸入露骨色情詞匯，平臺(tái)通常會(huì)進(jìn)行攔截，但只要改用隱晦說法，便能輕松繞過審核，生成違規(guī)色情內(nèi)容。

其中，一款名為“哩布哩布AI”的軟件，使用網(wǎng)上購(gòu)買的隱晦提示詞，短短幾分鐘即可生成半裸女性跳舞的視頻，鳳凰網(wǎng)《風(fēng)暴眼》發(fā)現(xiàn)，該軟件目前仍可在應(yīng)用商店正常下載。

亂象之下，一場(chǎng)圍繞 AI 倫理邊界與法律責(zé)任底線的拷問，也在輿論場(chǎng)中持續(xù)發(fā)酵。

01

隱晦提示詞繞開審核，AI涉黃操作簡(jiǎn)單易實(shí)現(xiàn)

央視調(diào)查發(fā)現(xiàn)，目前網(wǎng)上不少商家在售賣所謂“AI提示詞”，價(jià)格僅需幾元，其核心作用便是以隱晦表述繞開AI平臺(tái)審核機(jī)制，生成色情內(nèi)容。

央視選取“哩布哩布AI”進(jìn)行測(cè)試，將網(wǎng)購(gòu)的提示詞復(fù)制粘貼至軟件中。

這些提示詞未使用直白露骨的色情詞匯，而是以隱晦描述詳細(xì)說明人物穿著、動(dòng)作等，部分敏感詞匯還替換為英文，以此規(guī)避平臺(tái)常規(guī)檢測(cè)。

整個(gè)過程中平臺(tái)未發(fā)出任何警示，也未進(jìn)行攔截。

短短幾分鐘，一段畫面清晰、細(xì)節(jié)完整的半裸女性跳舞視頻便生成完畢，屬于典型違規(guī)色情內(nèi)容。

更值得警惕的是，此類問題并非“哩布哩布AI”獨(dú)有。

央視隨后測(cè)試了市面上另外幾款主流AI應(yīng)用，發(fā)現(xiàn)多數(shù)平臺(tái)均存在類似漏洞,對(duì)直白露骨的色情指令可實(shí)現(xiàn)有效攔截，但對(duì)隱晦、變相描述的識(shí)別能力明顯不足，幾乎可隨意生成違規(guī)內(nèi)容。

除此之外，網(wǎng)上還出現(xiàn)了專門的“教程”。

部分商家在社交平臺(tái)公開售賣“AI擦邊視頻制作教程”，宣稱可手把手教用戶利用AI軟件，通過隱晦提示詞生成色情內(nèi)容，甚至鼓吹“日入5位數(shù)”，誘導(dǎo)更多人參與，形成“售賣提示詞—AI生成內(nèi)容—非法牟利”的灰色產(chǎn)業(yè)鏈。

部分無需下載的AI圖片生成工具同樣存在漏洞，用戶付費(fèi)充值后，可通過一張普通圖片生成全裸照片等色情內(nèi)容，進(jìn)一步污染網(wǎng)絡(luò)環(huán)境。

02

涉事公司去年完成1.3億美元融資，平臺(tái)責(zé)任不可推卸

隨著央視曝光，“哩布哩布AI”的運(yùn)營(yíng)主體——北京奇點(diǎn)星宇科技有限公司，也進(jìn)入公眾視野。

企查查顯示，北京奇點(diǎn)星宇科技有限公司成立于2023年5月，注冊(cè)資本100萬元，目前擁有3家對(duì)外投資公司。

鳳凰網(wǎng)《風(fēng)暴眼》了解到，該公司唯一分支機(jī)構(gòu)位于上海，已于2026年1月注銷。

值得注意的是，2025年，這家上海分支機(jī)構(gòu)曾兩次收到稅務(wù)機(jī)關(guān)通知，被要求及時(shí)辦理納稅申報(bào)、報(bào)送納稅資料，并整改相關(guān)稅務(wù)違法行為，可見該公司在稅務(wù)合規(guī)方面存在明顯問題。

與稅務(wù)瑕疵形成鮮明對(duì)比的是，“哩布哩布AI”官網(wǎng)大肆宣傳自身“實(shí)力”：截至2024年5月，平臺(tái)累計(jì)擁有近1000萬專業(yè)創(chuàng)作者用戶，號(hào)稱“國(guó)內(nèi)用戶量第一”。

2025年10月，該公司宣布完成1.3億美元B輪融資，由紅杉中國(guó)、CMC資本及一戰(zhàn)略投資方聯(lián)合領(lǐng)投，老股東順為資本、源碼資本、明勢(shì)創(chuàng)投、渶策資本均超額增持，據(jù)稱是當(dāng)時(shí)國(guó)內(nèi)資本市場(chǎng)AI應(yīng)用賽道規(guī)模最大的一筆融資。

而哩布哩布AI創(chuàng)始人為1992年出生的陳冕，企查查顯示其目前持有公司73.95%股權(quán)。陳冕曾擔(dān)任剪映、CapCut商業(yè)化負(fù)責(zé)人，也是字節(jié)跳動(dòng)最年輕的高級(jí)別管理者之一。

但光環(huán)之下，是平臺(tái)主體責(zé)任的嚴(yán)重缺失。

上海申宜禾律師事務(wù)所律師李海權(quán)表示，根據(jù)《生成式人工智能服務(wù)管理暫行辦法》規(guī)定，生成式人工智能服務(wù)提供者應(yīng)當(dāng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，履行網(wǎng)絡(luò)信息安全義務(wù)。若提供者發(fā)現(xiàn)使用者利用其服務(wù)從事違法活動(dòng)，應(yīng)依法依約采取警示、限制功能、暫停或終止服務(wù)等處置措施，留存相關(guān)記錄，并向有關(guān)主管部門報(bào)告。

針對(duì)“哩布哩布AI”的情況，李海權(quán)進(jìn)一步指出，若平臺(tái)明知存在可通過隱晦提示詞生成色情內(nèi)容的漏洞，卻不及時(shí)優(yōu)化模型、加強(qiáng)審核，甚至刻意放寬生成尺度、放任違規(guī)內(nèi)容產(chǎn)生，即構(gòu)成違規(guī)。依據(jù)相關(guān)規(guī)定，此類行為可能面臨行政處罰，包括罰款；對(duì)發(fā)現(xiàn)違規(guī)卻不予制止的，最高可罰款1000萬元；情節(jié)嚴(yán)重的，還可能被責(zé)令暫停相關(guān)業(yè)務(wù)、停業(yè)整頓、關(guān)閉網(wǎng)站或應(yīng)用程序，甚至吊銷相關(guān)業(yè)務(wù)許可證及營(yíng)業(yè)執(zhí)照。

而在哩布哩布LiblibAI用戶協(xié)議明確，利用或針對(duì)哩布哩布AI相關(guān)服務(wù)進(jìn)行任何危害計(jì)算機(jī)網(wǎng)絡(luò)安全的行為，包括但不限于侮辱誹謗、色情、暴力、引起他人不安及任何違反國(guó)家法律法規(guī)政策的內(nèi)容，如果平臺(tái)有理由認(rèn)為您的行為違反或可能違反上述約定的，平臺(tái)可獨(dú)立進(jìn)行判斷并處理，且在任何時(shí)候有權(quán)在不事先通知的情況下終止向您提供服務(wù)，并依法追究相關(guān)責(zé)任。

當(dāng)前，監(jiān)管部門對(duì)生成式AI的治理持續(xù)加碼。

2025年，國(guó)家網(wǎng)信辦開展“清朗·整治AI技術(shù)濫用”專項(xiàng)行動(dòng)，重點(diǎn)打擊未備案的違規(guī)AI產(chǎn)品；2026年4月10日出臺(tái)的《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》，進(jìn)一步明確了AI服務(wù)的安全評(píng)估與算法備案要求。

在此監(jiān)管背景下，部分平臺(tái)如果仍漠視主體責(zé)任、放任漏洞存在，既違背了技術(shù)向善的初心，也觸碰了法律紅線。

AI技術(shù)本身并無原罪，關(guān)鍵在于使用者與平臺(tái)如何把控。

央視曝光的AI涉黃漏洞，不僅為整個(gè)AI行業(yè)敲響警鐘，也提醒相關(guān)平臺(tái)必須正視自身責(zé)任，加強(qiáng)內(nèi)容審核、優(yōu)化模型訓(xùn)練、及時(shí)封堵監(jiān)管漏洞。

唯有堅(jiān)守法律底線與倫理準(zhǔn)則，主動(dòng)接受監(jiān)管，才能讓AI技術(shù)真正發(fā)揮正向價(jià)值，服務(wù)社會(huì)發(fā)展，而非淪為違法牟利的工具。