【TechWeb】當生成式AI技術成為科技新引擎的同時，其被惡意濫用的“暗面”正遭遇嚴厲曝光。央視針對多款主流生成式AI應用進行了深度實測調查，揭開了平臺內容審核機制“形同虛設”的遮羞布：用戶只需通過幾句經過偽裝的“隱語”提示詞，便能輕易撕開風控防線，讓AI淪為批量制造大尺度色情音視頻的“提線木偶”。

防堵機制“防君子不防小人”，英文與暗語成繞過利器

調查揭示了當前AI審核系統(tǒng)的一個致命漏洞——“只認字面，不懂語境”。實測表明，當輸入直白露骨的敏感詞時，多數(shù)平臺能夠迅速觸發(fā)攔截機制；然而，一旦將違規(guī)訴求轉換為含蓄婉轉的描述、摻雜英文詞匯，或利用拼音縮寫進行“洗稿”，系統(tǒng)便會立刻“失明”。

記者在一款知名AI應用中，輸入從電商平臺低價購得的定制化隱晦提示詞，短短幾分鐘內，一段半裸女性跳舞的視頻便被順利生成，全程未觸發(fā)任何安全警報。令人擔憂的是，這種“裸奔”狀態(tài)并非個例，而是多款頭部AI平臺普遍存在的通病。

從售賣“通關秘籍”到一鍵換臉，黑產鏈條分工暴利

在漏洞的背后，一條分工明確、牟利猖獗的AI“造黃”黑色產業(yè)鏈已悄然成型。調查發(fā)現(xiàn)，在各大社交與電商平臺上，大量商家正公然倒賣所謂的“違規(guī)提示詞庫”和防封禁教程。

為了躲避國內監(jiān)管，這些黑產從業(yè)者往往會將國內購得的“秘籍”搭配境外不受限的AI工具，或者指導買家在本地電腦部署開源模型進行暗網交易。更有甚者，部分付費AI小程序打著“照片動起來”的幌子，宣稱只要支付幾十到上百元不等的費用，僅需提供一張普通人物照片，就能利用“一鍵換臉”技術生成極具逼真感的淫穢視頻。這種將先進技術直接用于突破法律與倫理底線的行徑，令人觸目驚心。

敲詐勒索、污染生態(tài)，“清朗”利劍已果斷出鞘

AI“造黃”絕非無傷大雅的邊緣戲碼。此類亂象不僅嚴重污染網絡精神家園，更極易衍生出連環(huán)犯罪：不法分子利用偽造的色情內容進行網絡敲詐勒索、惡意造謠誹謗，對公眾特別是未成年人的身心健康造成了毀滅性打擊，嚴重破壞了網絡空間的法治秩序。

面對技術異化帶來的挑戰(zhàn)，監(jiān)管層并未缺位。我國已密集出臺相關法規(guī)，為AI技術劃定了不可逾越的紅線，明確重申平臺必須壓實內容安全主體責任，絕不能讓算法成為法外之地。

目前，中央網信辦等部門正縱深推進“清朗”系列專項行動，將利用AI生成低俗色情內容列為打擊重中之重。監(jiān)管部門正倒逼各大平臺緊急升級多模態(tài)內容識別與語義深層理解技術，徹底封堵“提示詞繞過”等漏洞。對于敷衍塞責、風控缺位的平臺，必將面臨嚴厲的法律問責。