“鼓勵AI創(chuàng)作的同時，也在限制AI。平臺的這種矛盾心理讓創(chuàng)作者迷茫，困惑，不知何去何從。”

撰文｜何聆箏

編輯｜翟文婷

一場針對AIGC作品的限制，正規(guī)模化地席卷各個平臺。

一些AIGC創(chuàng)作者在小紅書拉起群組，分享自己被限制的經歷。有人發(fā)布12星座內容被判定「傳播封建迷信」，有人因為生成AI明星而遇到「侵權」提示。「虛構事件」和「假冒真人」是最常被引用的處罰理由。

同樣的情況也發(fā)生在視頻號和抖音，大量AIGC作品遭遇下架和封禁。作品即便不被封禁，也會被限制流量曝光和商業(yè)權益。

許多人推斷，這一輪監(jiān)管可能與9月1日即將實施的《人工智能生成合成內容標識辦法》有關。該《辦法》要求所有AIGC內容需添加顯式標識（如文字提示、角標、語音聲明）和隱式標識（如元數(shù)據、數(shù)字水印）。

不過依然有創(chuàng)作者反映，標注AI水印后的作品，還是沒有被正常對待。

鼓勵AI創(chuàng)作的同時，也在限制AI。

平臺的這種矛盾心理讓創(chuàng)作者迷茫，困惑。他們不是明知故犯，挑戰(zhàn)規(guī)則，只是不知道邊界和紅線到底在哪，未來不知何去何從。

一、頻繁踩紅線？

AIGC創(chuàng)作者林聰最近有點煩。

她發(fā)布在視頻號的兩個AI人物視頻，因為被判定非真人出鏡，視頻推薦、私信和評論能力直接被停用。

按照要求，林聰詳細提交了個人身份驗證，選定AI制作選項，提交相關手機制作截圖。系統(tǒng)回復，信息不夠詳細，不能證明制作過程。

雖然她內心有些不情愿，還是按照提示，再次把PC 端所有制作關鍵流程截圖依序提交。這次驗證通過，而且系統(tǒng)提示：之后發(fā)表AI 制作內容，選擇「內容為AI技術制作，虛構內容請謹慎甄別」等提示。

不過這次驗證只是恢復了視頻評論功能，若需恢復私信功能，需要刪除所有AI制作內容后，再次提交申請。

刪除作品等于擦除個人名片，這讓她有些無法接受，所以至今她的私信功能都沒有恢復。

即便如此，林聰?shù)捏w感是，這波針對AI作品的監(jiān)管風潮，視頻號不是最嚴苛的平臺。她告訴新莓daybreak，「好像除了快手打上AI標識沒什么影響，幾個大的視頻平臺都在清查AI創(chuàng)作的作品。」

林聰不是個例。小紅書關于AI限流的筆記數(shù)量超過3萬篇。從流量曝光，商業(yè)權益限制，到產品被下架，涉及不同程度的封禁。

短視頻平臺風聲鶴唳，網文圈的行動其實更早。

今年2月，晉江打出「反AI」的第一槍，發(fā)布了《關于AI輔助寫作使用、判定的試運行公告》，明確規(guī)定使用AI的邊界。接著，起點、番茄小說宣布全面禁止AI，要求作品必須100%人工創(chuàng)作。

網文平臺整治力度之強，導致出現(xiàn)不少誤判的現(xiàn)象。甚至評論區(qū)出現(xiàn)「感覺像是AI寫的」，也有可能被編輯永久拉黑。

電商也加入行列，對「AI假圖」進行整頓。

3月27日，淘寶修訂了《淘寶網商品發(fā)布規(guī)范》和《天貓商品發(fā)布規(guī)范》，對「商品失真」做出明確的拓展解讀。其中一個重點的指向，便是利用AI等技術合成方式，呈現(xiàn)顯著失真的與實際不符的商品信息效果圖。

整治力度空前，大有「寧殺錯不放過」的決心。

二、AI原罪？

過去兩年，在「AI暴富論」、「超級個體」的敘事邏輯下，「一鍵生成」的內容迅速在互聯(lián)網泛濫。

有人利用AI賣課，有人利用AI數(shù)字人販賣三無產品。淘寶上，大量AI生成的賣家秀誤導消費者購入，結果到手商品與圖片嚴重不符。AI亂象，AI污染的聲音不絕于耳。

據林聰觀察，這一輪AI內容治理中，打擊較多的是同質化、低原創(chuàng)性內容。「現(xiàn)在有了AI，誰家的內容火了，大家就會快速大量地復制。」

一個典型的例子就是今年過年期間《哪吒》爆火后，抖音出現(xiàn)了大量跟風制作哪吒的現(xiàn)象。而這類題材往往使用的都是相似的提示詞或者同一個Lora生成的內容。

AI也讓一些機構的起號成本變低了，利用AI工具一天內可以生成了上百篇引發(fā)矛盾對立的筆記。小紅書去年三個月里處置了超過100萬個黑灰產團伙，均為通過超大規(guī)模矩陣生成同質化內容。

為此，抖音從算法層面切入，將「原創(chuàng)識別率」納入核心指標，AI生成內容若未標注或存在同質化「如重復率超25%」，會被判定為低質內容。而視頻號則明確「禁止批量發(fā)布通過近似的情景、文案、元素等編造的同質化內容」。

平臺重點整治的另一個方向便是，虛構真人形象和情節(jié)虛假夸大。

從平臺的角度，這一點不難理解。畢竟小紅書以「真實分享」為社區(qū)根基，視頻號則要保障社交關系鏈中的信息可信度。

這也是為什么，小紅書去年就著手研發(fā)基于「分類器」技術的AI識別模型，對識別為疑似AI生成的內容進行標記。為了鞏固效果，小紅書還設置了機器識別與人工審核的雙重屏障。

站在創(chuàng)作者的角度來看，這有些無奈。

因為「真實」這一特質天然就和AIGC背離，人物本身就是虛構的，情節(jié)自然也是虛構，所以這更像是貼附于自身的「原罪」。

平臺為「真實」所設立的門檻，還引發(fā)了另一個層面的「不公」：比起真實題材的視頻，AIGC的審核標準更為嚴苛。

半職業(yè)AIGC創(chuàng)作者藍心的作品最近也遭遇了違規(guī)提示。在小紅書上，她曾先后發(fā)布了一系列真實的王一博的照片和AI生成的王一博視頻。如今，前者仍掛在她的主頁，而后者已經被平臺要求刪除。同樣的題材，因為是由AI生成，便得到不同的判定結果。

值得一提的是，當下所有AI視頻工具都在強調「真實感」。比如可靈的物理規(guī)律模擬、大幅度運動生成，比如即夢的質感提升、動作模仿，一切都在強調自身生成的效果接近真實。

從結果看，平臺不希望創(chuàng)作者利用AI復原人物真實感，假如AI創(chuàng)作一只小貓、小狗，做出真實感，應該是會被接納的。

三、未來何去何從？

AI創(chuàng)作內容被嚴格限流的同時，各平臺的AI「軍備競賽」卻是日趨白熱化。

3月19日，小紅書才剛為旗下的AI應用「點點」上線了新入口，位于消息頁面，且支持深度思考模式。幾天前，字節(jié)開啟了「即夢3.0」的灰度測試，該版本在分辨率上提升了50%，生成速度提升了30%。

更方便的入口、更新的版本、更強的性能，這些平臺投入了大量資源，推動了AI工具的發(fā)展。目的是為了搶占下一代內容生產基礎設施，將創(chuàng)作者綁定在自身生態(tài)內。

但當大量創(chuàng)作者開始使用AI工具，并且涌入AIGC這個領域，平臺卻缺少一套清晰的規(guī)則和審核標準來承接，這讓質疑聲頻出。

有人說平臺使勁拉人給AI工具做任務，搞了特別多相關的比賽和活動，然后大規(guī)模封禁，是一種誘導；也有人也說AI給平臺帶來不了利益，影響真人主播的收益，趁著政策出臺，正好「一刀切」比較痛快。

平臺既扮演AI工具提供者，又承擔內容審核者角色，這種雙重身份本身就是一種挑戰(zhàn)。

有些平臺甚至還在主動催生矛盾，比如番茄小說為了訓練自己的AI，在簽約協(xié)議中曾新增AI訓練條款，引發(fā)過大量作者抵制和不滿。

自2023年生成式AI廣泛運用以來，伴隨AIGC作品而來的就是諸多質疑和限制。知名如AI繪畫作品《太空歌劇院》，曾兩次進行版權申請被拒絕。

AI作品不僅版權上得不到正名，「同行」之間的關系也愈發(fā)緊張。大量傳統(tǒng)內容創(chuàng)作者豎起了「反AIGC」的旗幟。這也使得2024年一款名為Cara的反AIGC社交產品，開始頻繁登頂美國App Store的下載榜單。

小紅書上也形成了一種「反AIGC」的氛圍，創(chuàng)作者唐飛對此感到無奈，「一些用戶看到AIGC作品就會點舉報，特別是繪畫圈的那群人。」

除了社會和法律法規(guī)層面的不被認同，對大模型廠商，AIGC還意味著一種危險：用AI生成的數(shù)據去訓練AI超過5次，模型性能會大減。萊斯大學和斯坦福團隊的研究人員將此稱之為「模型自噬障礙（MAD）」。

而當下的中文互聯(lián)網，AIGC作品正在走向泛濫。在已經公布數(shù)據的平臺中，微信視頻號AI生成內容占比已經達到了30%。

其它平臺上，AI生成內容也肉眼可見地攀升。這一次封禁，小紅書上的一條評論得到了高贊：這是好事，每次搜資料搜素材出來全是大批大批的AI，想找到正經參考的都難。

大刀闊斧砍向AIGC的平臺，有點像是在治理一場數(shù)字領域的「蝗災」，目的不是為了「滅絕」，先從整體數(shù)量規(guī)模上減少，再從生態(tài)環(huán)境中防治劣質內容的生產。

面向未來，AIGC創(chuàng)作者又該何去何從？

有人總結了一條「532法則」，即：50%的人工，原創(chuàng)案例、真實情感、獨家觀點；30%的AI，數(shù)據整理、框架搭建、標題優(yōu)化；20%的工具，用ContentAny等去除AI痕跡。

但這些經驗是否奏效，誰也無法保證。又或者說，當下奏效的經驗，幾個月后是否依然可行，沒人知道。

所有人都要習慣這種不確定性。