科切拉音樂節(jié)于上周五拉開帷幕，一如既往地成為眾多網(wǎng)紅爭相打卡的聚集地。刷了一遍社交媒體動(dòng)態(tài)，映入眼簾的是一張張面容精致、造型亮眼的身影，他們擺著精心設(shè)計(jì)的姿勢，與明星們合影留念。

然而，這些"內(nèi)容創(chuàng)作者"中有一部分根本不在現(xiàn)場，甚至在屏幕之外根本不存在，他們是由AI工具生成的虛擬形象。

偽造科切拉出席記錄并不新鮮，就連真實(shí)網(wǎng)紅近年來也曾這樣做，但生成式AI的飛速發(fā)展，已使辨別這些虛假創(chuàng)作者愈發(fā)困難。部分賬號(hào)會(huì)在簡介或帖子中主動(dòng)披露，將其定義為"數(shù)字創(chuàng)作者"；但這一稱謂本身含糊其辭，并不能說明其本質(zhì)究竟是AI還是真人。還有一些賬號(hào)，即便不加說明，僅憑肉眼也能察覺出明顯的AI痕跡。

Instagram賬號(hào)"Ammarathegoat"便是疑似AI網(wǎng)紅的典型案例，該賬號(hào)擁有超過17萬粉絲，簡介中并無AI披露信息。其發(fā)布的圖片顯示，一個(gè)疑似AI生成的虛擬形象正與卡戴珊家族成員以及Bretman Rock、James Charles等真實(shí)網(wǎng)紅合影，背景中可以辨認(rèn)出科切拉音樂節(jié)的標(biāo)志性場景。Meta平臺(tái)和創(chuàng)作者本人均未在相關(guān)帖子中提供任何AI信息，但圖片與視頻中出現(xiàn)的視覺扭曲現(xiàn)象，無論是近期還是早期內(nèi)容，都強(qiáng)烈暗示該賬號(hào)使用了AI生成技術(shù)。

另一個(gè)在科切拉發(fā)帖、同樣與卡戴珊家族合影的Instagram賬號(hào)"Grannyspills"，根據(jù)其簡介，該形象由Higgsfield AI創(chuàng)建，目前已積累超過200萬粉絲。與"Ammarathegoat"類似，該賬號(hào)發(fā)布的視頻動(dòng)作不自然，圖片也帶有明顯的AI特征，如過度精修的畫面質(zhì)感以及虛擬形象前后不一致的體型。盡管賬號(hào)同樣標(biāo)注為"數(shù)字創(chuàng)作者"，所發(fā)布的圖片和視頻中，除了Instagram移動(dòng)端三點(diǎn)菜單下隱藏的"AI信息"標(biāo)簽外，幾乎沒有任何清晰的披露聲明，桌面端則完全看不到AI標(biāo)識(shí)。

值得注意的是，以女性形象示人的AI網(wǎng)紅賬號(hào)，往往刻意回避提及其展示的美麗女性并非真實(shí)存在。一個(gè)值得關(guān)注的例外是Lil Miquela，她是迄今最具知名度的AI網(wǎng)紅之一，曾于2019年在科切拉"采訪"歌手J Balvin，今年再度"現(xiàn)身"音樂節(jié)現(xiàn)場。與此同時(shí)，另外兩個(gè)Instagram賬號(hào)Miazelu和Anazelu，分別擁有25.2萬和31.2萬粉絲，兩者聯(lián)合發(fā)布的照片與真實(shí)參與者幾乎無從分辨，照片中呈現(xiàn)的背景也相當(dāng)逼真。這兩個(gè)賬號(hào)在簡介中均表明自己是AI網(wǎng)紅，但其發(fā)布的每一條圖片或視頻均未作出相應(yīng)說明。

不難理解，為何這些賬號(hào)乃至更多粉絲量較少的賬號(hào)都要假裝出席科切拉。加州這一音樂盛典早已被稱為"網(wǎng)紅奧運(yùn)會(huì)"，各路內(nèi)容創(chuàng)作者在此爭奪品牌贊助、經(jīng)紀(jì)約，或?qū)で髷U(kuò)大受眾規(guī)模。將名人的面孔納入帖子，很可能是為了提升賬號(hào)曝光度，或借助真實(shí)明星的粉絲基礎(chǔ)進(jìn)行流量收割。

這種潛在的曝光紅利，同樣適用于那些引流至其他平臺(tái)的賬號(hào)。一個(gè)Instagram賬號(hào)掛有OnlyFans鏈接，發(fā)布了兩張據(jù)稱攝于科切拉現(xiàn)場、與頭條演出嘉賓賈斯汀·比伯的合影。由于賬號(hào)沒有任何AI聲明，無法核實(shí)其是否為真人，但這些圖片可能出現(xiàn)在其他Instagram用戶搜索比伯當(dāng)日動(dòng)態(tài)的結(jié)果中。

評(píng)論區(qū)里，許多網(wǎng)友同樣難辨真假。"海莉知道這件事嗎？真讓人擔(dān)心"，一位網(wǎng)友如此評(píng)論，而該賬號(hào)回應(yīng)道："不知道！他們當(dāng)時(shí)不在一起。"這究竟是"死亡互聯(lián)網(wǎng)"理論的又一佐證，還是網(wǎng)友的輕信程度超出了我們的預(yù)判？

去年，成人題材AI網(wǎng)紅Nikki Bellini曾引發(fā)廣泛關(guān)注，其賬號(hào)引導(dǎo)粉絲訂閱類似OnlyFans的平臺(tái)Fanvue，據(jù)報(bào)道該賬號(hào)創(chuàng)作者在科切拉期間收到了"數(shù)百條"線下見面邀約。今年，包括"Fit_aitana"在內(nèi)的多位AI生成的"Fanvue品牌大使"也紛紛加入這股潮流，以逼真的音樂節(jié)假象收割著近40萬Instagram粉絲。Fit_aitana將自身定位為"虛擬靈魂"而非AI形象，但其虛假性質(zhì)在發(fā)布的內(nèi)容中幾乎從未被提及。在X平臺(tái)上粗略搜索后還可發(fā)現(xiàn)，Ammarathegoat擁有OnlyFans賬號(hào)，盡管該平臺(tái)并未明確禁止AI生成內(nèi)容，但要求創(chuàng)作者進(jìn)行身份驗(yàn)證，而該賬號(hào)同樣沒有任何AI披露信息。

Instagram用戶要么渾然未覺，要么根本不在乎。"看起來你玩得超級(jí)開心?"，一位網(wǎng)友在Fit_aitana的科切拉帖子下評(píng)論道，"我好嫉妒。"

即便沒有任何外部引流服務(wù)，AI生成的內(nèi)容同樣在Instagram的科切拉相關(guān)話題標(biāo)簽下泛濫成災(zāi)，卻幾乎不附帶任何披露說明。

相比之下，以男性形象示人的AI網(wǎng)紅更傾向于主動(dòng)表明自己并非真人，但原因在于，他們想向你出售另一樣?xùn)|西：制作AI克隆賬號(hào)的工具。他們借助科切拉的視覺素材，兜售提示詞教程和AI內(nèi)容系統(tǒng)，用戶可以購買后創(chuàng)建自己的虛假網(wǎng)紅，或直接使用現(xiàn)成的虛擬形象。

如今，網(wǎng)紅對(duì)流行文化活動(dòng)的內(nèi)容覆蓋，不免讓人感到一絲表演意味，畢竟任何機(jī)會(huì)都可能被變現(xiàn)。但虛假網(wǎng)紅的大量涌現(xiàn)，且?guī)缀醪桓綆魏闻缎畔ⅲ坪跏窃谙M(fèi)那些無緣親臨現(xiàn)場的普通觀眾?，F(xiàn)在，我們甚至無法安心地遠(yuǎn)程"體驗(yàn)"一場音樂節(jié)，而不去質(zhì)疑眼前所看到的究竟有多少是真實(shí)發(fā)生的。隨著部分虛擬創(chuàng)作者逐漸積累起一定的網(wǎng)絡(luò)知名度，這一趨勢很可能還會(huì)持續(xù)蔓延。

據(jù)報(bào)道，各大品牌已在向科切拉派駐真人網(wǎng)紅上投入"高達(dá)六位數(shù)"的資金?？梢韵胂?，構(gòu)建虛假現(xiàn)實(shí)的成本要低廉得多，無論從哪個(gè)維度來衡量。如果品牌方熱衷于將贊助內(nèi)容鋪設(shè)在AI生成的虛擬形象上，他們或許并不在意這種虛假性是否被消費(fèi)者知曉，而那些消費(fèi)者，也許根本不會(huì)察覺，甚至根本不在乎。

Q&A

Q1：科切拉音樂節(jié)上的AI網(wǎng)紅是如何偽造出席記錄的？

A：這些AI網(wǎng)紅通過生成式AI工具創(chuàng)建虛擬形象，并將其與真實(shí)明星、名人及音樂節(jié)場景合成在同一張圖片或視頻中，從而制造出"親身出席"的假象。由于生成式AI技術(shù)日益成熟，這類合成內(nèi)容與真實(shí)照片已越來越難以區(qū)分，部分賬號(hào)甚至不做任何AI披露，直接以"數(shù)字創(chuàng)作者"等模糊標(biāo)簽掩蓋其虛假本質(zhì)。

Q2：Instagram平臺(tái)對(duì)AI網(wǎng)紅內(nèi)容有沒有強(qiáng)制披露要求？

A：目前Instagram平臺(tái)的AI披露機(jī)制并不完善。部分AI內(nèi)容僅在移動(dòng)端三點(diǎn)菜單下設(shè)有隱藏的"AI信息"標(biāo)簽，在桌面端則完全看不到任何標(biāo)識(shí)。平臺(tái)和創(chuàng)作者均未在帖子正文中主動(dòng)披露AI屬性，導(dǎo)致普通用戶很難辨別所見內(nèi)容是否為真實(shí)的人或真實(shí)的出席記錄。

Q3：品牌方為什么會(huì)對(duì)AI網(wǎng)紅感興趣？

A：與派遣真人網(wǎng)紅參加科切拉音樂節(jié)相比，品牌方在真人創(chuàng)作者上的投入高達(dá)六位數(shù)，而AI網(wǎng)紅的運(yùn)營成本則要低廉得多。如果AI生成的虛擬形象能夠覆蓋同等規(guī)模的受眾，品牌方可能并不在乎內(nèi)容是否由真人創(chuàng)作，也不會(huì)強(qiáng)求對(duì)虛假性質(zhì)進(jìn)行披露，從而以更低成本獲取相近的曝光效果。