利用“深度偽造（Deepfake）”技術(shù)所實(shí)施的性犯罪日趨猖獗，成為當(dāng)前韓國(guó)國(guó)內(nèi)輿論風(fēng)暴的中心，被視為“N號(hào)房”丑聞的翻版。據(jù)報(bào)道，目前海外通信軟件“電報(bào)（Telegram）”中，傳播著無(wú)數(shù)女性被AI生成“換臉”的“性影像”，其中參與犯案者多達(dá)22萬(wàn)人，引發(fā)韓國(guó)民眾恐慌。

韓國(guó)受害者們?yōu)閷で笤撌录哪芤?jiàn)度最大化，在海外平臺(tái)上不斷上傳帖文求助，部分受害者也來(lái)到中國(guó)的社交媒體軟件“發(fā)聲”，呼吁更多人關(guān)注此事件。

每個(gè)人都可能淪為受害者：

“深度偽造”技術(shù)泛濫、擁有“私密”性的社交平臺(tái)成翻版“N號(hào)房”

今年5月，韓國(guó)的一則報(bào)道，揭開(kāi)了“深度偽造”性犯罪事件的冰山一角。

首爾大學(xué)畢業(yè)生樸某和姜某，從2021年7月至2024年4月的3年多里，盜用女性同學(xué)、熟人的照片，用“深度偽造”技術(shù)換臉合成色情制品，在“電報(bào)”上建立了近200個(gè)網(wǎng)絡(luò)聊天室進(jìn)行傳播，警方稱，樸某共參與制作、傳播約1700份非法照片和視頻，受害女性多達(dá)61人。這則報(bào)道，將“深度偽造”性犯罪，拉進(jìn)韓國(guó)民眾的視線。

什么是“深度偽造（Deepfake）”技術(shù)？

“深度偽造（Deepfake）”是一個(gè)合成詞，是人工智能（AI）領(lǐng)域由“深度學(xué)習(xí)”（deep learning）和偽造（fake）合成的一個(gè)詞匯。該技術(shù)使用人工智能生成技術(shù)，將個(gè)人的聲音、面部表情及身體動(dòng)作拼接合成虛假內(nèi)容。用該技術(shù)形成的圖像與視頻，看起來(lái)非常逼真，難以識(shí)別其真?zhèn)巍?/strong>

事實(shí)上，“深度偽造”技術(shù)（Deepfake）的泛濫使得韓國(guó)女性的受害者數(shù)量以及受害者性影像的傳播力度較“N號(hào)房”事件更上了一個(gè)臺(tái)階。“深度偽造”技術(shù)的特性，意味著每一個(gè)個(gè)體都有可能成為受害者。只需要上傳受害者照片，就能夠輕易將其“換臉”制造一段不堪入目的性影像。

值得注意的是，該事件中性影像的傳播平臺(tái)與“N號(hào)房”事件一樣，仍然是海外社交媒體平臺(tái)“電報(bào)”。該平臺(tái)可以提供加密消息傳遞、“閱后即焚”等功能，擁有較為“私密”的特性，也因此成為犯罪行為的溫床。

在“電報(bào)”平臺(tái)中，存在一些付費(fèi)的“深度偽造”頻道，男性訂閱用戶提供女性照片，付費(fèi)后便能夠獲得由“深度偽造”技術(shù)制成的性影像。某些群組甚至要求參與者通過(guò)向受害者發(fā)送偽造照片，以及分享受害者的反應(yīng)，來(lái)?yè)Q取群組的“入場(chǎng)券”。相關(guān)群組參與人數(shù)不等，少的幾百上千人，多的超過(guò)十萬(wàn)人。

在此過(guò)程中，加害者還毫不猶豫地公布受害女性的身份，威脅受害者，索要錢財(cái)。

“深度偽造”性犯罪像“游戲”那般

在韓國(guó)青少年間蔓延

如此涉及性犯罪的行為，卻在韓國(guó)青少年中像“游戲”那般蔓延。

其中，不乏青少年因?yàn)椤爸皇怯X(jué)得有趣”“只是在開(kāi)玩笑”“用熟人的照片P圖更真實(shí)”等原因，使用“深度偽造”技術(shù)制造、傳播甚至是販賣性影像。加之“電報(bào)”等社交媒體的匿名性，犯罪者更加有恃無(wú)恐，甚至出現(xiàn)了“只有傻瓜才會(huì)被警察逮住”的言論。

許多“電報(bào)”群組都是按學(xué)校名稱或地區(qū)分類，以便用戶輕松識(shí)別共同的熟人并制作可以分享的“深度偽造”性影像。若想要進(jìn)入這些組群，不少用戶被要求提供一名女性的照片，這些照片通常是從女同學(xué)的社交媒體賬戶中截取。

8月27日，韓國(guó)總統(tǒng)尹錫悅就“深度偽造”犯罪行為發(fā)表講話稱：“最近，在社交媒體上，針對(duì)不明人數(shù)的‘深度偽造’視頻迅速傳播。受害者通常是未成年人，而施暴者大多是青少年。”尹錫悅還表示：“雖然‘深度偽造’犯罪的托詞是單純的惡作劇，但這是在匿名的遮羞布之下惡意利用技術(shù)的明確的犯罪行為……任何人都可能成為受害者。”

韓國(guó)總統(tǒng)尹錫悅。圖源：《環(huán)球時(shí)報(bào)》

韓國(guó)警方稱，今年前七個(gè)月共報(bào)告了297起色情相關(guān)的“深度偽造”犯罪案件，高于去年的180起，幾乎是2021年數(shù)據(jù)首次整理時(shí)的兩倍。在178名被指控的人中，青少年涉案者超六成（113人）。

首爾警察廳官員表示，許多青少年因過(guò)度依賴信息技術(shù)，缺乏相關(guān)法律意識(shí)，參與制作和傳播“深度偽造”內(nèi)容，導(dǎo)致校園內(nèi)此類犯罪行為泛濫。警方計(jì)劃與教育部門合作，強(qiáng)化學(xué)校的數(shù)字性犯罪預(yù)防教育，包括告知學(xué)生分發(fā)非法合成材料是嚴(yán)重犯罪，以加深學(xué)生對(duì)數(shù)字性犯罪的認(rèn)識(shí)。

“深度偽造”性犯罪引恐慌

韓國(guó)女性求援中國(guó)互聯(lián)網(wǎng)

連日來(lái)，有幾位韓國(guó)女性在中國(guó)社交平臺(tái)發(fā)文求助。有微博用戶發(fā)布帖文指出：“在韓國(guó)發(fā)生‘N號(hào)房’事件時(shí)，幾乎沒(méi)有加害者被捕，也沒(méi)有披露加害者的名單。”因?yàn)楹ε麓舜问录矔?huì)安靜地過(guò)去，這名用戶因此發(fā)帖，希望中國(guó)朋友把這件事傳播出去。

部分韓國(guó)女性網(wǎng)友在微博發(fā)出帖文后，“N號(hào)房2.0”“韓國(guó)deepfake”等詞條沖上微博熱搜榜。

針對(duì)“深度偽造”犯罪在韓國(guó)引起恐慌，中科院女工程師張欣怡表示：經(jīng)團(tuán)隊(duì)同意，已將近期參加在上海舉辦的外灘大會(huì)AI創(chuàng)新賽·全球deepfake（深度偽造技術(shù)）攻防挑戰(zhàn)賽的AI模型向全球開(kāi)源，讓所有有需要的人都可以免費(fèi)使用模型來(lái)對(duì)抗deepfake，希望通過(guò)技術(shù)手段，為每一個(gè)可能受到傷害的人提供保護(hù)。“我們不會(huì)停止對(duì)這類行為的追究，更不會(huì)放棄對(duì)技術(shù)的探索和完善。”張欣怡還表示：“既然有人利用技術(shù)造假，那么我們也要利用技術(shù)去阻止他們得逞。”

作者丨程凌宇，深圳衛(wèi)視直新聞主筆