來(lái)源：滾動(dòng)播報(bào)

（來(lái)源：上觀新聞）

如今，“刷臉”已是生活日常。出入小區(qū)、超市買菜、手機(jī)登錄……一個(gè)簡(jiǎn)單的動(dòng)作，就能完成身份驗(yàn)證。然而，一張無(wú)法更改的“臉”，一旦被不法分子盜用，后果不堪設(shè)想。

近期，山東青島膠州市警方破獲一起案件，不法分子利用AI技術(shù)合成動(dòng)態(tài)人臉視頻，進(jìn)行虛假實(shí)名認(rèn)證，實(shí)施詐騙等犯罪行為。

數(shù)萬(wàn)條人臉信息現(xiàn)身“網(wǎng)絡(luò)黑市”

記者從膠州市警方獲悉，膠州市公安局網(wǎng)絡(luò)安全保衛(wèi)大隊(duì)偵破了一起利用“AI換臉”技術(shù)突破實(shí)名認(rèn)證的重大侵犯公民個(gè)人信息案件。

據(jù)辦案民警介紹，犯罪嫌疑人在境外聊天工具上以每條5元到10元的價(jià)格購(gòu)買大量公民個(gè)人信息。這些信息包含姓名、身份證號(hào)以及證件照等。

隨后，他們借助境外AI工具，將非法獲取的公民照片放大、變清晰，并合成“眨眼”“搖頭”等動(dòng)作，生成虛假動(dòng)態(tài)人臉視頻，進(jìn)而用其注冊(cè)實(shí)名賬號(hào)。膠州市公安局網(wǎng)絡(luò)安全保衛(wèi)大隊(duì)三中隊(duì)中隊(duì)長(zhǎng)劉正大介紹，注冊(cè)好的賬號(hào)很多被犯罪嫌疑人以30元到50元不等的價(jià)格售賣。

截至案發(fā)，膠州公安圍繞資金流、信息流對(duì)整個(gè)犯罪鏈條進(jìn)行追溯，奔赴4省開展抓捕行動(dòng)，共抓獲犯罪嫌疑人14名，查扣電腦和手機(jī)80余部、云服務(wù)器60臺(tái)，繳獲AI合成動(dòng)態(tài)人臉視頻5萬(wàn)余個(gè)。該團(tuán)伙已販賣賬號(hào)8萬(wàn)余個(gè)，非法獲利60余萬(wàn)元。目前案件已移交檢察院審查起訴。

圖為專案組民警現(xiàn)場(chǎng)查扣的部分手機(jī)。（受訪者供圖）

辦案民警介紹，抓獲的犯罪嫌疑人年齡大多20來(lái)歲，最小的剛滿18歲；他們大多沒有工作，平日里沉迷網(wǎng)絡(luò)。

青島市律師協(xié)會(huì)副監(jiān)事長(zhǎng)、山東德衡律師事務(wù)所律師姜保良表示，當(dāng)前一些受教育程度較低的年輕人，辨別是非能力差，在境外網(wǎng)絡(luò)接觸了不良信息或受旁人蠱惑，很容易走上違法犯罪道路。隨著AI工具越來(lái)越便利，使用AI從事違法犯罪行為的門檻變低，犯罪“成本”也大幅下降。

非法信息從哪來(lái)？賬號(hào)用于何處？

記者采訪了解到，這起案件背后的利益鏈條和“運(yùn)作模式”，既清晰又隱蔽。

辦案民警告訴記者，在一些境外不法平臺(tái)上，眾多包含姓名、身份證號(hào)以及照片的公民個(gè)人信息被售賣。這些信息的來(lái)源，有的是境外網(wǎng)絡(luò)黑客侵入了某些防護(hù)能力較弱的機(jī)構(gòu)，有的是一些單位的“內(nèi)鬼”私自賣出公民個(gè)人信息；這些數(shù)據(jù)在境外平臺(tái)經(jīng)過(guò)層層倒賣，出現(xiàn)在一些不法平臺(tái)上。

記者了解到，犯罪嫌疑人利用搭建的云服務(wù)器上的云手機(jī)工具，在一些主流社交、短視頻平臺(tái)上注冊(cè)賬號(hào)。注冊(cè)時(shí)，他們通過(guò)一款名為“虛擬相機(jī)”的AI軟件，在平臺(tái)要求人臉認(rèn)證的環(huán)節(jié)，不調(diào)用手機(jī)攝像頭，而是直接使用事先制作好的合成視頻來(lái)通過(guò)驗(yàn)證，以此批量注冊(cè)大量實(shí)名賬號(hào)。

據(jù)辦案民警介紹，犯罪嫌疑人售賣這些賬號(hào)，下游買家用來(lái)發(fā)布境外賭博、色情網(wǎng)站信息。他們之所以使用這類通過(guò)人臉識(shí)別注冊(cè)的賬號(hào)，是因?yàn)閷?shí)名認(rèn)證賬號(hào)的信息發(fā)布權(quán)限比非實(shí)名賬號(hào)更高，便于向非法網(wǎng)站引流。

從購(gòu)買個(gè)人信息到制作視頻，再到后續(xù)交易，整個(gè)過(guò)程使用的網(wǎng)絡(luò)軟件服務(wù)器均在境外，交易多使用虛擬貨幣，在一定程度上給網(wǎng)安部門帶來(lái)了較大的偵辦難度。

受訪專家認(rèn)為，隨著AI工具迭代升級(jí)，一些圖像生成模型合成人臉活動(dòng)視頻的能力很強(qiáng)，足以“以假亂真”。人臉信息在賬號(hào)注冊(cè)、交易支付等方面使用廣泛，一些不法分子盯上了這一領(lǐng)域。

奇安信集團(tuán)網(wǎng)絡(luò)安全專家劉夕銘說(shuō)，當(dāng)前普遍使用的人臉識(shí)別技術(shù)，主要是對(duì)臉部特征數(shù)據(jù)進(jìn)行采集，比如眉眼間距、顴骨輪廓等，形成一個(gè)人臉特征的數(shù)據(jù)包，再上傳到服務(wù)器進(jìn)行比對(duì)。但有一些不正規(guī)的公司或者別有用心的公司，為了利益，在人臉驗(yàn)證環(huán)節(jié)，采集的不是人臉特征數(shù)據(jù)，而是完整的照片和背景。

“這些數(shù)據(jù)一旦被用于非法用途，比如‘AI換臉’詐騙，或是注冊(cè)一些非法賬號(hào)、偽造不雅照片進(jìn)行敲詐勒索，不僅是對(duì)個(gè)人隱私的泄露，更會(huì)對(duì)用戶的日常生活造成影響。”劉夕銘說(shuō)。

守護(hù)每個(gè)人的“臉面”

多名專家認(rèn)為，面對(duì)AI時(shí)代侵害公民信息的行為，應(yīng)構(gòu)建全鏈條、多層次、系統(tǒng)化的防護(hù)體系，全社會(huì)共同參與，充分保障公民個(gè)人信息。

基層公安民警介紹，公安機(jī)關(guān)一直在持續(xù)深化全鏈條打擊，強(qiáng)化預(yù)警防控，對(duì)網(wǎng)絡(luò)黑灰產(chǎn)、AI技術(shù)濫用、非法買賣賬號(hào)、侵犯公民個(gè)人信息等犯罪保持高壓嚴(yán)打態(tài)勢(shì)；同時(shí)，加強(qiáng)對(duì)重點(diǎn)平臺(tái)、重點(diǎn)領(lǐng)域、重點(diǎn)人群的風(fēng)險(xiǎn)排查，推動(dòng)從被動(dòng)破案向主動(dòng)預(yù)防轉(zhuǎn)變，最大限度預(yù)防和減少案件發(fā)生。

提升偵辦、打擊的技術(shù)力量也是杜絕公民個(gè)人信息泄露案件的重要著力點(diǎn)。山東大學(xué)法學(xué)院教授胡常龍建議，公安機(jī)關(guān)應(yīng)持續(xù)提升網(wǎng)絡(luò)犯罪偵查技術(shù)水平，加強(qiáng)電子數(shù)據(jù)取證實(shí)驗(yàn)室建設(shè)，配備先進(jìn)的AI偽造內(nèi)容檢測(cè)工具。要深化警企合作，公安部門與互聯(lián)網(wǎng)企業(yè)、網(wǎng)絡(luò)安全研究機(jī)構(gòu)應(yīng)建立長(zhǎng)期性、常態(tài)化協(xié)作機(jī)制，針對(duì)平臺(tái)漏洞和新型攻擊手段及時(shí)提醒并共同防御，共同研發(fā)反制AI合成視頻的檢測(cè)算法。

受訪專家還建議，加強(qiáng)平臺(tái)監(jiān)管，普及青少年網(wǎng)絡(luò)社會(huì)教育。姜保良等法律工作者建議，壓實(shí)網(wǎng)絡(luò)平臺(tái)主體責(zé)任，完善舉報(bào)取證流程。平臺(tái)應(yīng)提升用戶發(fā)言門檻，優(yōu)化算法技術(shù)，減少極端內(nèi)容推薦，不斷升級(jí)異常內(nèi)容的識(shí)別技術(shù)，設(shè)立“舉報(bào)－刪除－溯源追責(zé)”閉環(huán)流程。

此外，專家建議，進(jìn)一步普及、完善道德法治教育，將人工智能時(shí)代下網(wǎng)絡(luò)素養(yǎng)相關(guān)內(nèi)容納入中小學(xué)課程，引導(dǎo)廣大青少年樹立良好的網(wǎng)絡(luò)價(jià)值觀。（記者吳書光、邵魯文、王凱）

原標(biāo)題：《新華調(diào)查｜揭秘“AI換臉”詐騙黑色產(chǎn)業(yè)鏈》

欄目主編：戴慧菁 文字編輯：尹尚勝男

來(lái)源：作者：新華社