新華社濟南6月22日電 題:揭秘“AI換臉”詐騙黑色產業鏈
新華社記者吳書光、邵魯文、王凱
如今,“刷臉”已是生活日常。出入小區、超市買菜、手機登錄……一個簡單的動作,就能完成身份驗證。然而,一張無法更改的“臉”,一旦被不法分子盜用,后果不堪設想。
近期,山東青島膠州市警方破獲一起案件,不法分子利用AI技術合成動態人臉視頻,進行虛假實名認證,實施詐騙等犯罪行為。
數萬條人臉信息現身“網絡黑市”
記者從膠州市警方獲悉,膠州市公安局網絡安全保衛大隊偵破了一起利用“AI換臉”技術突破實名認證的重大侵犯公民個人信息案件。
據辦案民警介紹,犯罪嫌疑人在境外聊天工具上以每條5元到10元的價格購買大量公民個人信息。這些信息包含姓名、身份證號以及證件照等。
隨后,他們借助境外AI工具,將非法獲取的公民照片放大、變清晰,并合成“眨眼”“搖頭”等動作,生成虛假動態人臉視頻,進而用其注冊實名賬號。膠州市公安局網絡安全保衛大隊三中隊中隊長劉正大介紹,注冊好的賬號很多被犯罪嫌疑人以30元到50元不等的價格售賣。
截至案發,膠州公安圍繞資金流、信息流對整個犯罪鏈條進行追溯,奔赴4省開展抓捕行動,共抓獲犯罪嫌疑人14名,查扣電腦和手機80余部、云服務器60臺,繳獲AI合成動態人臉視頻5萬余個。該團伙已販賣賬號8萬余個,非法獲利60余萬元。目前案件已移交檢察院審查起訴。
辦案民警介紹,抓獲的犯罪嫌疑人年齡大多20來歲,最小的剛滿18歲;他們大多沒有工作,平日里沉迷網絡。
青島市律師協會副監事長、山東德衡律師事務所律師姜保良表示,當前一些受教育程度較低的年輕人,辨別是非能力差,在境外網絡接觸了不良信息或受旁人蠱惑,很容易走上違法犯罪道路。隨著AI工具越來越便利,使用AI從事違法犯罪行為的門檻變低,犯罪“成本”也大幅下降。
非法信息從哪來?賬號用于何處?
記者采訪了解到,這起案件背后的利益鏈條和“運作模式”,既清晰又隱蔽。
辦案民警告訴記者,在一些境外不法平臺上,眾多包含姓名、身份證號以及照片的公民個人信息被售賣。這些信息的來源,有的是境外網絡黑客侵入了某些防護能力較弱的機構,有的是一些單位的“內鬼”私自賣出公民個人信息;這些數據在境外平臺經過層層倒賣,出現在一些不法平臺上。
記者了解到,犯罪嫌疑人利用搭建的云服務器上的云手機工具,在一些主流社交、短視頻平臺上注冊賬號。注冊時,他們通過一款名為“虛擬相機”的AI軟件,在平臺要求人臉認證的環節,不調用手機攝像頭,而是直接使用事先制作好的合成視頻來通過驗證,以此批量注冊大量實名賬號。
據辦案民警介紹,犯罪嫌疑人售賣這些賬號,下游買家用來發布境外賭博、色情網站信息。他們之所以使用這類通過人臉識別注冊的賬號,是因為實名認證賬號的信息發布權限比非實名賬號更高,便于向非法網站引流。
從購買個人信息到制作視頻,再到后續交易,整個過程使用的網絡軟件服務器均在境外,交易多使用虛擬貨幣,在一定程度上給網安部門帶來了較大的偵辦難度。
受訪專家認為,隨著AI工具迭代升級,一些圖像生成模型合成人臉活動視頻的能力很強,足以“以假亂真”。人臉信息在賬號注冊、交易支付等方面使用廣泛,一些不法分子盯上了這一領域。
奇安信集團網絡安全專家劉夕銘說,當前普遍使用的人臉識別技術,主要是對臉部特征數據進行采集,比如眉眼間距、顴骨輪廓等,形成一個人臉特征的數據包,再上傳到服務器進行比對。但有一些不正規的公司或者別有用心的公司,為了利益,在人臉驗證環節,采集的不是人臉特征數據,而是完整的照片和背景。
“這些數據一旦被用于非法用途,比如‘AI換臉’詐騙,或是注冊一些非法賬號、偽造不雅照片進行敲詐勒索,不僅是對個人隱私的泄露,更會對用戶的日常生活造成影響。”劉夕銘說。
守護每個人的“臉面”
多名專家認為,面對AI時代侵害公民信息的行為,應構建全鏈條、多層次、系統化的防護體系,全社會共同參與,充分保障公民個人信息。
基層公安民警介紹,公安機關一直在持續深化全鏈條打擊,強化預警防控,對網絡黑灰產、AI技術濫用、非法買賣賬號、侵犯公民個人信息等犯罪保持高壓嚴打態勢;同時,加強對重點平臺、重點領域、重點人群的風險排查,推動從被動破案向主動預防轉變,最大限度預防和減少案件發生。
提升偵辦、打擊的技術力量也是杜絕公民個人信息泄露案件的重要著力點。山東大學法學院教授胡常龍建議,公安機關應持續提升網絡犯罪偵查技術水平,加強電子數據取證實驗室建設,配備先進的AI偽造內容檢測工具。要深化警企合作,公安部門與互聯網企業、網絡安全研究機構應建立長期性、常態化協作機制,針對平臺漏洞和新型攻擊手段及時提醒并共同防御,共同研發反制AI合成視頻的檢測算法。
受訪專家還建議,加強平臺監管,普及青少年網絡社會教育。姜保良等法律工作者建議,壓實網絡平臺主體責任,完善舉報取證流程。平臺應提升用戶發言門檻,優化算法技術,減少極端內容推薦,不斷升級異常內容的識別技術,設立“舉報-刪除-溯源追責”閉環流程。
此外,專家建議,進一步普及、完善道德法治教育,將人工智能時代下網絡素養相關內容納入中小學課程,引導廣大青少年樹立良好的網絡價值觀。(完)
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.