新華社濟南6月22日電 題：揭秘“AI換臉”詐騙黑色產業鏈
　　新華社記者吳書光、邵魯文、王凱
　　如今，“刷臉”已是生活日常。出入小區、超市買菜、手機登錄……一個簡單的動作，就能完成身份驗證。然而，一張無法更改的“臉”，一旦被不法分子盜用，后果不堪設想。
　　近期，山東青島膠州市警方破獲一起案件，不法分子利用AI技術合成動態人臉視頻，進行虛假實名認證，實施詐騙等犯罪行為。

　　　　　　數萬條人臉信息現身“網絡黑市”

　　記者從膠州市警方獲悉，膠州市公安局網絡安全保衛大隊偵破了一起利用“AI換臉”技術突破實名認證的重大侵犯公民個人信息案件。
　　據辦案民警介紹，犯罪嫌疑人在境外聊天工具上以每條5元到10元的價格購買大量公民個人信息。這些信息包含姓名、身份證號以及證件照等。
　　隨后，他們借助境外AI工具，將非法獲取的公民照片放大、變清晰，并合成“眨眼”“搖頭”等動作，生成虛假動態人臉視頻，進而用其注冊實名賬號。膠州市公安局網絡安全保衛大隊三中隊中隊長劉正大介紹，注冊好的賬號很多被犯罪嫌疑人以30元到50元不等的價格售賣。
　　截至案發，膠州公安圍繞資金流、信息流對整個犯罪鏈條進行追溯，奔赴4省開展抓捕行動，共抓獲犯罪嫌疑人14名，查扣電腦和手機80余部、云服務器60臺，繳獲AI合成動態人臉視頻5萬余個。該團伙已販賣賬號8萬余個，非法獲利60余萬元。目前案件已移交檢察院審查起訴。　　
　　辦案民警介紹，抓獲的犯罪嫌疑人年齡大多20來歲，最小的剛滿18歲；他們大多沒有工作，平日里沉迷網絡。
　　青島市律師協會副監事長、山東德衡律師事務所律師姜保良表示，當前一些受教育程度較低的年輕人，辨別是非能力差，在境外網絡接觸了不良信息或受旁人蠱惑，很容易走上違法犯罪道路。隨著AI工具越來越便利，使用AI從事違法犯罪行為的門檻變低，犯罪“成本”也大幅下降。

　　　　　　非法信息從哪來？賬號用于何處？

　　記者采訪了解到，這起案件背后的利益鏈條和“運作模式”，既清晰又隱蔽。
　　辦案民警告訴記者，在一些境外不法平臺上，眾多包含姓名、身份證號以及照片的公民個人信息被售賣。這些信息的來源，有的是境外網絡黑客侵入了某些防護能力較弱的機構，有的是一些單位的“內鬼”私自賣出公民個人信息；這些數據在境外平臺經過層層倒賣，出現在一些不法平臺上。
　　記者了解到，犯罪嫌疑人利用搭建的云服務器上的云手機工具，在一些主流社交、短視頻平臺上注冊賬號。注冊時，他們通過一款名為“虛擬相機”的AI軟件，在平臺要求人臉認證的環節，不調用手機攝像頭，而是直接使用事先制作好的合成視頻來通過驗證，以此批量注冊大量實名賬號。　　
　　據辦案民警介紹，犯罪嫌疑人售賣這些賬號，下游買家用來發布境外賭博、色情網站信息。他們之所以使用這類通過人臉識別注冊的賬號，是因為實名認證賬號的信息發布權限比非實名賬號更高，便于向非法網站引流。
　　從購買個人信息到制作視頻，再到后續交易，整個過程使用的網絡軟件服務器均在境外，交易多使用虛擬貨幣，在一定程度上給網安部門帶來了較大的偵辦難度。
　　受訪專家認為，隨著AI工具迭代升級，一些圖像生成模型合成人臉活動視頻的能力很強，足以“以假亂真”。人臉信息在賬號注冊、交易支付等方面使用廣泛，一些不法分子盯上了這一領域。
　　奇安信集團網絡安全專家劉夕銘說，當前普遍使用的人臉識別技術，主要是對臉部特征數據進行采集，比如眉眼間距、顴骨輪廓等，形成一個人臉特征的數據包，再上傳到服務器進行比對。但有一些不正規的公司或者別有用心的公司，為了利益，在人臉驗證環節，采集的不是人臉特征數據，而是完整的照片和背景。
　　“這些數據一旦被用于非法用途，比如‘AI換臉’詐騙，或是注冊一些非法賬號、偽造不雅照片進行敲詐勒索，不僅是對個人隱私的泄露，更會對用戶的日常生活造成影響。”劉夕銘說。

　　　　　　守護每個人的“臉面”

　　多名專家認為，面對AI時代侵害公民信息的行為，應構建全鏈條、多層次、系統化的防護體系，全社會共同參與，充分保障公民個人信息。
　　基層公安民警介紹，公安機關一直在持續深化全鏈條打擊，強化預警防控，對網絡黑灰產、AI技術濫用、非法買賣賬號、侵犯公民個人信息等犯罪保持高壓嚴打態勢；同時，加強對重點平臺、重點領域、重點人群的風險排查，推動從被動破案向主動預防轉變，最大限度預防和減少案件發生。
　　提升偵辦、打擊的技術力量也是杜絕公民個人信息泄露案件的重要著力點。山東大學法學院教授胡常龍建議，公安機關應持續提升網絡犯罪偵查技術水平，加強電子數據取證實驗室建設，配備先進的AI偽造內容檢測工具。要深化警企合作，公安部門與互聯網企業、網絡安全研究機構應建立長期性、常態化協作機制，針對平臺漏洞和新型攻擊手段及時提醒并共同防御，共同研發反制AI合成視頻的檢測算法。
　　受訪專家還建議，加強平臺監管，普及青少年網絡社會教育。姜保良等法律工作者建議，壓實網絡平臺主體責任，完善舉報取證流程。平臺應提升用戶發言門檻，優化算法技術，減少極端內容推薦，不斷升級異常內容的識別技術，設立“舉報－刪除－溯源追責”閉環流程。
　　此外，專家建議，進一步普及、完善道德法治教育，將人工智能時代下網絡素養相關內容納入中小學課程，引導廣大青少年樹立良好的網絡價值觀。（完）