市道新聞12月12日山西電 2025 年作為人工智能技術(shù) “爆發(fā)臨界點(diǎn)”，在大模型普惠化、行業(yè)深度融合的技術(shù)紅利之下，AI 技術(shù)濫用風(fēng)險(xiǎn)正持續(xù)凸顯。山西省消費(fèi)者協(xié)會(huì)日前發(fā)布專(zhuān)項(xiàng)消費(fèi)警示，直指 “AI 換臉”“AI 配音” 等深度偽造技術(shù)已成為詐騙分子的新型作案工具，此類(lèi)詐騙因具備極強(qiáng)迷惑性，正對(duì)消費(fèi)者財(cái)產(chǎn)安全和隱私權(quán)益構(gòu)成嚴(yán)峻威脅，而公安部數(shù)據(jù)顯示，2025 年一季度全國(guó) AI 換臉詐騙案環(huán)比增幅已達(dá) 45%，反詐形勢(shì)日趨嚴(yán)峻。

深度偽造技術(shù)成詐騙新載體 四步流程實(shí)施精準(zhǔn)誘騙

據(jù)山西消協(xié)披露，不法分子利用深度偽造技術(shù)實(shí)施詐騙已形成標(biāo)準(zhǔn)化作案流程，核心在于通過(guò)技術(shù)手段偽造身份獲取信任，再以緊急情境倒逼受害者完成轉(zhuǎn)賬，具體可分為四個(gè)步驟：

其一為信息搜集，詐騙分子會(huì)從抖音、微信視頻號(hào)、微博等社交媒體平臺(tái)，批量采集消費(fèi)者及其親友公開(kāi)發(fā)布的視頻、語(yǔ)音素材，用于 AI 模型訓(xùn)練，為后續(xù)偽造內(nèi)容提供數(shù)據(jù)基礎(chǔ)；其二是制造假象，借助 AI 換臉、AI 配音技術(shù)，合成面容、聲音高度逼真的視頻或音頻，部分合成內(nèi)容已能達(dá)到以假亂真的程度；其三是情境設(shè)計(jì)，編造車(chē)禍急救、資金周轉(zhuǎn)、繳納學(xué)費(fèi)、合同款支付等緊急事由，壓縮受害者思考核實(shí)的時(shí)間；其四為實(shí)施詐騙，通過(guò)視頻通話、發(fā)送音視頻片段等方式聯(lián)系受害者，最終誘導(dǎo)其向指定賬戶轉(zhuǎn)賬。

在具體作案場(chǎng)景中，此類(lèi)詐騙已呈現(xiàn)出明顯的精準(zhǔn)化、多元化特征。既有合成親屬、好友形象，以 “急事借錢(qián)” 為由實(shí)施的親情類(lèi)詐騙，也有針對(duì)企業(yè)財(cái)務(wù)人員、普通員工，冒充公司領(lǐng)導(dǎo)要求緊急支付合同款、保證金的職場(chǎng)類(lèi)詐騙，更有偽造執(zhí)法人員身份，以 “涉案” 為由要求將資金轉(zhuǎn)入 “安全賬戶” 的公權(quán)力類(lèi)詐騙。此前江蘇南京曾出現(xiàn)犯罪分子利用 AI 換臉突破金融平臺(tái)人臉識(shí)別認(rèn)證、盜刷銀行卡的案例，而山東寧陽(yáng)一案件中，嫌疑人通過(guò) AI 換臉偽造 “白富美” 人設(shè)網(wǎng)戀詐騙，涉案金額近 13 萬(wàn)元，常州金壇一老人也曾險(xiǎn)些因 AI 換臉偽造的 “民警” 身份，被騙走 40 余萬(wàn)元養(yǎng)老金。

牢記 “三不二要” 原則 構(gòu)建多重驗(yàn)證防護(hù)網(wǎng)

針對(duì) AI 深度偽造詐騙的隱蔽性，山西消協(xié)特別提出 “三不二要” 核心防范原則，指導(dǎo)消費(fèi)者建立 “多重驗(yàn)證” 安全意識(shí)，破除 “眼見(jiàn)為實(shí)、耳聽(tīng)為真” 的認(rèn)知誤區(qū)。

在 “三不” 原則層面，首先要不輕信，對(duì)所有非線下見(jiàn)面場(chǎng)景的轉(zhuǎn)賬要求保持高度警惕，即便看到熟悉面容、聽(tīng)到熟悉聲音，也需警惕詐騙分子制造的 “緊急恐慌”；其次要不轉(zhuǎn)賬，在未通過(guò)獨(dú)立渠道完成 100% 身份核實(shí)前，堅(jiān)決不進(jìn)行任何資金劃轉(zhuǎn)，守住財(cái)產(chǎn)安全的最后防線；同時(shí)要不泄露，謹(jǐn)慎在社交平臺(tái)發(fā)布高清正面視頻、原聲音頻，妥善保管身份證、銀行卡等敏感信息，通過(guò)設(shè)置好友權(quán)限避免個(gè)人信息過(guò)度公開(kāi)。

而 “二要” 原則則聚焦于核實(shí)與甄別能力的提升。一方面要主動(dòng)核實(shí)，若接到親友借款的視頻請(qǐng)求，需掛斷電話后通過(guò)手機(jī)通訊錄存號(hào)回?fù)埽蛲ㄟ^(guò)共同親友交叉驗(yàn)證，建議家庭、摯友間約定大額資金往來(lái)專(zhuān)屬暗語(yǔ)；另一方面要細(xì)致警惕，AI 合成內(nèi)容往往存在表情僵硬、眨眼不自然、口型與語(yǔ)音錯(cuò)位、聲音帶電子雜音等破綻，且公檢法機(jī)關(guān)絕不會(huì)通過(guò)視頻、電話要求轉(zhuǎn)賬至 “安全賬戶”，凡是要求 “保密操作” 的指令均為詐騙信號(hào)。

遭遇詐騙需及時(shí)止損 留存證據(jù)助力案件偵破

山西消協(xié)特別提醒，消費(fèi)者一旦發(fā)現(xiàn)被騙，需第一時(shí)間采取止損措施：立即撥打 110 報(bào)警或前往就近派出所報(bào)案，同步提交對(duì)方賬號(hào)、聯(lián)系方式、聊天記錄、轉(zhuǎn)賬憑證等完整證據(jù)；同時(shí)聯(lián)系銀行客服或通過(guò)手機(jī)銀行 APP 申請(qǐng)凍結(jié)對(duì)方賬戶，爭(zhēng)取實(shí)現(xiàn)資金止付，最大程度降低財(cái)產(chǎn)損失。

業(yè)內(nèi)人士指出，隨著 AI 深度偽造技術(shù)門(mén)檻持續(xù)降低，相關(guān)詐騙已形成從技術(shù)教程售賣(mài)到定制化服務(wù)的灰色產(chǎn)業(yè)鏈，部分 AI 換臉教程售價(jià)低至 8 元，10 秒定制化合成視頻報(bào)價(jià) 15 元至 300 元不等，技術(shù)濫用的低成本化正加劇詐騙風(fēng)險(xiǎn)擴(kuò)散，而消費(fèi)者的風(fēng)險(xiǎn)防范意識(shí)與技術(shù)甄別能力，將成為抵御此類(lèi)詐騙的關(guān)鍵屏障。（陳斌）