市道新聞12月12日山西電 2025 年作為人工智能技術(shù) “爆發(fā)臨界點(diǎn)”,在大模型普惠化、行業(yè)深度融合的技術(shù)紅利之下,AI 技術(shù)濫用風(fēng)險(xiǎn)正持續(xù)凸顯。山西省消費(fèi)者協(xié)會(huì)日前發(fā)布專(zhuān)項(xiàng)消費(fèi)警示,直指 “AI 換臉”“AI 配音” 等深度偽造技術(shù)已成為詐騙分子的新型作案工具,此類(lèi)詐騙因具備極強(qiáng)迷惑性,正對(duì)消費(fèi)者財(cái)產(chǎn)安全和隱私權(quán)益構(gòu)成嚴(yán)峻威脅,而公安部數(shù)據(jù)顯示,2025 年一季度全國(guó) AI 換臉詐騙案環(huán)比增幅已達(dá) 45%,反詐形勢(shì)日趨嚴(yán)峻。
深度偽造技術(shù)成詐騙新載體 四步流程實(shí)施精準(zhǔn)誘騙
據(jù)山西消協(xié)披露,不法分子利用深度偽造技術(shù)實(shí)施詐騙已形成標(biāo)準(zhǔn)化作案流程,核心在于通過(guò)技術(shù)手段偽造身份獲取信任,再以緊急情境倒逼受害者完成轉(zhuǎn)賬,具體可分為四個(gè)步驟:
其一為信息搜集,詐騙分子會(huì)從抖音、微信視頻號(hào)、微博等社交媒體平臺(tái),批量采集消費(fèi)者及其親友公開(kāi)發(fā)布的視頻、語(yǔ)音素材,用于 AI 模型訓(xùn)練,為后續(xù)偽造內(nèi)容提供數(shù)據(jù)基礎(chǔ);其二是制造假象,借助 AI 換臉、AI 配音技術(shù),合成面容、聲音高度逼真的視頻或音頻,部分合成內(nèi)容已能達(dá)到以假亂真的程度;其三是情境設(shè)計(jì),編造車(chē)禍急救、資金周轉(zhuǎn)、繳納學(xué)費(fèi)、合同款支付等緊急事由,壓縮受害者思考核實(shí)的時(shí)間;其四為實(shí)施詐騙,通過(guò)視頻通話、發(fā)送音視頻片段等方式聯(lián)系受害者,最終誘導(dǎo)其向指定賬戶轉(zhuǎn)賬。
在具體作案場(chǎng)景中,此類(lèi)詐騙已呈現(xiàn)出明顯的精準(zhǔn)化、多元化特征。既有合成親屬、好友形象,以 “急事借錢(qián)” 為由實(shí)施的親情類(lèi)詐騙,也有針對(duì)企業(yè)財(cái)務(wù)人員、普通員工,冒充公司領(lǐng)導(dǎo)要求緊急支付合同款、保證金的職場(chǎng)類(lèi)詐騙,更有偽造執(zhí)法人員身份,以 “涉案” 為由要求將資金轉(zhuǎn)入 “安全賬戶” 的公權(quán)力類(lèi)詐騙。此前江蘇南京曾出現(xiàn)犯罪分子利用 AI 換臉突破金融平臺(tái)人臉識(shí)別認(rèn)證、盜刷銀行卡的案例,而山東寧陽(yáng)一案件中,嫌疑人通過(guò) AI 換臉偽造 “白富美” 人設(shè)網(wǎng)戀詐騙,涉案金額近 13 萬(wàn)元,常州金壇一老人也曾險(xiǎn)些因 AI 換臉偽造的 “民警” 身份,被騙走 40 余萬(wàn)元養(yǎng)老金。
牢記 “三不二要” 原則 構(gòu)建多重驗(yàn)證防護(hù)網(wǎng)
針對(duì) AI 深度偽造詐騙的隱蔽性,山西消協(xié)特別提出 “三不二要” 核心防范原則,指導(dǎo)消費(fèi)者建立 “多重驗(yàn)證” 安全意識(shí),破除 “眼見(jiàn)為實(shí)、耳聽(tīng)為真” 的認(rèn)知誤區(qū)。
在 “三不” 原則層面,首先要不輕信,對(duì)所有非線下見(jiàn)面場(chǎng)景的轉(zhuǎn)賬要求保持高度警惕,即便看到熟悉面容、聽(tīng)到熟悉聲音,也需警惕詐騙分子制造的 “緊急恐慌”;其次要不轉(zhuǎn)賬,在未通過(guò)獨(dú)立渠道完成 100% 身份核實(shí)前,堅(jiān)決不進(jìn)行任何資金劃轉(zhuǎn),守住財(cái)產(chǎn)安全的最后防線;同時(shí)要不泄露,謹(jǐn)慎在社交平臺(tái)發(fā)布高清正面視頻、原聲音頻,妥善保管身份證、銀行卡等敏感信息,通過(guò)設(shè)置好友權(quán)限避免個(gè)人信息過(guò)度公開(kāi)。
而 “二要” 原則則聚焦于核實(shí)與甄別能力的提升。一方面要主動(dòng)核實(shí),若接到親友借款的視頻請(qǐng)求,需掛斷電話后通過(guò)手機(jī)通訊錄存號(hào)回?fù)埽蛲ㄟ^(guò)共同親友交叉驗(yàn)證,建議家庭、摯友間約定大額資金往來(lái)專(zhuān)屬暗語(yǔ);另一方面要細(xì)致警惕,AI 合成內(nèi)容往往存在表情僵硬、眨眼不自然、口型與語(yǔ)音錯(cuò)位、聲音帶電子雜音等破綻,且公檢法機(jī)關(guān)絕不會(huì)通過(guò)視頻、電話要求轉(zhuǎn)賬至 “安全賬戶”,凡是要求 “保密操作” 的指令均為詐騙信號(hào)。
遭遇詐騙需及時(shí)止損 留存證據(jù)助力案件偵破
山西消協(xié)特別提醒,消費(fèi)者一旦發(fā)現(xiàn)被騙,需第一時(shí)間采取止損措施:立即撥打 110 報(bào)警或前往就近派出所報(bào)案,同步提交對(duì)方賬號(hào)、聯(lián)系方式、聊天記錄、轉(zhuǎn)賬憑證等完整證據(jù);同時(shí)聯(lián)系銀行客服或通過(guò)手機(jī)銀行 APP 申請(qǐng)凍結(jié)對(duì)方賬戶,爭(zhēng)取實(shí)現(xiàn)資金止付,最大程度降低財(cái)產(chǎn)損失。
業(yè)內(nèi)人士指出,隨著 AI 深度偽造技術(shù)門(mén)檻持續(xù)降低,相關(guān)詐騙已形成從技術(shù)教程售賣(mài)到定制化服務(wù)的灰色產(chǎn)業(yè)鏈,部分 AI 換臉教程售價(jià)低至 8 元,10 秒定制化合成視頻報(bào)價(jià) 15 元至 300 元不等,技術(shù)濫用的低成本化正加劇詐騙風(fēng)險(xiǎn)擴(kuò)散,而消費(fèi)者的風(fēng)險(xiǎn)防范意識(shí)與技術(shù)甄別能力,將成為抵御此類(lèi)詐騙的關(guān)鍵屏障。(陳斌)
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.