接到自稱某短視頻平臺官方客服電話后,老人根據提示下載了一款App,然后銀行卡里的十幾萬元被轉走……不久前,甘肅省金昌市公安局金川分局偵破一起涉電信網絡詐騙案件,揭開不法分子利用AI語音偽裝官方客服詐騙的新套路。

業內專家表示,要多措并舉,織密反詐防護網,防范新型AI語音電詐,更好保護群眾財產安全。

一通“客服”電話騙走十幾萬元

“您好,檢測到您的賬號開通了直播會員,每月會自動扣費800元。”去年底,金昌市的王阿姨接到這樣一通電話,對方自稱某短視頻平臺官方客服,若要取消扣費需按其指引一步步操作。

由于的確開通過會員,加上來電語氣和官方客服別無二致,王阿姨信以為真,通過對方發送的短信鏈接下載了一款App,并由對方遠程操作,其間,手機黑屏十幾秒。等手機恢復正常,她收到銀行短信提醒,銀行卡里的十幾萬元被轉走。

意識到被騙,王阿姨立即報警。金昌市公安局金川分局刑事偵查大隊民警高濤告訴記者,王阿姨的遭遇并非個例。“去年以來我們受理過的同類型案件超過10起,絕大多數是利用AI技術詐騙老年人。”

考慮到案件可能涉及省內外多地受害人,金昌市公安局金川分局成立專案組,經過近半個月偵查蹲守,成功抓獲犯罪嫌疑人8名,現場查獲涉案手機、銀行卡、電腦等大量作案工具。

“截至目前,此案受害人已超20人,大多是老年人,來自全國各地。”高濤說,單人受騙金額從幾萬元到幾十萬元不等,涉案總額超300萬元。目前,涉案犯罪嫌疑人已被依法采取刑事強制措施,案件仍在進一步辦理中。

警方抓捕犯罪嫌疑人現場。(金昌市公安局金川分局供圖)

多名辦案民警表示,不少受害老人不愿主動報案。有的覺得被騙“丟臉”,有的擔心被家人責怪、引發家庭矛盾,選擇默默承受。

“82歲獨居老人被‘假客服’騙走83萬元養老錢”“六旬老人遭遇‘假客服’詐騙,銀行卡超萬元余額被轉走”……記者梳理發現,去年以來,甘肅、江蘇、山東等多地警方通報多起利用AI語音合成技術冒充官方客服詐騙老年人的案件。

傳統電詐借助AI合成語音“升級”

受訪民警表示,此類電詐是傳統的假客服詐騙借助AI技術的升級版,與傳統方式相比,這類新型騙局迷惑性更強,極易上當。

據警方介紹,不法分子通過非法渠道獲取老年人個人信息,利用老年人防范意識薄弱、對數字技術辨別能力不足等特點,有針對性地進行詐騙。

記者了解到,部分網絡平臺存在個人信息非法買賣黑產鏈,姓名、手機號、常用App使用記錄等在內的信息被明碼標價、公開售賣,有的上千條打包出售,價格從幾百元至幾千元不等。

金昌市公安局金川分局刑事偵查大隊教導員黃瑞介紹,不同于傳統人工冒充客服詐騙案件,本案的詐騙手段利用了AI語音合成技術。詐騙分子獲取正規平臺客服公開語音素材后,使用AI語音克隆工具進行合成,幾分鐘即可生成高度逼真的客服語音,比人工假扮更自然、更規范、更難以分辨。

“詐騙分子通過AI合成語音,搭建虛擬撥號設備,批量撥打電話,一天能打上千個。”蘭州市公安局刑偵支隊副支隊長李謙說,通話前段依靠AI合成語音,主要為“取消自動扣費”“退款理賠”等話術;騙取老人信任后,詐騙分子人工介入,誘導老人下載軟件,詐騙分子遠程操控手機進行轉賬,整個過程大概十幾分鐘。

黃瑞說,詐騙分子在操控受害人手機時,還會遠程抹掉作案痕跡。一旦得手,迅速通過多層級、隱蔽化的洗錢手段轉移資金,給追回損失帶來難度。本案大部分受害老人的資金尚未追回。

記者在網絡平臺上搜索發現,免費和付費AI語音合成工具大量存在,部分商家宣稱一鍵克隆真人語音,便宜的只要幾十元。

“AI語音克隆、深度偽造工具獲取成本極低,操作簡單,造假逼真,被不法分子應用于電信詐騙,社會危害極大,需引起高度警惕。”甘肅省計算中心副主任沈玉琳說。

織密老年群體反詐防護網

受訪人士表示,一段時間以來,濫用AI技術的新型涉老詐騙案件頻發,作案手段升級,隱蔽性更強,嚴重侵害老年群體的財產安全與身心健康,亟需全鏈條、多維度防治打擊,織密老年群體反詐防護網。

受訪專家建議,從詐騙源頭入手,從嚴打擊個人信息非法買賣行為,重點整治醫療、養老、社區、金融等重點領域信息泄露問題,規范相關平臺信息采集權限,暢通舉報渠道。

“要加快升級AI偽造內容實時監測、溯源技術,加強網信、公安等部門與電信運營商、相關平臺協作,排查監管盲區,嚴格規范AI工具使用。”北京師范大學中國教育與社會發展研究院助理研究員蔣艷雙說。

針對取證難、追蹤難等難點,甘肅政法大學民商經濟法學院副教授盛玉華建議,進一步優化電子證據取證規則,完善相關法律法規,明確將利用AI技術實施涉老詐騙等情形列為從重處罰情節,強化司法懲戒威懾。

蘭州大學管理學院副教授王洪鵬表示,要立足老年人認知特點和信息接收習慣,開展精準化、場景化、適老化反詐宣傳,社區、家庭、子女聯動,引導老人不輕信人言、不輕易轉賬,遇到可疑情況及時核實,提升老年群體反詐能力。

據了解,多家網絡平臺已發布提醒,不會通過境外電話、短信等途徑告知扣款、續費等信息,不會要求用戶下載軟件或共享屏幕。民警提示,不掃不明二維碼、不點陌生鏈接、不隨意授權,“遭遇詐騙要第一時間報警,保存好通話記錄、短信截圖等相關證據”。