![]()
(圖片來源:攝圖網)
(記者 陳曉晟)隨著AI應用的普遍使用,很多消費者已經把AI作為事半功倍的“消費參謀”。不過,AI在“助力”消費的同時,一些“陷阱”也隨之出現:通過換臉換聲仿冒名人帶貨、用AI數字人誘導消費、利用AI生成虛假商品、通過炮制不實信息“投喂”AI,扭曲AI的推薦結果……在此背景下,亟需產業鏈攜手共建AI安全生態。
AI消費既是機遇也帶來“陷阱”
人工智能技術為消費市場帶來了全新機遇,讓消費更便捷、更智能,同時也給不法分子帶來可乘之機。商家利用AI技術仿冒權威/明星代言、過度美化商品或虛構客戶好評的現象也越來越多。
“國醫大師”講養生、“權威醫生”推產品、“明星主播”賣保健品——如今在手機里,這類看似靠譜的內容,實際上很多都是用AI精心編織的騙局。不少老人就因相信AI合成的“白大褂專家”短視頻,陸續高價買保健品,直到家人發現視頻人物口型與聲音不同步才識破。網上有些直播間里,將AI打造的數字人包裝成“首席嚴選官”“國家一級營養師”,在直播中把普通壓片糖果說成“神藥”,價格翻數倍出售,甚至導致高血糖患者病情加重。
投資理財領域也成為了AI騙局新陣地。不法分子利用AI生成“銀行理財經理”形象,在直播間講授所謂的“投資理財秘籍”,宣稱“AI智能選股穩賺不賠”,誘導消費者下載虛假理財APP。還有更為隱蔽的騙局:以“教授AI做理財規劃”為名,將普通理財知識包裝成“AI量化投資課程”,收費數千元,實際只是教用免費工具查看行情。
此外,一些AI智能體目前也存在信息幻覺問題,出現商品參數錯誤、價格虛報、服務信息不實等情況,看似專業的消費建議,實則暗藏消費陷阱。這些問題不僅導致消費者做出錯誤決策,也破壞了消費市場的誠信根基,削弱了公眾對智能技術的信任,擾亂了公平有序的市場競爭秩序。
中國電信筑牢AI安全屏障
作為信息通信行業的“國家隊”,中國電信積極攜手產業鏈共建AI安全生態,推進數據可信共享與算法透明治理,加強用戶安全科普,以高水平安全護航 AI消費行穩致遠,讓智能技術真正惠及民生。
算力是AI消費的“動力引擎”。中國電信整合全國算力資源,依托“東數西算”戰略布局,聯動全國多個數據中心,構建“省中心訓練+邊緣推理+終端部署”的三級算力架構。
模型是AI消費的“智慧核心”。中國電信自主打造的星辰多模態大模型,覆蓋語音識別、圖像生成等多個領域,為消費場景提供定制化支撐。針對不同需求優化算法,反詐場景中可精準識別多種AIGC虛假內容,個人場景中支持多種方言識別,能夠實現“千人千面”的智能體驗。
網絡是AI消費的“傳輸紐帶”。中國電信依托5G、光纖寬帶構建“5G+光纖”雙千兆網絡體系,實現全國全覆蓋,保障AI數據實時傳輸,解決“卡頓、延遲”痛點。同時,構建全方位安全體系,防范數據泄露、網絡攻擊等風險,讓消費者放心體驗AI消費。
中國電信還發布AI智能體安全治理白皮書,建立三級安全風險分類標簽體系,從源頭防范數據污染與算法造假風險。
科技創新深度破解AI消費陷阱
如何讓消費者遠離“AI消費陷阱”?只靠宣傳還遠遠不夠。中國電信通過科技創新,通過數智能量破解這一問題。
目前,中國電信已初步構建起從算力底座安全到算法模型安全以及數據安全和應用安全一體化的AI安全智能架構:推出“阡陌數聚”高質量安全語料庫,提升模型攻擊的標識度;打造“星辰·見微”安全大模型,聚焦網絡安全賦能;圍繞數據、代碼、運營、攻防等四大方向,構建“四位一體”技術框架,全面覆蓋威脅研判、智能運營等核心應用場景……
在2025世界人工智能大會現場,中國電信就展出了可以鑒別AI生成的深度偽造視頻的大模型,其通過多模態AI鑒偽,筑牢AI消費防線,可以支持8種AI鑒別方法,準確率達到95%。
在終端方面,中國電信在麥芒40手機上搭載了“星小辰終端智能體”,其依托中國電信自研大模型和智能體平臺,在AI通話、AI生活、AI辦公場景中,通過深度整合語音識別、語義理解、風險建模等能力為用戶帶來前所未有的智能體驗,支持通話防詐、AI代接、通話摘要代辦、智能字幕等功能,為用戶提供全方位的通話安全保障。
中國電信還聯合高校成立安全實驗室推進產學研協作,例如與哈爾濱工業大學(深圳)聯合成立“網絡空間對抗技術聯合攻關研究實驗室”,推動產學研深度融合,培養專業的安全人才隊伍,筑牢AI時代安全防線。
在數字消費浪潮奔涌之下,只有讓技術有溫度、普惠有力度,才能讓數智成果惠及千家萬戶,中國電信將繼續依托數字技術,助力消費者放心消費,打造品質生活。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.