(記者 林碧涓)如果你最近關注AI圈,大概率會被一個詞刷屏——“養龍蝦”。這款以紅色龍蝦為圖標的開源軟件OpenClaw,憑借其讓AI智能體接管電腦、自動執行復雜任務的能力,引起人們關注。在大伙琢磨和如何養龍蝦的時候,某二手交易平臺已出現“卸載”選項。
在一場關于AI Agent 的狂歡下,為何有用戶選擇“棄蝦”?答案是數據安全。
工業和信息化部網絡安全威脅和漏洞信息共享平臺專門提示,OpenClaw部分實例在默認或不當配置下存在嚴重安全缺陷,極易誘發網絡攻擊與信息泄露。國家互聯網應急中心也發布相關風險提示。
人工智能飛躍式發展的當下,數據安全正迎來新的挑戰。
“養蝦”背后的數據安全問題
OpenClaw的魅力在于其強大的自動化能力。它基于大模型,能理解用戶指令,直接操控計算機完成網頁瀏覽、文件處理、軟件操作等復雜任務。理論上,它是你的私人數字助理,能幫你搞定一切繁瑣工作。但正是這種“深度控制”,埋下了巨大的安全隱患。
第一重:權限過度開放帶來的數據泄露風險。為了讓AI智能體“啥都能干”,用戶往往需要授予其極高的系統權限,包括訪問文件、讀取數據、執行程序等。惡意代碼可以借助AI的合法權限,在用戶毫無察覺的情況下,竊取、篡改或加密核心數據,甚至將終端變為攻擊跳板,滲透企業內部網絡。
第二重:交互過程中的數據暴露風險。AI智能體的工作模式是接收用戶指令-上傳至云端或本地模型處理-執行操作。如果數據傳輸未加密、云端存儲不設防,或者第三方模型服務商存在安全漏洞,敏感信息便可能在多個節點被截獲或泄露。這個過程將增加數據泄露的風險。
第三重:自主決策引發的“誤操作”風險。AI智能體并非真正“理解”數據,它只是根據訓練模式做出概率判斷。如果智能體在處理任務時沒有嚴格的權限控制和數據隔離,就可能會錯誤地訪問和操作不該處理的數據。
OpenClaw事件并非孤例。它只是人工智能大規模落地應用時,數據安全挑戰的一個縮影。對企業而言,合規不是束縛,而是安全的底線。針對AI智能體帶來的治理難題,全國政協委員、中國工程院院士吳世忠表示,“可以‘用AI對抗AI’——比如開發監管型智能體,自動識別、阻斷惡意智能體的協同行為。”
以AI治AI,固本強基
當AI安全風險從個人終端爬進企業內網,傳統的邊界防御模型已然失效。防火墻無法攔截合法權限下的惡意操作,入侵檢測系統也難以識別AI自主決策中的異常行為。面對這一新挑戰,構建主動、智能、一體化的安全防護體系成為必然選擇。
通信運營商作為“網絡管道守護者”,在AI安全治理中具有天然優勢。在這方面,中國電信早已積極實踐,并已構建“云、網、邊、端、數、智、安”七位一體的縱深防御體系,加快提升關鍵信息基礎設施保護能力。
在云端,中國電信在行業內開創性建成云網安全中臺,建成覆蓋31個省(區、市)的安全能力池,實現了云網安全風險的“可測、可知、可防、可控”。中國電信天翼云正式推出“數據安全專區”,以“產品+服務”一體化方式,打造“4+7+3”體系架構——涵蓋四重核心價值、七大技術能力與三大防護實踐,系統化構建企業數據治理與安全防護方案,全面應對數據安全挑戰。
如今以AI治AI已成為了產業共識。中國電信發布云安全大模型,賦能500+資源池,AI+威脅研判檢出率超95%,復雜攻擊識別能力行業領先,為數字生態織密智能安全防護網。依托阡陌數據集,研發了“見微”AI大模型安全,具備威脅研判、智能運營、大模型護欄、大模型安全測評、智能滲透、代碼審計六大核心能力,能對國內外主流AI大模型進行安全測評與防護,并已無償向全社會開源,推動AI大模型健康發展。
從技術落地到生態共建
安全不是紙上談兵,最終要落地到具體的業務場景中。中國電信的數據安全實踐,已經覆蓋教育、物流、家庭等多個領域,形成了一套可復制、可推廣的解決方案。
在教育領域,天翼云AOne邊緣安全加速平臺已在全國數百所中小學落地應用,成為教育系統網絡安全建設的重要支撐;在物流領域,天翼云構建數據安全“防護網”,保障中國物流集團核心經營管理類業務、辦公業務數據在存儲、傳輸和使用中的安全性;面向家庭客戶推出安心翼家等標準化產品,保障家庭網絡與個人數據安全。
在數據治理與人才保障方面,中國電信同樣走在行業前列。其已建立數據分級分類標準,實施數據最小化采集、存儲與使用,強化敏感數據脫敏、匿名化處理,實現數據流轉全鏈路可視化、可追溯,明確數據主權與安全責任,同時部署數據安全審計、訪問控制、異常行為監測等措施,防范數據泄露、篡改與濫用。中國電信高度重視網信安全人才隊伍培養工作,聚焦安全實戰場景,重點培養安全人員在復雜環境下識別、分析與解決真實業務風險的技術能力。公司建成11個集團級的安全實驗室,推動網絡、數據安全、AI安全、視聯網安全、反詐治理等多項核心能力突破。網信安全骨干人才隊伍人數突破千人,并在各類國家級競賽中屢次斬獲佳績。
產業發展并非一家之功,完善的產業生態營造,離不開“政產學研用”的深度融合。中國電信聯合華為、深信服等企業,為上海智慧城市建設打造完整數據安全防護體系。此外,中國電信攜手公安部第三研究所、華為公司等機構多家合作伙伴,發布了《AI智能體安全治理白皮書》。為AI智能體的安全治理提供了理論框架與實踐指南。
從個人到企業,從技術到制度,從行業到社會,數據安全是一場沒有終點的馬拉松。當AI從工具變為伙伴,從執行者變為決策者,我們需要的不僅是更強的算力、更智能的算法,更是能夠與AI共生共長的安全能力。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.