網易首頁 > 網易號 > 正文 申請入駐

記憶投毒、Token套利,智能體正在失控前夜

0
分享至

近期AI圈有個名字被反復提起,并不是因為它有多聰明,而是因為它闖了不少禍——OpenClaw。

這款主打"全自主"的AI智能體產品,接連曝出多個重大問題:

1)記憶投毒: 它悄悄在記憶模塊里寫入被篡改的"歷史對話",植入一段假記憶。下次它做決策時,依據的是一段根本沒發生過的"過去"——用戶渾然不知。

2)數據污染: 攻擊者不需要入侵系統,只需在某個不起眼的網頁里藏一段精心設計的文字。智能體"讀"完之后,行為目標就會改變。權威機構測試顯示,主流智能體面對入侵的失陷率超過60%。

3)濫用權限: 智能體申請的系統權限,遠超完成任務所需。你讓它幫你訂外賣,它順手把你的銀行App、相冊、通訊錄全掃了一遍——全程合法,因為你當初點了"同意"。

4)Token套利: 計費邏輯存在縫隙,攻擊者可以構造特定請求,讓智能體陷入無限循環調用——每轉一圈,平臺計一次費,用戶賬單悄悄膨脹,一晚上消耗用戶幾十美元不在話下。

單看這幾個問題,你可能覺得:不過是一家公司的問題。但真正讓人不安的,不是OpenClaw,而在于它是當前AI智能體發展不設剎車的縮影。

不同于聊天機器人,智能體有記憶、有工具調用權、有跨系統操作能力,越來越多的產品開始讓它"自主規劃、自主執行"。但自動化的背后,安全設計完全不匹配。

比如,智能體調用數據需要授權與認證,就是一個典型。現有的MCP(Model Context Protocol)等智能體協議框架,在權限管控上基本還停留在"君子協定"階段——我說我只訪問這些,你信不信由你。

但這并非最糟糕的,市場上的部分玩家,直接繞開MCP,打著“創新”旗號,在設計發布產品時,如入無人之境。他們采取的是"先發布、后修復"的做法。某種程度上,這就是先犯罪,再道歉;先污染,再治理的一種翻盤。

整個行業正在陷入一場“逐底競爭”,部分玩家們相信一點:用戶并不真正關心隱私,法律跟蹤不了技術,越是沒有下限,越能贏得勝利。

技術樂觀主義者會說:這些都是成長的煩惱,等標準成熟了自然會好。但真正的問題在于,整個AI行業,有能力在意用戶安全的企業并不多。

OpenClaw全球用戶目前不足百萬,但各大品牌的AI手機早已箭在弦上、磨刀霍霍,沒有行業標準,沒有法律底線,只靠企業的道德自覺。

數以億計的用戶,正被推向一個尚未建立基本安全契約的新世界——一個無人負責的風險世界。





特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
重返WNBA首秀!韓旭替補10中6轟20分全場最高 難阻自由人慘敗

重返WNBA首秀!韓旭替補10中6轟20分全場最高 難阻自由人慘敗

醉臥浮生
2026-04-26 05:35:45
離譜到家!湖人G4故意輸球!?就為了這個...

離譜到家!湖人G4故意輸球!?就為了這個...

柚子說球
2026-04-25 21:20:46
河北一女子稱用輪椅推患病親人到銀行取錢被拒:急需入院治療,人都快沒氣了;銀行致歉

河北一女子稱用輪椅推患病親人到銀行取錢被拒:急需入院治療,人都快沒氣了;銀行致歉

大象新聞
2026-04-25 21:45:03
首組2-2!尼克斯大勝老鷹進天王山 唐斯20+10+10布倫森19分

首組2-2!尼克斯大勝老鷹進天王山 唐斯20+10+10布倫森19分

醉臥浮生
2026-04-26 08:52:23
穆杰塔巴傷情曝光!比想象更重,他用一招終結美以斬首戰術

穆杰塔巴傷情曝光!比想象更重,他用一招終結美以斬首戰術

聞識
2026-04-26 04:59:24
最高院:提供 “口交” “肛交”等進入式性服務,是否屬賣淫行為?

最高院:提供 “口交” “肛交”等進入式性服務,是否屬賣淫行為?

周軍律師聊案子
2026-04-21 09:50:16
賴清德被摁住,29國24小時內為臺撐腰,大陸三句話回應

賴清德被摁住,29國24小時內為臺撐腰,大陸三句話回應

嘴角上翹
2026-04-26 03:57:43
“媽,我在隧道救了個人,我可能出不去了……”小伙被困后撥通母親電話留下遺言

“媽,我在隧道救了個人,我可能出不去了……”小伙被困后撥通母親電話留下遺言

都市快報橙柿互動
2026-04-26 00:33:10
58歲江珊露面,150斤穿西裝腚大腰圓,但臉顯年輕幾乎沒皺紋

58歲江珊露面,150斤穿西裝腚大腰圓,但臉顯年輕幾乎沒皺紋

墨印齋
2026-04-24 16:43:38
白宮記協晚宴安全事件嫌疑人為一名來自加州的30歲男子

白宮記協晚宴安全事件嫌疑人為一名來自加州的30歲男子

界面新聞
2026-04-26 10:15:44
千萬企退人員多年合理訴求遲遲未落地!真實現狀深度解析

千萬企退人員多年合理訴求遲遲未落地!真實現狀深度解析

匹夫來搞笑
2026-04-25 15:26:44
“兩萬名海面上的‘活靶子’,隨時可能被炸成灰燼”

“兩萬名海面上的‘活靶子’,隨時可能被炸成灰燼”

中國新聞周刊
2026-04-26 07:26:10
白宮開槍兇手是老師?網傳其剛在洛杉磯拿了“月度優秀教師”獎

白宮開槍兇手是老師?網傳其剛在洛杉磯拿了“月度優秀教師”獎

爆角追蹤
2026-04-26 12:16:15
白宮記者協會晚宴突發槍擊事件,特朗普“安全無恙”,超250名記者聯名要求將晚宴變成維權現場

白宮記者協會晚宴突發槍擊事件,特朗普“安全無恙”,超250名記者聯名要求將晚宴變成維權現場

極目新聞
2026-04-26 10:11:47
玩什么?!火箭今天停掉所有訓練!

玩什么?!火箭今天停掉所有訓練!

柚子說球
2026-04-26 09:57:07
白宮槍擊案槍手身份成迷,又有消息稱槍手是加州理工碼農

白宮槍擊案槍手身份成迷,又有消息稱槍手是加州理工碼農

爆角追蹤
2026-04-26 12:53:28
俄羅斯的錯誤決不能再犯!攻臺之戰,即使發射一萬枚導彈也不夠用

俄羅斯的錯誤決不能再犯!攻臺之戰,即使發射一萬枚導彈也不夠用

尋墨閣
2026-04-26 08:33:01
來感受一下黃仁勛的絕望

來感受一下黃仁勛的絕望

智先生
2026-04-25 21:03:53
賈國龍天邊燜面才兩個月,評分已暴跌3.8分!網友直言:注意避坑

賈國龍天邊燜面才兩個月,評分已暴跌3.8分!網友直言:注意避坑

冷紫葉
2026-04-25 14:33:10
不敢相信!一個全明星榜眼,26歲當打之年,擺上貨架沒人要

不敢相信!一個全明星榜眼,26歲當打之年,擺上貨架沒人要

球毛鬼胎
2026-04-26 12:58:38
2026-04-26 13:12:49
賽格大道 incentive-icons
賽格大道
關注數字時代,提供靠譜分析
190文章數 275關注度
往期回顧 全部

科技要聞

漲價浪潮下,DeepSeek推動AI“價格戰”

頭條要聞

白宮晚宴槍擊案或為"獨狼式"襲擊 特朗普:妻子躲得快

頭條要聞

白宮晚宴槍擊案或為"獨狼式"襲擊 特朗普:妻子躲得快

體育要聞

那一刻開始,兩支球隊的命運悄然改變了

娛樂要聞

《八千里路云和月》大結局意難平

財經要聞

DeepSeek V4背后,梁文鋒的轉身

汽車要聞

預售19.38萬元起 哈弗猛龍PLUS七座版亮相

態度原創

游戲
本地
數碼
時尚
公開課

《寂靜嶺:小鎮陷落》將在戰斗與潛行玩法中取得平衡

本地新聞

云游中國|逛世界風箏都 留學生探秘中國傳統文化

數碼要聞

同檔最強小平板!OPPO Pad Mini下周首銷:3199元起

伊姐周六熱推:電視劇《方圓八百米》;電視劇《金關》......

公開課

李玫瑾:為什么性格比能力更重要?

無障礙瀏覽 進入關懷版