核心提示：AI智能體迅速發(fā)展，但其在實際應(yīng)用中因技術(shù)邏輯變化引發(fā)的安全風(fēng)險等問題不容忽視。對智能體的監(jiān)管和有效規(guī)制，應(yīng)在充分理解技術(shù)邏輯基礎(chǔ)上，結(jié)合具體技術(shù)特征設(shè)計與之相適應(yīng)的規(guī)制規(guī)則。

武丹/制圖

記者|任文岱

責(zé)編|薛應(yīng)軍

正文共2810個字，預(yù)計閱讀需9分鐘▼

過去幾個月，AI智能體迅速發(fā)展，大模型在應(yīng)用端已實現(xiàn)從“被動交互對話”到“自主執(zhí)行任務(wù)”的進階。2026年開年以來，一款名為OpenClaw的開源人工智能體（昵稱“龍蝦”）在全球科技圈迅速走紅，成為人工智能領(lǐng)域的新熱詞，引發(fā)社會廣泛關(guān)注。

與此同時，在AI智能體的實際應(yīng)用中，因技術(shù)邏輯變化引發(fā)的安全風(fēng)險等問題同樣不容忽視。近期，針對國內(nèi)一些政企機構(gòu)及個人用戶的“養(yǎng)龍蝦”熱潮，工信部、國家安全部等監(jiān)管部門接連發(fā)出安全風(fēng)險提示。

今年全國兩會期間，2026年政府工作報告明確提出“深化拓展‘人工智能+’，促進新一代智能終端和智能體加快推廣，推動重點行業(yè)領(lǐng)域人工智能商業(yè)化規(guī)?；瘧?yīng)用，培育智能原生新業(yè)態(tài)新模式”。作為“人工智能+”的重要實踐形態(tài)，AI智能體的快速落地既需要政策層面的鼓勵支持，更離不開法治框架的規(guī)范引導(dǎo)。

當前，新一輪科技革命和產(chǎn)業(yè)變革加速演進，人工智能已成為引領(lǐng)這一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術(shù)，正在深刻改變?nèi)蚪?jīng)濟格局和競爭態(tài)勢。全球主要經(jīng)濟體都將人工智能視為重塑制造業(yè)競爭力的關(guān)鍵抓手。在此背景下，我國應(yīng)如何應(yīng)對智能體發(fā)展帶來的法治難題？中國政法大學(xué)人工智能法研究院院長張凌寒接受民主與法制社記者專訪時表示，智能體互聯(lián)網(wǎng)正在成為人工智能與網(wǎng)絡(luò)空間深度融合的重要趨勢，對智能體的監(jiān)管和有效規(guī)制，應(yīng)在充分理解技術(shù)邏輯的基礎(chǔ)上，結(jié)合具體技術(shù)特征設(shè)計與之相適應(yīng)的規(guī)制規(guī)則。

智能體改變現(xiàn)有互聯(lián)網(wǎng)生態(tài)

2025年1月，生成式人工智能DeepSeek在全球爆火。此后一年間，各類生成式人工智能應(yīng)用迅速走入大眾市場，與人類生活、辦公等應(yīng)用場景深度融合。AI公司競相追逐誰的模型更強、更“聰明”，并在產(chǎn)品數(shù)量、模型性能及用戶規(guī)模等方面持續(xù)向好發(fā)展。

智能體到來后，AI不再靠“死記硬背”被動執(zhí)行指令，而是開始自主去理解任務(wù)目標、與環(huán)境交互、進行深度推理、調(diào)用外部工具與服務(wù)、與其他智能體協(xié)作以完成各項任務(wù)。

OpenClaw作為開源模型，由用戶自主安裝部署、自行配置權(quán)限功能，在用戶授權(quán)下可以直接操作電腦，自主執(zhí)行包括讀寫本地文件、整理文檔、安裝軟件、發(fā)送郵件等任務(wù)。這對以往互聯(lián)網(wǎng)生態(tài)中的系統(tǒng)安全架構(gòu)、數(shù)據(jù)流轉(zhuǎn)、責(zé)任鏈條等都產(chǎn)生了沖擊。

有觀點認為，互聯(lián)網(wǎng)的下一站是從“信息互聯(lián)”邁向“智能體互聯(lián)”，AI智能體將成為網(wǎng)絡(luò)的“原生公民”。

張凌寒表示，智能體互聯(lián)網(wǎng)的確正在成為人工智能與網(wǎng)絡(luò)空間深度融合的重要趨勢。智能體互聯(lián)網(wǎng)的核心在于，從當前以信息傳遞與呈現(xiàn)為主的信息互聯(lián)網(wǎng)，轉(zhuǎn)變?yōu)橐宰灾鹘换ヅc任務(wù)協(xié)同為特征的行為互聯(lián)網(wǎng)。這意味著過往的“人找信息、人操作應(yīng)用”變?yōu)椤皺C器主動理解需求、自主完成調(diào)度服務(wù)”，這將顯著提升社會整體的智能化水平。

AI智能體的迅猛發(fā)展，引發(fā)社會各界對其中的安全治理、人機關(guān)系、技術(shù)路徑等問題的關(guān)注。

張凌寒說：“智能體帶來的影響更多來自其與現(xiàn)有應(yīng)用平臺生態(tài)、風(fēng)控策略及用戶習(xí)慣之間的碰撞。智能體的操作過程涉及多個應(yīng)用與數(shù)據(jù)接口的調(diào)用，如何確保所有操作均符合用戶真實意圖并在法律法規(guī)與授權(quán)范圍內(nèi)進行，需要持續(xù)關(guān)注?！?/p>

在技術(shù)設(shè)計、協(xié)議標準與制度安排等方面進行審慎平衡

3月10日，國家互聯(lián)網(wǎng)應(yīng)急中心發(fā)布關(guān)于OpenClaw安全應(yīng)用的風(fēng)險提示稱，由于其默認的安全配置極為脆弱，攻擊者一旦發(fā)現(xiàn)突破口，便能輕易獲取系統(tǒng)的完全控制權(quán)。

該風(fēng)險提示指出，由于OpenClaw智能體的不當安裝和使用，已經(jīng)出現(xiàn)一些嚴重的安全風(fēng)險：網(wǎng)絡(luò)攻擊者通過在網(wǎng)頁中構(gòu)造隱藏的惡意指令，誘導(dǎo)OpenClaw讀取該網(wǎng)頁，可能導(dǎo)致用戶系統(tǒng)密鑰泄露；由于錯誤理解用戶操作指令和意圖，OpenClaw可能會將電子郵件等重要信息徹底刪除；多個適用于OpenClaw的功能插件已被確認為惡意插件，或存在潛在的安全風(fēng)險，安裝后可執(zhí)行竊取密鑰等惡意操作。

“智能體自主操作與用戶自行操作相比，主要體現(xiàn)在執(zhí)行主體和交互方式的不同?！睆埩韬硎荆^去用戶需要在不同平臺間手動切換，現(xiàn)在AI智能體可以理解指令，并跨應(yīng)用平臺自動調(diào)用功能，跳過了應(yīng)用界面限制。這種互操作性的增強可能促進數(shù)據(jù)與資源的流動，有利于創(chuàng)新與協(xié)作，但也確實會對企業(yè)現(xiàn)有競爭優(yōu)勢格局產(chǎn)生一定影響。同時，還可能引發(fā)用戶隱私、安全及權(quán)益保護等問題。

張凌寒認為，要綜合考慮市場實際與監(jiān)管要求，在技術(shù)設(shè)計、協(xié)議標準與制度安排等方面進行審慎平衡，才能促進智能體向善發(fā)展。

張凌寒表示，在獲得手機或電腦系統(tǒng)、用戶及各應(yīng)用軟件等授權(quán)的前提下，可以通過多種技術(shù)途徑增強智能體操作的安全性，進一步保障智能體在實際應(yīng)用中的合規(guī)性與可靠性。例如，實施關(guān)鍵操作前的動態(tài)確認機制、建立全流程可追溯的操作日志、用戶實時干預(yù)與任務(wù)終止、持續(xù)關(guān)注補丁和安全更新、版本更新等功能。這些措施有助于提高智能體行為的可控性與透明度，推動智能體在安全性和用戶體驗方面不斷改進。

結(jié)合技術(shù)特征設(shè)計不同的規(guī)制規(guī)則

智能體給法治監(jiān)管層面帶來的挑戰(zhàn)是多方面的。張凌寒表示，從法律與監(jiān)管視角看，AI智能體的發(fā)展對現(xiàn)有規(guī)范與技術(shù)的結(jié)合提出了新的要求。隨著智能體技術(shù)的發(fā)展與應(yīng)用，需重點適應(yīng)以下幾個方面的變化：一是需進一步研究如何在智能體參與的多方協(xié)作場景中，合理明確各相關(guān)方的權(quán)責(zé)關(guān)系，以支持法律體系的持續(xù)完善。二是智能體具備跨應(yīng)用調(diào)度與執(zhí)行能力，這對行為可追溯性與系統(tǒng)可控性提出了更高的技術(shù)要求，相關(guān)機制有待在實踐中逐步建立與驗證。三是如何在智能體運行過程中持續(xù)落實個人信息保護法、網(wǎng)絡(luò)安全法、數(shù)據(jù)安全法等相關(guān)法律法規(guī)，值得研究。比如，如何在動態(tài)、連續(xù)的交互場景中落實用戶知情同意機制，確保用戶知情同意與數(shù)據(jù)安全等。

以智能體運行中的授權(quán)機制為例，張凌寒表示，目前，我國尚未專門針對智能體的授權(quán)機制進行立法規(guī)制。在現(xiàn)有法律框架下，涉及用戶授權(quán)、數(shù)據(jù)調(diào)用及跨應(yīng)用操作等行為，仍屬于行業(yè)實踐與自律探索階段。

“AI智能體的授權(quán)機制是一個多元化、多層次的復(fù)雜系統(tǒng)，不同授權(quán)模式對應(yīng)著差異化的技術(shù)實現(xiàn)路徑，而這些技術(shù)路徑又需要匹配相應(yīng)的法律規(guī)制框架，需要結(jié)合具體技術(shù)特征再去設(shè)計不同的規(guī)制規(guī)則。換句話說，有效規(guī)制必須建立在充分理解技術(shù)邏輯的基礎(chǔ)上，這需要足夠的耐心與系統(tǒng)性的工作，無法簡單地一概而論，也不能一蹴而就?！睆埩韬硎?，總體而言，法律與監(jiān)管需要持續(xù)探索適應(yīng)性治理路徑，這一過程既需要理論層面的深入研究，也離不開在實踐中的持續(xù)試錯與機制完善。

在促進產(chǎn)業(yè)生態(tài)發(fā)展方面，張凌寒認為，智能體的部署與應(yīng)用涉及多方協(xié)作，需在鼓勵創(chuàng)新與促進公平競爭之間尋求平衡，可推動建立適應(yīng)智能體發(fā)展的數(shù)據(jù)使用與互聯(lián)互通規(guī)范，鼓勵在合規(guī)前提下開展技術(shù)協(xié)作與生態(tài)建設(shè)。通過行業(yè)標準引導(dǎo)、技術(shù)測試驗證與持續(xù)評估改進，也可以推動智能體在法律框架內(nèi)穩(wěn)步發(fā)展，實現(xiàn)安全與創(chuàng)新的協(xié)同推進。