作者:馬赫環
![]()
智能機器人的發展日新月異,在人們沉迷于技術進步的同時,關于機器人的擔憂情緒同樣日益濃厚。
不知是否由于電影造就的印象,人們對于機器人的擔憂主要方向在于懼怕AI系統有了自我意識。
在由威爾·史密斯主演的電影《機械公敵》中,機器人受到AI控制,限制人類禁錮自由的情節令人印象深刻。更古早的科幻電影《黑客帝國》中,也有機器人系統控制人類,并將人類當做能量電池的設定。
現實中,人們對于機器人技術的擔憂情緒也同樣存在,除了機器的自我意識層面,還有更要緊的智能系統安全問題。
說的更具體些,在于智能系統存在的安全防護和受到外部控制的風險。
科幻照進現實:機器人可被遠程劫持
有報道稱,2025年GeekCon安全極客大賽(以下簡稱“極客大賽”)上,有研究人員(也有稱白帽黑客)演示了遠程劫持人形機器人的方式,包括通過遠程網絡攻擊和人傳人式攻擊影響離線機器人,實現劫持并使其做出危險動作。
兩名黑客僅用不到3分鐘,就讓兩臺機器人被“劫持”。機器人隨后走向舞臺中央的假人,抬起機械臂,將假人擊倒。
盡管現實中的機器人是在人類控制下,而非如科幻電影中的“機器自我意識”控制機器人做出的傷害動作,但也揭示了目前具身智能所面臨的最大潛在風險—安全。
極客大賽上機器人揮出的一拳,展示了具身智能機器人一旦失控或者被劫持,其性能越強大,相應的破壞性也越大。
機器人能感知能交互,現在的人形機器人更是奔著擬人代替人進行危險勞作的方向去,研發人員和企業絞盡腦汁,就是為了讓機器人的模型更智能更擬人,動作就接近人,靈巧手的能力媲美人手,但在有明顯漏洞的安全性方面,這些優勢都將等量轉化為劣勢。
互聯網的數字安全風險,存在于網絡空間,除了因系統被控制導致的如交通事故等,最大風險是數據泄露和數字服務斷檔,主要傷害同樣作用在數字空間,對現實的影響是秩序混亂。
具身智能機器人呢?一旦系統失控或遭受攻擊,機器人風險將直接對現實世界造成直接影響或物理傷害。或語音指令,或注入病毒,便足以劫持機器人的決策鏈路,引發機器人對周邊人員構成直接威脅。
雖然安全影響巨大,但現實的情況是,目前具身智能機器人對于安全防護的重視程度,其優先級是排在大模型、零部件以及商業化之后的。
網絡安全研究機構深藍DARKNAVY(以下簡稱“深藍”)發布的《具身智能安全技術白皮書:機器人篇》(下稱“白皮書”)顯示,一部最新的旗艦智能手機,專業網絡安全研究團隊實現遠程完整攻破,通常至少需要數月;一輛成熟的智能汽車,攻擊者實現多域系統的全面破解控制,周期甚至更長。而深藍團隊對一臺市面在售的知名。品牌具身智能機器人實施滲透測試,在獲取設備后,從漏洞識別到遠程完整攻破,整個攻擊周期不足8小時。
白皮書認為,當前具身智能行業正處于類似于早期智能終端及物聯網行業的快速擴張期。廠商的核心競爭焦點普遍集中于算法精度、硬件性能、任務完成度及成本優化。安全防護往往被視為影響用戶體驗或增加成本的非核心需求。
![]()
白皮書整理了部分2022-2025年間公開披露的機器人攻擊案例,根據深藍團隊對國內主流品牌具身智能機器人安全現狀的深度調研與對比分析,當前國內主流產品的整體安全水平尚未達到早期智能終端及物聯網設備的安全基準。
深藍團隊對當前針對具身智能機器人的公開攻擊案例進行了梳理,發現當前攻擊案例存在針對性強、攻擊門檻低和漏洞類型多樣的特性。
針對性強指大量攻擊聚焦于應用較廣的四足機器狗,并能實現完全控制。攻擊門檻低為絕大部分攻擊可從遠程發起,無需接觸設備或用戶配合即可奪取控制權。漏洞類型多樣為攻擊手段以傳統智能終端通信漏洞為主,同時也開始出現具身智能獨有的安全問題。
重性能輕安全,具身智能“先發展后補課” ?
對現在的行業來說,技術完善、商業落地、安全防護,均為首要優先事務,缺一不可。
誠然,當前機器人相關生態仍處于構建狀態,安全需要居于次席,但仍需未雨綢繆。蓋因,具身智能機器人由于其交互頻繁、且存在大模型這一不斷處于黑箱迭代進化的變量,疊加未來應用場景廣泛,涉及環節繁復,在安全防護體系的構建上需要投入更多時間。
白皮書指出,機器人的安全架構可分為平臺域、終端域、設備域三個部分。平臺域需要向終端域與設備域提供基礎服務與平臺支撐,終端域主要承載用戶交互以及提供必要開發測試的功能、設備域負責執行可信終端。三者通過數據面、任務面、媒體面協同形成可管、可控、可觀測、可更新的整體系統能力,為后續安全邊界劃分與防護機制設計提供架構基礎。
![]()
具體來說,平臺域負責為終端以及設備建立遠程網絡環境下的可信連接。一方面負責平臺域負責任務下發與任務狀態機管理,提供高層任務創建/開始/暫停/取消、執行編排與結果回傳的能力,運控、音頻、燈光等控制流進行協議適配與下行分發,確保指令在不同型號與版本間的一致語義與可追蹤執行。為設備提供固件更新服務與云存儲服務,平臺域還可引入大模型能力,作為可選的推理與編排組件接入,提供對話式交互、任務生成規劃等服務。
終端域承擔用戶交互的主要職責,面向用戶提供設備接入全流程能力,完成設備發現、配網激活與首次注冊,引導綁定/解綁與共享授權,并對賬號登錄態與會話進行管理。此外,用戶終端還提供狀態與遙測可視化能力以及云存儲訪問能力。
設備域是承擔任務可信執行的核心角色,提供基礎系統與運行時服務以保證設備可控、可更新、可追溯。不僅需要管理眾多傳感器以提供世界感知的底層能力,還提供穩定的控制與驅動體系:將控制指令落實到運動控制、音頻控制、燈光控制等底層控制接口,完成關節電機、執行器、揚聲器等硬件的驅動與控制,并向終端域以及平臺域上報運控狀態與執行反饋。
平臺域主要作用于具身智能的后臺和大模型方面,終端域則致力于交互、以及與用戶數據相關的領域,設備域為與具身智能設備產生的數據和運轉情況相關。
鑒于如此龐大的安全防護需求,目前很少有企業能夠以一己之力通吃下這么龐大的市場需求,哪怕是如今在互聯網、設備端安全領域已經有一定基礎市場認知的企業,或可在部分領域形成主導趨勢,但涉及到別的終端如無人機、機器狗、類人機器人、工業智能終端,多少會有所跨界滯澀,有技術成熟度之別,還有商業化落地是否達到預期的因素。
比如打造以密碼為核心業務的電科網安(002268.SZ),其主要業務分為數據智能安全服務,發展密碼、網絡安全和數據安全三大板塊業務。近兩年主要聚焦低空經濟領域信息安全業務,在無人機通信安全、低空基礎設施網絡安全方面積極開展技術攻關,但目前低空經濟賽道尚未完全成型,因此也暫時無法產生營收。
面對如類OpenClaw智能體部署節奏的加快的趨勢影響,奇安信(688561.SH)等老牌安全巨頭則更傾向于大模型層面的檢測與防護,諸如大模型訪問控制、接口保護、內容控制、運行環境安全檢測、訓推數據安全、數據存儲保護等。
目前的具身智能的產業化浪潮勢不可擋,但安全短板依然愈發明顯。未來,唯有廠商、安全企業與監管機構協同發力,將安全前置到研發全流程,才能讓具身智能在技術創新與安全可控間找到平衡,真正釋放產業價值。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.