來源:高校人工智能與大數(shù)據(jù)創(chuàng)新聯(lián)盟
![]()
針對(duì)“龍蝦”典型應(yīng)用場(chǎng)景下的安全風(fēng)險(xiǎn),工業(yè)和信息化部網(wǎng)絡(luò)安全威脅和漏洞信息共享平臺(tái)(NVDB)組織智能體提供商、漏洞收集平臺(tái)運(yùn)營單位、網(wǎng)絡(luò)安全企業(yè)等,研究提出“六要六不要”建議。
一、典型應(yīng)用場(chǎng)景安全風(fēng)險(xiǎn)
(一)智能辦公場(chǎng)景主要存在供應(yīng)鏈攻擊和企業(yè)內(nèi)網(wǎng)滲透的突出風(fēng)險(xiǎn)
1.場(chǎng)景描述:通過在企業(yè)內(nèi)部部署“龍蝦”,對(duì)接企業(yè)已有管理系統(tǒng),實(shí)現(xiàn)智能化數(shù)據(jù)分析、文檔處理、行政管理、財(cái)務(wù)輔助和知識(shí)管理等。
2.安全風(fēng)險(xiǎn):引入異常插件、“技能包”等引發(fā)供應(yīng)鏈攻擊;網(wǎng)絡(luò)安全風(fēng)險(xiǎn)在內(nèi)網(wǎng)橫向擴(kuò)散,引發(fā)已對(duì)接的系統(tǒng)平臺(tái)、數(shù)據(jù)庫等敏感信息泄露或丟失;缺乏審計(jì)和追溯機(jī)制情況下易引發(fā)合規(guī)風(fēng)險(xiǎn)。
3.應(yīng)對(duì)策略:獨(dú)立網(wǎng)段部署,與關(guān)鍵生產(chǎn)環(huán)境隔離運(yùn)行,禁止在內(nèi)部網(wǎng)絡(luò)使用未審批的“龍蝦”智能體終端;部署前進(jìn)行充分安全測(cè)試,部署時(shí)采取最小化權(quán)限授予,禁止非必要的跨網(wǎng)段、跨設(shè)備、跨系統(tǒng)訪問;留存完整操作和運(yùn)行日志,確保滿足審計(jì)等合規(guī)要求。
(二)開發(fā)運(yùn)維場(chǎng)景主要存在系統(tǒng)設(shè)備敏感信息泄露和被劫持控制的突出風(fēng)險(xiǎn)
1.場(chǎng)景描述:通過企業(yè)或個(gè)人部署“龍蝦”,將自然語言轉(zhuǎn)化為可執(zhí)行指令,輔助進(jìn)行代碼編寫、代碼運(yùn)行、設(shè)備巡檢、配置備份、系統(tǒng)監(jiān)控、管理進(jìn)程等。
2.安全風(fēng)險(xiǎn):非授權(quán)執(zhí)行系統(tǒng)命令,設(shè)備遭網(wǎng)絡(luò)攻擊劫持;系統(tǒng)賬號(hào)和端口信息暴露,遭受外部攻擊或口令爆破;網(wǎng)絡(luò)拓?fù)洹①~戶口令、API接口等敏感信息泄露。
3.應(yīng)對(duì)策略:避免生產(chǎn)環(huán)境直接部署使用,優(yōu)先在虛擬機(jī)或沙箱中運(yùn)行;部署前進(jìn)行充分安全測(cè)試,部署時(shí)采取最小化權(quán)限授予,禁止授予管理員權(quán)限;建立高危命令黑名單,重要操作啟用人工審批機(jī)制。
(三)個(gè)人助手場(chǎng)景主要存在個(gè)人信息被竊和敏感信息泄露的突出風(fēng)險(xiǎn)
1.場(chǎng)景描述:通過個(gè)人即時(shí)通訊軟件等遠(yuǎn)程接入本地化部署的“龍蝦”,提供個(gè)人信息管理、日常事務(wù)處理、數(shù)字資產(chǎn)整理等,并可作為知識(shí)學(xué)習(xí)和生活?yuàn)蕵分帧?/p>
2.安全風(fēng)險(xiǎn):權(quán)限過高導(dǎo)致惡意讀寫、刪除任意文件;互聯(lián)網(wǎng)接入情況下遭受網(wǎng)絡(luò)攻擊入侵;通過提示詞注入誤執(zhí)行危險(xiǎn)命令,甚至接管智能體;明文存儲(chǔ)密鑰等導(dǎo)致個(gè)人信息泄露或被竊取。
3.應(yīng)對(duì)策略:加強(qiáng)權(quán)限管理,僅允許訪問必要目錄,禁止訪問敏感目錄;優(yōu)先通過加密通道接入,禁止非必要互聯(lián)網(wǎng)訪問,禁止高危操作指令或增加二次確認(rèn);嚴(yán)格通過加密方式存儲(chǔ)API密鑰、配置文件、個(gè)人重要信息等。
(四)金融交易場(chǎng)景主要存在引發(fā)錯(cuò)誤交易甚至賬戶被接管的突出風(fēng)險(xiǎn)
1.場(chǎng)景描述:通過企業(yè)或個(gè)人部署“龍蝦”,調(diào)用金融相關(guān)應(yīng)用接口,進(jìn)行自動(dòng)化交易與風(fēng)險(xiǎn)控制,提高量化交易、智能投研及資產(chǎn)組合管理效率,實(shí)現(xiàn)市場(chǎng)數(shù)據(jù)抓取、策略分析、交易指令執(zhí)行等功能。
2.安全風(fēng)險(xiǎn):記憶投毒導(dǎo)致錯(cuò)誤交易,身份認(rèn)證繞過導(dǎo)致賬戶被非法接管;引入包含惡意代碼的插件導(dǎo)致交易憑證被竊取;極端情況下因缺乏熔斷或應(yīng)急機(jī)制,導(dǎo)致智能體失控頻繁下單等風(fēng)險(xiǎn)。
3.應(yīng)對(duì)策略:實(shí)施網(wǎng)絡(luò)隔離與最小權(quán)限,關(guān)閉非必要互聯(lián)網(wǎng)端口;建立人工復(fù)核和熔斷應(yīng)急機(jī)制,關(guān)鍵操作增加二次確認(rèn);強(qiáng)化供應(yīng)鏈審核,使用官方組件并定期修復(fù)漏洞;落實(shí)全鏈路審計(jì)與安全監(jiān)測(cè),及時(shí)發(fā)現(xiàn)并處置安全風(fēng)險(xiǎn)。
二、安全使用建議
(一)使用官方最新版本。要從官方渠道下載最新穩(wěn)定版本,并開啟自動(dòng)更新提醒;在升級(jí)前備份數(shù)據(jù),升級(jí)后重啟服務(wù)并驗(yàn)證補(bǔ)丁是否生效。不要使用第三方鏡像版本或歷史版本。
(二)嚴(yán)格控制互聯(lián)網(wǎng)暴露面。要定期自查是否存在互聯(lián)網(wǎng)暴露情況,一旦發(fā)現(xiàn)立即下線整改。不要將“龍蝦”智能體實(shí)例暴露到互聯(lián)網(wǎng),確需互聯(lián)網(wǎng)訪問的可以使用SSH等加密通道,并限制訪問源地址,使用強(qiáng)密碼或證書、硬件密鑰等認(rèn)證方式。
(三)堅(jiān)持最小權(quán)限原則。要根據(jù)業(yè)務(wù)需要授予完成任務(wù)必需的最小權(quán)限,對(duì)刪除文件、發(fā)送數(shù)據(jù)、修改系統(tǒng)配置等重要操作進(jìn)行二次確認(rèn)或人工審批。優(yōu)先考慮在容器或虛擬機(jī)中隔離運(yùn)行,形成獨(dú)立的權(quán)限區(qū)域。不要在部署時(shí)使用管理員權(quán)限賬號(hào)。
(四)謹(jǐn)慎使用技能市場(chǎng)。要審慎下載ClawHub“技能包”,并在安裝前審查技能包代碼。不要使用要求“下載ZIP”、“執(zhí)行shell腳本”或“輸入密碼”的技能包。
(五)防范社會(huì)工程學(xué)攻擊和瀏覽器劫持。要使用瀏覽器沙箱、網(wǎng)頁過濾器等擴(kuò)展阻止可疑腳本,啟用日志審計(jì)功能,遇到可疑行為立即斷開網(wǎng)關(guān)并重置密碼。不要瀏覽來歷不明的網(wǎng)站、點(diǎn)擊陌生的網(wǎng)頁鏈接、讀取不可信文檔。
(六)建立長效防護(hù)機(jī)制。要定期檢查并修補(bǔ)漏洞,及時(shí)關(guān)注OpenClaw官方安全公告、工業(yè)和信息化部網(wǎng)絡(luò)安全威脅和漏洞信息共享平臺(tái)等漏洞庫的風(fēng)險(xiǎn)預(yù)警。黨政機(jī)關(guān)、企事業(yè)單位和個(gè)人用戶可以結(jié)合網(wǎng)絡(luò)安全防護(hù)工具、主流殺毒軟件進(jìn)行實(shí)時(shí)防護(hù),及時(shí)處置可能存在的安全風(fēng)險(xiǎn)。不要禁用詳細(xì)日志審計(jì)功能。
附錄:部分安全基線及配置參考
一、智能體部署
創(chuàng)建OpenClaw專有用戶,切勿使用sudo組:
sudo adduser --shell /bin/rbash --disabled-password clawuser
通過創(chuàng)建的專有用戶登錄操作系統(tǒng)。
創(chuàng)建受限的命令目錄,禁止rm、mv、dd、format、powershell等:
sudo mkdir -p /home/clawuser/bin
sudo ln -s /bin/ls /home/clawuser/bin/ls
sudo ln -s /bin/echo /home/clawuser/bin/echo
強(qiáng)制設(shè)置PATH并只讀,如在/etc/profile.d/restricted_clawuser.sh修改配置:
echo 'if [ "$USER" = "clawuser" ]; then export PATH=/home/clawuser/bin; readonly PATH; fi' | sudo tee /etc/profile.d/restricted_clawuser.sh
sudo chmod 644 /etc/profile.d/restricted_clawuser.sh
禁用root登錄:
sudo sed -i 's/^#\?PermitRootLogin.*/PermitRootLogin no/' /etc/ssh/sshd_config
sudo systemctl restart sshd
二、限制互聯(lián)網(wǎng)訪問
(一)Linux服務(wù)器配置
創(chuàng)建自定義鏈:
sudo iptables -N ALLOWED_IPS
添加允許的IP(IP地址為示例,操作時(shí)需替換為實(shí)際IP地址):
sudo iptables -A ALLOWED_IPS -s 192.168.1.100 -j ACCEPT
sudo iptables -A ALLOWED_IPS -s 10.0.0.5 -j ACCEPT
sudo iptables -A ALLOWED_IPS -s 172.24.57.160 -j ACCEPT
sudo iptables -A ALLOWED_IPS -j RETURN
應(yīng)用到SSH端口:
sudo iptables -A INPUT -p tcp --dport 22 -j ALLOWED_IPS
sudo iptables -A INPUT -p tcp --dport 17477 -j ALLOWED_IPS
此外,可參考上述命令關(guān)閉以下端口互聯(lián)網(wǎng)訪問或設(shè)置IP地址白名單:Telnet(23)、Windows文件共享(135、137、138、139、445)、Windows遠(yuǎn)程桌面(3389)、遠(yuǎn)程桌面控制(5900-5910)、數(shù)據(jù)庫類端口(3306、5432、6379、27017)。
(二)VPN接入的情況下配置
將OpenClaw Gateway綁定127.0.0.1,切勿直接綁定到0.0.0.0。
關(guān)閉18789端口:
sudo ufw deny 18789
遠(yuǎn)程訪問時(shí)強(qiáng)制使用VPN并啟用Gateway認(rèn)證(在openclaw.json中設(shè)置gateway.auth.mode: "token"及強(qiáng)令牌)。
三、開啟詳細(xì)日志
開啟日志記錄:
openclaw gateway --log-level debug >> /var/log/openclaw.log 2>&1
四、文件系統(tǒng)訪問控制
在Docker部署配置文件(docker-compose.yml)中,利用volumes參數(shù)將系統(tǒng)關(guān)鍵目錄掛載為:ro(只讀)模式,僅保留特定的/workspace為可寫狀態(tài)。
在宿主機(jī)系統(tǒng)層,通過chmod 700指令對(duì)私密數(shù)據(jù)目錄實(shí)施強(qiáng)制訪問控制:
sudo chmod 700 /path/to/your/workspace
五、第三方技能審查
安裝前執(zhí)行技能審查命令:
openclaw skills info
并審查~/.openclaw/skills/ /SKILL.md文件,確認(rèn)無惡意指令(如curl、bash)。
優(yōu)先選用內(nèi)置55個(gè)Skill或社區(qū)精選列表(如awesome-openclaw-skills)。
六、安全自檢
定期運(yùn)行安全審計(jì)命令:
openclaw security audit
針對(duì)審計(jì)發(fā)現(xiàn)的安全隱患,如網(wǎng)關(guān)認(rèn)證暴露、瀏覽器控制暴露等,及時(shí)按照上述安全基線及配置參考、官方手冊(cè)等進(jìn)行處置。
七、更新版本
運(yùn)行版本更新命令:
openclaw update
八、卸載
打開終端,執(zhí)行刪除命令:
openclaw uninstall
使用鼠標(biāo)上下移動(dòng)光標(biāo),按空格鍵勾選所有選項(xiàng),然后按回車鍵確認(rèn)。
選擇yes并按回車,此命令會(huì)自動(dòng)刪除OpenClaw的工作目錄。
卸載npm包:
1.使用npm安裝openclaw對(duì)應(yīng)卸載命令:
npm rm -g openclaw
2.如果使用pnpm安裝openclaw對(duì)應(yīng)卸載命令:
pnpm remove -g openclaw
3.如果使用bun安裝openclaw對(duì)應(yīng)卸載命令:
bun remove -g openclaw
(來源:網(wǎng)絡(luò)安全威脅和漏洞信息共享平臺(tái))
全國高校人工智能與大數(shù)據(jù)創(chuàng)新聯(lián)盟
全國高校人工智能與大數(shù)據(jù)創(chuàng)新聯(lián)盟(簡稱:高校聯(lián)盟)是由清華大學(xué)、浙江大學(xué)、中南大學(xué)、東北大學(xué)、上海工程技術(shù)大學(xué)、重慶郵電大學(xué)、東北林業(yè)大學(xué)、佛山科學(xué)技術(shù)學(xué)院、曲阜師范大學(xué)、黑龍江大學(xué)、海豚大數(shù)據(jù)科技等全國54家高校、企業(yè)共同發(fā)起,于2018年5月26日在北京中國科技會(huì)堂正式成立。迄今為止,聯(lián)盟發(fā)展會(huì)員300多家, 覆蓋全國20多個(gè)省市。聯(lián)盟由一批積極投身于“人工智能、大數(shù)據(jù)、區(qū)塊鏈”教育事業(yè)的高校、科研機(jī)構(gòu)、企事業(yè)單位和個(gè)人自愿組成的公益性、全國性學(xué)術(shù)交流服務(wù)平臺(tái)。中國工程院原常務(wù)副院長、中國工程院院士潘云鶴、中國科學(xué)院院士陳國良、中國工程院院士李伯虎擔(dān)任聯(lián)盟名譽(yù)理事長,中國工程院院士譚建榮擔(dān)任聯(lián)盟理事長。聯(lián)盟工作接受工信部、國家網(wǎng)信辦等政府部門行政管理和業(yè)務(wù)指導(dǎo)。聯(lián)盟主要工作是推進(jìn)產(chǎn)教融合、校企合作、協(xié)同育人。(加盟微信13651193492)
華算人工智能研究院
華算人工智能研究院全稱是“山西省華算人工智能研究院有限公司”,是經(jīng)山西轉(zhuǎn)型綜合改革示范區(qū)管理委員會(huì)批準(zhǔn),于2023年10月在太原成立的第一批專業(yè)研究人工智能、賦能數(shù)字經(jīng)濟(jì)產(chǎn)業(yè)發(fā)展的獨(dú)立法人組織。華算人工智能研究院依托全國高校人工智能與大數(shù)據(jù)創(chuàng)新聯(lián)盟專家委員會(huì)及理事會(huì)資源,按照山西省委省政府、山西轉(zhuǎn)型綜合改革示范區(qū)管理委員會(huì)發(fā)展人工智能、數(shù)字經(jīng)濟(jì)的系列文件精神和工作計(jì)劃,將研究院打造成為山西省發(fā)展人工智能、數(shù)字經(jīng)濟(jì)的示范應(yīng)用推廣平臺(tái),同時(shí)面向全國開展人工智能業(yè)務(wù)。華算人工智能研究院名譽(yù)院長由中國工程院院士李伯虎擔(dān)任。研究院內(nèi)設(shè)AI產(chǎn)業(yè)學(xué)院共建中心、實(shí)訓(xùn)實(shí)習(xí)就業(yè)中心、實(shí)驗(yàn)室建設(shè)中心、專家智庫等6個(gè)職能部門。歡迎加入華算人工智能研究院專家智庫,共同賦能高校AI人才培養(yǎng)及產(chǎn)教融合事業(yè)發(fā)展。
高校區(qū)塊鏈專委會(huì)
全國高校人工智能與大數(shù)據(jù)創(chuàng)新聯(lián)盟區(qū)塊鏈專委會(huì)(簡稱:高校區(qū)塊鏈專委會(huì)),是由北京大學(xué)、浙江大學(xué)、武漢大學(xué)、西南財(cái)經(jīng)大學(xué)、北京交通大學(xué)、鄭州大學(xué)、貴州大學(xué)、桂林電子科技大學(xué)、山西農(nóng)業(yè)大學(xué)、佛山科學(xué)技術(shù)學(xué)院、陜西師范大學(xué)、中國網(wǎng)安、海豚大數(shù)據(jù)科技等全國40多家高校、企業(yè)和機(jī)構(gòu)共同發(fā)起,于2019年12月7日在廣東省佛山市正式成立。目前發(fā)展高校及企業(yè)會(huì)員70多家。中國工程院院士、浙江大學(xué)教授陳純擔(dān)任高校區(qū)塊鏈專委會(huì)名譽(yù)顧問;福州大學(xué)教授蔡維德、中國計(jì)算機(jī)學(xué)會(huì)區(qū)塊鏈專委會(huì)主任斯雪明教授、中國人民銀行數(shù)字貨幣研究所副所長狄剛擔(dān)任高校區(qū)塊鏈專委會(huì)名譽(yù)主任;北京大學(xué)信息科學(xué)技術(shù)學(xué)院區(qū)塊鏈中心主任陳鐘教授擔(dān)任高校區(qū)塊鏈專委會(huì)主任。高校區(qū)塊鏈專委會(huì)主要工作是促進(jìn)高校區(qū)塊鏈教育,為高校區(qū)塊鏈專業(yè)建設(shè)及學(xué)科發(fā)展提供專家咨詢服務(wù)。
高校元宇宙專委會(huì)
全國高校人工智能與大數(shù)據(jù)創(chuàng)新聯(lián)盟元宇宙專業(yè)委員會(huì)(簡稱:高校元宇宙專委會(huì)),是由清華大學(xué)、湖南大學(xué)、浙江大學(xué)、四川大學(xué)、汕頭大學(xué)、河北金融學(xué)院、保定市元宇宙協(xié)會(huì)、英偉達(dá)中國、海爾衣聯(lián)網(wǎng)研究院、海豚大數(shù)據(jù)科技(天津)有限公司等全國20多所高校、企業(yè)和機(jī)構(gòu)共同發(fā)起,于2022年11月5日在北京正式成立。中國工程院院士、計(jì)算機(jī)軟件與虛擬現(xiàn)實(shí)領(lǐng)域?qū)<亿w沁平擔(dān)任高校元宇宙專委會(huì)名譽(yù)顧問;中國工程院院士、北京航空航天大學(xué)電氣與自動(dòng)化學(xué)院名譽(yù)院長、中國航天科工集團(tuán)有限公司科技委高級(jí)顧問李伯虎擔(dān)任高校元宇宙專委會(huì)名譽(yù)主任;清華大學(xué)信息國研中心可信軟件和大數(shù)據(jù)部常務(wù)副主任邢春曉擔(dān)任高校元宇宙專委會(huì)主任委員。目前已發(fā)展高校及企業(yè)會(huì)員30多家。高校元宇宙專委會(huì)主要工作是促進(jìn)高校元宇宙教育、加強(qiáng)校企合作、推動(dòng)元宇宙專業(yè)建設(shè)及學(xué)科發(fā)展,為元宇宙教育教學(xué)提供專家咨詢服務(wù)。
高校數(shù)字經(jīng)濟(jì)專委會(huì)
全國高校人工智能與大數(shù)據(jù)創(chuàng)新聯(lián)盟數(shù)字經(jīng)濟(jì)專業(yè)委員會(huì)(簡稱:高校數(shù)字經(jīng)濟(jì)專委會(huì)),是由華算人工智能研究院、清華大學(xué)、北京大學(xué)、中國人民大學(xué)、中國社會(huì)科學(xué)院信息化研究中心、四川大學(xué)、北京外國語大學(xué)、北京科技大學(xué)、北京工業(yè)大學(xué)、北京語言大學(xué)、北京化工大學(xué)、北京聯(lián)合大學(xué)、北京物資學(xué)院、北京印刷學(xué)院、西藏民族大學(xué)、河北金融學(xué)院、重慶財(cái)經(jīng)學(xué)院、蘇州城市學(xué)院、北京中關(guān)村軟件園、百度、海豚大數(shù)據(jù)科技等全國60多家高校、企業(yè)和機(jī)構(gòu)共同發(fā)起,于2024年1月12日在北京正式成立。清華大學(xué)經(jīng)濟(jì)管理學(xué)院教授姜旭平、北京大學(xué)信息管理系教授賴茂生、中國社會(huì)科學(xué)院信息化研究中心主任姜奇平、中國科學(xué)院大學(xué)經(jīng)濟(jì)與管理學(xué)院教授呂本富擔(dān)任高校數(shù)字經(jīng)濟(jì)專委會(huì)主任委員。高校數(shù)字經(jīng)濟(jì)專委會(huì)主要工作是促進(jìn)高校數(shù)字經(jīng)濟(jì)專業(yè)建設(shè)及學(xué)科發(fā)展,推動(dòng)產(chǎn)學(xué)研合作,為高校數(shù)字經(jīng)濟(jì)專業(yè)教育教學(xué)提供專家咨詢服務(wù)。
聯(lián)盟“資料圖書館”
![]()
![]()
![]()
![]()
![]()
![]()
![]()
![]()
![]()
![]()
![]()
微信咨詢
![]()
說明:轉(zhuǎn)載文章和圖片均來自公開網(wǎng)絡(luò),推送文章除非無法確認(rèn),都會(huì)注明作者和來源,如有侵權(quán)請(qǐng)聯(lián)系刪除。
往期精彩文章(單擊就可查看):
. 辦
. 》
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.