![]()
一段時(shí)間以來,互聯(lián)網(wǎng)上“養(yǎng)龍蝦”熱潮不斷。養(yǎng)過“龍蝦”(OpenClaw)的朋友可能對(duì)Token這個(gè)詞并不陌生,而現(xiàn)在這個(gè)科技圈的常用詞有了官方中文名——詞元。
據(jù)統(tǒng)計(jì),截至今年3月,我國日均詞元調(diào)用量已超過140萬億,較2024年初增長1000多倍。
但是,關(guān)于詞元和“養(yǎng)龍蝦”,國家安全部、工信部、國家知識(shí)產(chǎn)權(quán)局等權(quán)威機(jī)構(gòu)紛紛發(fā)布提醒指出, 面對(duì)新技術(shù)新應(yīng)用,既要主動(dòng)擁抱、善加運(yùn)用,又要防范風(fēng)險(xiǎn)、確保安全。
什么是詞元(Token)?
簡單來說,詞元是AI大模型處理信息的最小單元,兼具可計(jì)量、可定價(jià)、可交易三大特征。它不僅是智能時(shí)代的價(jià)值錨點(diǎn),更是連接技術(shù)供給與商業(yè)需求的“結(jié)算單位”。詞元應(yīng)用場(chǎng)景遠(yuǎn)超AI領(lǐng)域,與日常生活緊密相關(guān)。
它可以是身份憑證類,相當(dāng)于數(shù)字世界的“臨時(shí)身份證”,用于便捷登錄各類平臺(tái)、完成轉(zhuǎn)賬授權(quán)等,也可以是使用如AI寫作、修圖、剪輯等AI服務(wù)的消耗性資源。也能理解成區(qū)塊鏈場(chǎng)景下的“通證”,相當(dāng)于數(shù)字化權(quán)益證明,如電子票、游戲皮膚、會(huì)員積分等,具有不易偽造、便于流轉(zhuǎn)的特點(diǎn)。
今年以來“龍蝦”等智能體的爆發(fā),帶動(dòng)詞元消耗量顯著增長。詞元不是免費(fèi)的,作為AI處理信息的基本計(jì)量單位,每執(zhí)行一條指令、完成一項(xiàng)任務(wù),都會(huì)實(shí)時(shí)產(chǎn)生詞元消耗。如果需要擴(kuò)展功能、開放更多權(quán)限,還會(huì)帶來額外支出。
所以,一旦進(jìn)入深度使用,詞元消耗會(huì)顯著增加,相關(guān)支出隨之上升。也正因?yàn)榇耍瑯I(yè)內(nèi)人士提醒,普通人如果要“養(yǎng)龍蝦”,首先得了解一下詞元知識(shí)以及可能涉及的使用成本。
熱潮下出現(xiàn)隱患
需要注意的是,隨著詞元爆火,不法分子開始打起了詞元的主意,伺機(jī)布設(shè)各種陷阱。同時(shí),詞元本身在使用過程中也有一定安全風(fēng)險(xiǎn),需要加以防范——
泄露劫持風(fēng)險(xiǎn)。不法分子可通過跨站腳本攻擊(XSS)、公共Wi-Fi嗅探等方式,竊取、截獲未加密的詞元。一旦詞元泄露,攻擊者可直接盜用用戶身份,獲取隱私信息、登錄賬號(hào)、篡改數(shù)據(jù),甚至實(shí)施詐騙、轉(zhuǎn)賬等操作,直接威脅個(gè)人財(cái)產(chǎn)安全。如果海量詞元被匯總分析,則可能引發(fā)系統(tǒng)性風(fēng)險(xiǎn),危害數(shù)據(jù)安全與國家安全。
偽造篡改風(fēng)險(xiǎn)。若詞元缺乏加密或簽名防護(hù),不法分子可直接修改詞元的權(quán)限字段,偽造管理員身份繞過系統(tǒng)驗(yàn)證,非法獲取用戶敏感隱私數(shù)據(jù)、實(shí)施越權(quán)操作。同時(shí),不法分子還有可能制造“虛假詞元”,誘導(dǎo)用戶泄露身份證號(hào)、手機(jī)號(hào)等隱私信息。
詐騙陷阱風(fēng)險(xiǎn)。當(dāng)前,各類“詞元騙局”層出不窮:用低價(jià)AI詞元套餐、詞元投資等噱頭,誘騙用戶資金;冒充官方平臺(tái),以官方升級(jí)、驗(yàn)證為由,騙取個(gè)人隱私信息。尤其是宣稱“囤詞元能暴富”“場(chǎng)外交易賺差價(jià)”等行為,不僅涉嫌非法金融活動(dòng),還可能被境外間諜情報(bào)機(jī)關(guān)用以開展數(shù)據(jù)竊取、資金滲透,危害國家經(jīng)濟(jì)安全與數(shù)據(jù)安全。
謹(jǐn)慎使用,注意安全
面對(duì)詞元熱潮,既要理性看待其價(jià)值,又要注意信息安全、隱私安全,提高安全防范意識(shí),做到了解詞元、善用詞元——
詞元可作為數(shù)字身份憑證,并非投資品。要防范以“詞元投資”“高收益回報(bào)”“詞元理財(cái)”“詞元挖礦”等為噱頭的各類騙局,切勿盲目購買未經(jīng)官方認(rèn)證的小眾、虛擬詞元,不隨意注冊(cè)來路不明的詞元服務(wù)。
使用詞元相關(guān)服務(wù)時(shí),優(yōu)先選擇正規(guī)平臺(tái)與加密傳輸通道。不論是否涉及詞元使用,都不應(yīng)在公共網(wǎng)絡(luò)或無法確認(rèn)安全的環(huán)境下進(jìn)行賬戶登錄、轉(zhuǎn)賬、填寫隱私信息等敏感操作;不點(diǎn)擊陌生鏈接,不下載非官方APP,不掃描可疑二維碼,及時(shí)更新設(shè)備系統(tǒng)與安全軟件;嚴(yán)格保管詞元口令、授權(quán)碼及綁定的手機(jī)號(hào)、身份證號(hào)等信息,開啟雙因素認(rèn)證,不共用賬號(hào),不設(shè)置通用密碼,發(fā)現(xiàn)賬號(hào)異常立即采取改密、解綁、報(bào)備等止損措施。
必須“圈養(yǎng)龍蝦”
“養(yǎng)龍蝦”熱潮之下,不少普通用戶出于好奇或工作需求,也想嘗試部署、使用智能體。
不過,工業(yè)和信息化部專家指出, OpenClaw在調(diào)用大語言模型時(shí)可能誤解用戶指令內(nèi)容,導(dǎo)致執(zhí)行刪除等有害操作。使用被植入惡意代碼的技能包,可能導(dǎo)致數(shù)據(jù)泄露或系統(tǒng)受控。即使升級(jí)到最新版本,如果不采取針對(duì)性的防范措施,依然存在被攻擊風(fēng)險(xiǎn)。
因此,如果要“養(yǎng)龍蝦”,應(yīng)堅(jiān)持三個(gè)核心準(zhǔn)則:隔離、最小權(quán)限與全程可監(jiān)督。
環(huán)境物理隔離:絕對(duì)不要在存有敏感數(shù)據(jù)的日常主力電腦或手機(jī)上安裝。敏感數(shù)據(jù)包括工作文件、財(cái)務(wù)信息、通訊記錄,以及涉及敏感商業(yè)相關(guān)的文件和數(shù)據(jù)等。用戶應(yīng)使用一臺(tái)功能單一、無重要數(shù)據(jù)的專用設(shè)備,若條件有限,也可在主力機(jī)上通過完全獨(dú)立的虛擬機(jī)運(yùn)行,從根源上隔絕敏感數(shù)據(jù)與智能體的接觸。
權(quán)限最小化:用戶在安裝與配置龍蝦智能體時(shí),需嚴(yán)格審視并限制其可訪問的目錄、應(yīng)用和網(wǎng)絡(luò)權(quán)限,只授予其完成具體任務(wù)所必需的最低權(quán)限,杜絕“過度授權(quán)”。通過權(quán)限管控,可大幅降低龍蝦帶來的安全風(fēng)險(xiǎn)。
操作可監(jiān)督:在運(yùn)行期間,尤其是在初期,要時(shí)刻關(guān)注龍蝦的操作。對(duì)于重要或不可逆的操作,比如刪除文件、發(fā)送郵件、執(zhí)行安裝、修改系統(tǒng)設(shè)置等,必須為智能體設(shè)置“二次確認(rèn)”的交互指令,確保最終執(zhí)行權(quán)始終掌握在用戶自己手中。同時(shí),要避免在無人監(jiān)督時(shí),讓智能體執(zhí)行涉及數(shù)據(jù)修改、對(duì)外通信等敏感任務(wù),且需確保其關(guān)鍵操作的日志清晰、可查,以便后續(xù)進(jìn)行審計(jì)與回溯,及時(shí)發(fā)現(xiàn)并規(guī)避潛在風(fēng)險(xiǎn)。
“龍蝦”也有幻覺
針對(duì)“養(yǎng)龍蝦”可能出現(xiàn)的風(fēng)險(xiǎn),國家知識(shí)產(chǎn)權(quán)局也于近日發(fā)布風(fēng)險(xiǎn)提示指出,OpenClaw等智能體工具被曝光默認(rèn)安全配置脆弱,易引發(fā)嚴(yán)重安全風(fēng)險(xiǎn),同時(shí)使用此類智能體撰寫專利申請(qǐng)文件,也可能誘發(fā)多重風(fēng)險(xiǎn)——
“技術(shù)信息泄露”風(fēng)險(xiǎn):OpenClaw等智能體存在權(quán)限過高、安全漏洞、插件投毒等隱患,使用其撰寫申請(qǐng)文件,易造成技術(shù)交底書等核心信息外泄。一旦泄露,專利申請(qǐng)技術(shù)方案可能因喪失新穎性無法授權(quán),甚至被他人搶先申請(qǐng)專利,給申請(qǐng)人帶來重大損失,代理機(jī)構(gòu)還需承擔(dān)違約賠償責(zé)任。
“實(shí)質(zhì)缺陷”風(fēng)險(xiǎn):在利用該類智能體撰寫申請(qǐng)文件時(shí)可能出現(xiàn)“AI幻覺”,導(dǎo)致申請(qǐng)文件存在內(nèi)容邏輯矛盾、技術(shù)特征表述不清等問題,從而無法獲得保護(hù)。
“不誠信申請(qǐng)”風(fēng)險(xiǎn):通過智能體憑空生成、隨機(jī)編造、內(nèi)容拼湊等形成專利申請(qǐng),屬于違反誠實(shí)信用原則的不誠信申請(qǐng)專利行為。達(dá)到一定數(shù)量,申請(qǐng)人將面臨警告、罰款等行政處罰;代理機(jī)構(gòu)及代理師將面臨吊銷執(zhí)業(yè)許可證、注銷代理資格證等行政處罰,情節(jié)嚴(yán)重的將被列入嚴(yán)重違法失信名單。
微信編輯:燈燈
本文來源:國家安全部、央視新聞、新聞晨報(bào)
還原事實(shí),洞悉真相。
歡迎關(guān)注,留言舉報(bào)!
除了辟謠,這里還關(guān)注網(wǎng)絡(luò)熱點(diǎn),及時(shí)回應(yīng)網(wǎng)友關(guān)切,追蹤事件進(jìn)展。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.