![]()
人人都在用AI,公司效率卻沒提高;
攻擊成本降了100倍,防御還在用老辦法;
AI寫的代碼越來越完美,網絡安全的基礎反而更脆弱了。
問題到底出在哪里?
在近日舉行的第十四屆互聯網安全大會(ISC)上,360集團創始人周鴻祎給出了他的回答。
效率沒提高
周鴻祎分享了一個讓他困惑的現象:有些公司人人都在用AI編程工具,人人都消耗大量Token,個人代碼提交量顯著增加,但整個組織的效率并沒有提升。
問題出在哪里?他將矛頭指向組織本身。產品經理用AI寫產品規劃,開會討論、批準,再交給程序員分解前后端,各自用AI編程,最后匯總測試。每個環節都在用AI,但流程、崗位定義全都是舊的。“買了最先進的發動機裝在馬車上,效果是不行的。”
他以Anthropic為例:那里沒有傳統意義上的產品經理,也沒有前后端工程師之分,全員全棧。有功能爭論,直接做兩個版本看用戶反饋。代碼庫對所有人開放,因為“代碼不值錢”。產品經理接到用戶投訴,自己就能改Bug。
周鴻祎還舉了個例子做對比,過去某塊軟件由四個團隊分別開發,出了Bug后四個團隊開會“會診”,每個團隊先證明“這個Bug不是我出的”,扯皮半天。而在AI native的公司里,任何工程師都能把代碼庫提交給AI排查,產品經理也能直接修Bug。原來自分工明確、權限嚴格的體系,忽然要面對一個根本問題:要不要改變做事的方法?
“把人變成超級個體是一個階段,把組織變成超級組織是第二個階段。”周鴻祎說,第二個階段比想的復雜得多。企業要回答的不是“要不要上AI”,而是“要不要改變企業文化、壓平管理流程、重新定義崗位”。不解決這些問題,AI就只是個人提效工具,組織效率原地踏步。
關于Token消耗,周鴻祎經歷了態度轉變。最初為培養員工用AI的習慣,他鼓勵多燒Token,引用任正非的話,“先僵化、再固化、再優化”,哪怕拿Token寫網絡文學也行。但當習慣養成后,重點轉向效率。
他發現一個關鍵差異,工作流型智能體沿著人定路徑執行,Token消耗可控;而開放推理型智能體為追求目標會不斷嘗試各種可能性,消耗可達前者的幾十倍甚至上百倍。“龍蝦隨便說幾句話、查個天氣,就要消耗上千萬Token。做個PPT得上億。”360因此在納米WORK中放棄了龍蝦路線,轉向更可控的方案。
他的標準是,消耗1億Token,總要對應可見產出:代碼提交、產品方案,或一個能復用的Agent。
口香糖的故事
周鴻祎講了一個口香糖的故事:口香糖曾在中國賣得很好,因為人們在超市結賬找零時順手買一包。后來移動支付普及,找零的場景消失了,口香糖銷量隨之大跌。干掉它的不是另一家口香糖公司,而是移動支付。
他以此來警示網絡安全行業。Anthropic做Mythos,本意是讓大模型更好地理解和編寫代碼,順帶做安全審計。沒想到模型能力涌現之后,不僅具備批量挖掘漏洞的能力,還能自動編寫攻擊代碼。無意中對網絡安全形成了降維打擊。
Mythos將漏洞挖掘數量提升100倍,速度提升兩個數量級,成本下降兩個數量級。周鴻祎用一組對比來描述這種攻防不對稱:過去攻防雙方用導彈互射,造價相當,勉強平衡;現在攻擊方的漏洞變成了幾千美元一架的無人機,防御方卻還在用十萬甚至百萬美元一枚的防空導彈去攔截。“防空導彈打完了,天上還有三千架無人機。”
“傳統網絡安全廠商會被大模型廠商無情地干掉,干掉你的往往不是同行。”
這也是360發起“磐石之盾”安全聯盟的初衷:聯合20家國產芯片、服務器、操作系統、數據庫廠商,用中國版Mythos免費為關鍵基礎設施挖掘漏洞,主動修補、自動化防御。周鴻祎認為,中國必須有自己的Mythos,但使用必須是受控的、面向ToB授權認證的,不能無限制開放,否則會讓網絡攻擊“平民化”。
當被問及“如果AI寫的代碼完美無缺,漏洞挖掘是否就不需要了”,周鴻祎給出了一個出人意料的回答。
他認為即使AI編碼趨于完美,網絡安全的基礎也不會消失。原因有三:其一,AI跟人學習,仍會產生漏洞,且AI寫代碼速度更快、數量更多,反而需要更多人工復核;其二,大量入侵根本不靠技術漏洞,而是弱口令和社交工程,“人性成了最大的漏洞”;其三,硬件后門是AI無法解決的,某些出口設備中被植入的遠程控制接口,一旦發現實際使用地與出廠設定不符,可以被遙控關閉。
新物種的不可預言性
智能體安全,周鴻祎最焦慮的不是病毒或漏洞,而是“不確定性”。
他認為多數人對智能體存在根本性的認知偏差:把它當軟件、當工具。“智能體是一個新的物種。”它能自主推理、調用工具、甚至自我進化。在個人手中,越用越聰明是優點;但在企業內部,買了一個軟件用了一年功能全變了,還沒人告訴你變了什么,這對企業是不可接受的。
他將智能體分為兩類:工作流型,按既定流程使用企業認定的工具和技能;推理型,只給目標就自行尋找路徑。后者能力更強,但風險不可預言。“你不知道它哪天會突發奇想干什么。”開放推理型智能體為了達到目的會不擇手段地調用工具、申請權限,像一個“不守規則又拿到無限權限的員工”。
360曾投入半年做“安全龍蝦”,試圖解決開放推理型智能體亂刪文件、破壞機器的問題,最終發現核心矛盾無法解決:開放推理型智能體的未來行為不可預言。360因此轉向參考Claude Code的思路,做可管理、可控的智能體。解決思路是隔離:把智能體放在獨立虛擬機或云端“辦公室”里,出問題時不會波及企業內網;同時對內部可使用的工具和技能做嚴格授權,“好比新員工不能自己裝一個黑盒工具在企業內網到處探”。
“老的安全問題消除了,又會帶來新的安全問題。”周鴻祎把安全從業者比作希臘神話中的西西弗斯:每天辛苦推石上山,以為到了一個階段可以歇口氣,結果AI出現了,老問題解決了一些,新問題又冒出來。
“人類不可能進化到烏托邦時代,啥問題都沒有了。”回看周鴻祎給出的回答,三條線索其實指向同一個判斷,舊的框架裝不下新的生產力。組織架構不變,AI就是個人提效工具,公司效率原地踏步;防御思路不變,智能體攻擊就是防空導彈打無人機,成本不對稱到無解;認知不變,把新物種當軟件管,出事只是時間問題。
發動機已經造好了,問題在于,你愿意換掉那輛馬車嗎?
(本文首發鈦媒體APP,作者 | AGI-Signal,編輯 | 秦聰慧)
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.