No.0266

Science Partner

Bring you to the side of science

導 讀

大家好，我是晶恒。

昨天有個消息，在中文科技圈沒引起多少注意，但在華爾街炸了鍋。

大名鼎鼎的Anthropic（就是表面跟五角大樓鬧翻、拒絕給軍方開無限制權限，客觀上在美伊以戰(zhàn)爭中提供最基礎AI能力那家公司）因為內容管理系統(tǒng)配置出錯，接近3000份內部未公開素材被直接晾在公開互聯(lián)網上，任何人都能看。

更離譜的是發(fā)現方式。一個來自以色列安全公司LayerX的研究員，一個來自劍橋大學的研究員，兩個人無意間撞上了這個緩存，覺得這事兒大，順手叫來《財富》雜志，獨家報道一發(fā)出去，Anthropic才急急忙忙把權限關掉 。

這要放到任何一家中國公司身上，辛頓也好、奧爾特曼也好，早就冰釋前嫌、攜手出來對此表示”震驚與擔憂”，順帶把東大政府政策黑一遍了。

華爾街沒安靜。消息一出，網安板塊集體塌方：CrowdStrike跌7%，Palo Alto Networks跌6%，Zscaler跌4.5%，整個網絡安全ETF跌了2.7% 。

市場砸的不是”某公司泄露了個新模型”這件事本身，OpenAI泄露新模型都快成公關手段了，早不新鮮。

那真正讓人坐不住的，是Anthropic到底泄露了什么？

走，伙伴君告訴你答案！

今日主筆 | 晶恒

美國AI公司底牌漏光都沒罵中國，這是覺悟了 ？

01. 泄露文件里到底寫了什么

按照Fortune披露的草稿材料，泄露的最新模型Claude Mythos被Anthropic內部稱為”迄今最強”，公司自己警告：它在網絡能力上明顯領先其他所有模型，可能帶來一波利用漏洞速度快過防守方修補速度的新型攻擊。用大白話翻譯就是： Anthropic 內部認為，他們即將推出一個模型，攻擊方用它找漏洞、寫漏洞利用代碼的速度，會比防守方打補丁的速度快得多。

這不是在說AI更聰明了，而是在說，攻防之間的時間窗口即將被徹底壓縮。

過去，一個漏洞從被發(fā)現到大規(guī)模利用，往往有幾天甚至幾周的窗口。防守方靠的就是這個窗口活著，然后快點推補丁，快點封端口，快點修復。但如果AI可以在幾秒鐘內掃描整個代碼庫、生成可用的攻擊載荷，這個窗口就可能縮短到幾分鐘。

那時候，傳統(tǒng)打補丁的網絡安全模式，就像用手工刀具應對機械化生產，成本曲線完全不對稱了。

02. 這已經是第二次了

有意思的是，這不是網絡安全股第一次因為Anthropic挨打。

今年2月，Anthropic推出了Claude Code Security，一款能自動掃描代碼、識別漏洞的工具。CrowdStrike和Zscaler各跌了約10%，Global X網絡安全ETF一度創(chuàng)下2023年11月以來的新低。

Palo Alto的CEO Nikesh Arora當時就大呼看不懂：客戶明明在買更多AI安全工具，市場的恐慌邏輯從哪里來的？

這個問題問得好，但答案其實很直白：市場并不是在擔心網絡安全行業(yè)沒有需求，而是在擔心現有這批公司的競爭優(yōu)勢會不會被AI平臺直接繞過。

就比如Crowd Strike公司，他們賣的是一套精心積累的威脅情報加規(guī)則引擎，靠的是多年的數據壁壘。但如果有一天Anthropic的模型直接在端點上跑，不依賴云端情報庫就能完成檢測，那Crowd Strike靠什么維持溢價？這才是核心焦慮。

03. 中國該怎么看這件事

先說一個有意思的細節(jié)。

去年11月，Anthropic指責有黑客利用Claude Code，對全球約30個目標發(fā)動自動化攻擊，事情捅得很大，CEO被傳喚至美國國會聽證。那次Anthropic的報告寫得措辭強烈，高置信度判斷為咱們。外交部發(fā)言人林劍當時就給懟回去了，講了中方一貫反對并依法打擊黑客活動。

中國在這方面的做法一點不含糊，不是行業(yè)規(guī)范，不是部門規(guī)章，是基礎性法律的形式來挑大梁。今年1月1日，修訂后的《網絡安全法》正式施行。這次修法做了一件此前沒做過的事，把促進和規(guī)范人工智能發(fā)展寫進了法律正文，第二十條明確規(guī)定：國家支持AI基礎理論研究、算法關鍵技術研發(fā)，推進算力等基礎設施建設，同時加強風險監(jiān)測評估和安全監(jiān)管。

這次Anthropic把自己的內部文件徹底漏光了，連聲音都沒有了。不是因為內心緩和了，而是這次翻車的人是他們自己。

當一個公司剛剛把自己最敏感的內部草稿連同安全預警文件一起暴露在公開互聯(lián)網上，同時還要解釋”為什么我們自己都說這個模型前所未有地危險”這個時候，再出來高調指責別人又來偷家了、又操控AI了，畫風尷尬不？

04. 但技術上必須說實話

美國NIST下屬機構去年9月評估顯示，國內參評頭部大模型在網絡安全專項基準上得分約40%，美國頂級參考模型是74%；更刺眼的是，第三方獨立測試顯示，國內主流模型在越獄攻擊上的失手率明顯高于美國頂級模型。制度框架已經建起來了，差的不是口號，而是把它真正壓進模型實戰(zhàn)防線里。

說到底，真問題是，你能不能用AI去應對AI的攻擊。

具體看，未來最有價值的產品方向大概是這幾個：一是代碼安全審計的AI化，漏洞從代碼里來，補丁也要回代碼里打；二是AI行為監(jiān)控，AI生成的攻擊流量本身有模式特征，這是新的檢測維度；三是模型安全治理，越來越多的企業(yè)自己部署大模型，權限控制、輸入過濾、數據防泄漏成了剛需；四是高監(jiān)管行業(yè)合規(guī)，金融、能源、政府這些場景，監(jiān)管壓力會把預算先頂上來。

所以如果進攻方拿的是Mythos，防守方還是老辦法，肯定是不行。奇安信、深信服、安恒這樣的國內安全廠商來說是挑戰(zhàn)也是機遇，是一次重新定價自身能力的機會。

05. 最后說一句

Anthropic這次烏龍，某種意義上是給全行業(yè)做了一次提前公告：下一代模型已經開始真正改變網絡攻防的成本結構。

對全球企業(yè)、各國政府以及安全從業(yè)者來說，現在要做的事情其實不復雜，就是一個問題：

當攻擊方的速度開始超過你修補漏洞的速度，你的防守體系，今天更新了嗎？

這不是恐慌，是倒計時日程表。

我是晶恒，咱們下期見～

本文 僅作科普分享使用，歡迎小伙伴們點、收藏、關注，以備不時之需，當然更歡迎您把 介紹給周邊可能需要的更多伙伴們呀。