出品 | 網(wǎng)易智能

作者 | 小小

編輯 | 王鳳枝

白宮電話打來時，Anthropic CEO達里奧·阿莫代伊（Dario Amodei）正在靜修。

至少，白宮方面是這么說的。

電話這頭，財政部長、商務部長、國家網(wǎng)絡總監(jiān)在內的多名美國高級官員先后上線。

他們手里有一份安全報告：Anthropic最大投資方之一亞馬遜向政府匯報，Anthropic剛上線三天的最強模型Claude Fable 5，可能被繞過安全護欄。

這通電話很快變成一場對峙。

阿莫代伊試圖為模型辯護。他認為，亞馬遜發(fā)現(xiàn)的問題只是特定場景下的漏洞，不是能徹底拆掉護欄的通用越獄。

但白宮官員不接受這個解釋。財政部長貝森特直接對他說：你正在做一個糟糕的決定。

最終談判破裂。90分鐘后，特朗普總統(tǒng)批準出口管制令。Fable 5和Mythos 5被禁止向外國政府、公司和個人開放。在執(zhí)行層面，Anthropic只能全面關停訪問。

一家以"安全"為使命的AI公司，被自己最信任的投資方用安全問題推到了白宮面前。

一個多年"呼吁政府監(jiān)管"的CEO，等來了監(jiān)管。關掉的，是自己的旗艦產(chǎn)品。

01漏洞是怎么被發(fā)現(xiàn)的？一個投資人敲響了警鐘

事情要從6月9日說起。

那天，Anthropic正式發(fā)布Fable 5。按照公司自己的說法，這是一個"Mythos級"模型，能力更強，但也帶著精心設計的安全護欄，可以安全地向公眾開放。

發(fā)布前，F(xiàn)able 5已經(jīng)接受了美國政府和英國AI安全研究所的審查。Anthropic對這套安全方案很有信心。畢竟，這家公司過去幾年在AI行業(yè)最重要的標簽，就是"安全優(yōu)先"。

問題很快來了。

僅僅兩天后，6月11日，亞馬遜研究人員發(fā)現(xiàn)，F(xiàn)able 5的護欄并沒有Anthropic說得那么牢。

他們用一組特定提示詞反復測試，成功誘導模型泄露了至少四個軟件程序中的安全漏洞信息。按照正常設定，F(xiàn)able 5本應該拒絕提供這類內容。

亞馬遜先把發(fā)現(xiàn)分享給Anthropic，隨后很快上報給白宮。

截圖2

這里有一個細節(jié)：亞馬遜首席執(zhí)行官安迪·賈西（Andy Jassy）親自出面，與美國財政部長斯科特·貝森特（Scott Bessent）等官員討論了研究人員的發(fā)現(xiàn)。一位了解情況的人士說，亞馬遜作為Anthropic的投資者，只是在回應政府征求反饋。亞馬遜發(fā)言人的說法也很平淡："政府就潛在安全風險征求我們的意見，這不算什么稀罕事。"

但這件事沒那么簡單。

亞馬遜不只是Anthropic的大投資方，也是Anthropic最重要的云服務商。Fable 5的訓練和推理，從頭到尾都跑在AWS上。

換句話說，發(fā)現(xiàn)漏洞的不是站在門外的第三方安全公司，而是一個投資方、云服務商，對自己機房里正在運轉的客戶模型，做了一次主動安全探查。

這不等于亞馬遜一定越界。

但關系本身已經(jīng)足夠微妙。

你租了我的房子，把保險柜放在我的房間里。我能不能去試一下那把鎖牢不牢？如果我發(fā)現(xiàn)有問題，應該先告訴你，還是先告訴政府？

這些問題沒有現(xiàn)成答案。

但它們懸在整件事上方，比那幾個漏洞更難修。

多位熟悉政府立場的人士透露，亞馬遜也不是唯一發(fā)出警告的一方。其中一個消息源說得很重："問題的核心是Anthropic對此缺乏嚴肅性。如果他們認真對待，而不是當成孤立事件敷衍過去，這件事根本不會發(fā)生。"

在政府看來，漏洞本身是一回事，Anthropic處理漏洞的態(tài)度，是另一回事。

Anthropic堅持自己的判斷：這類問題相對基礎，別的公開模型也能做到，遠不到"通用越獄"的程度。

一些看過亞馬遜報告的安全研究人員，也認同Anthropic的判斷。GreyNoise Intelligence創(chuàng)始人安德魯·莫里斯（Andrew Morris）指出，F(xiàn)able確實被誘導出了漏洞信息，但"這和危險的網(wǎng)絡安全信息根本不是一回事"。Luta Security首席執(zhí)行官凱蒂·穆蘇里斯說得更直接："護欄本身沒什么需要修的。"

但技術判斷沒能攔住政治的介入。

一家公司的最大投資方，主動把這家公司的安全問題報給政府。這個信號本身，就已經(jīng)足夠不尋常。

后來的事證明，它引爆的后果，比任何人預想的都要大。

02 "懇求數(shù)小時無果"：白宮與阿莫代伊的對峙

6月12日上午，問題已經(jīng)擺上白宮最高層的會議桌。

財政部長貝森特、國家網(wǎng)絡總監(jiān)肖恩·凱恩克羅斯（Sean Cairncross）、幕僚長蘇西·懷爾斯（Susie Wiles）等高級官員開會，討論模型風險和政府應對方案。

貝森特當時正在前往休斯頓參加公開活動的路上，通過視頻遠程參會。

會議結束后，政府官員開始聯(lián)系Anthropic首席執(zhí)行官達里奧·阿莫代伊（Dario Amodei）。

白宮一側的說法是，他們最初被告知阿莫代伊無法接聽，因為他正在參加健康靜修。Anthropic隨后堅決否認，稱"這絕對是假的"。

接近Anthropic的人士給出的時間線是：政府首次聯(lián)系大約在中午，阿莫代伊在一小時十五分鐘內就與高級官員通了電話，期間公司也提供了其他高管代為聯(lián)絡。

等阿莫代伊上線后，他先后參加了三次通話。

電話另一頭，包括凱恩克羅斯、貝森特、商務部長霍華德·盧特尼克（Howard Lutnick）等約六名高級官員。商務部負責工業(yè)和安全的副部長杰弗里·凱斯勒（Jeffrey Kessler）、白宮秘書威爾·沙夫（Will Scharf）、白宮副幕僚長理查德·沃爾特斯（Richard Walters）以及總統(tǒng)政策助理沃克·巴雷特（Walker Barrett），也參與了部分通話。

這不是一次普通溝通。他們在吵一個根本問題：這到底是不是安全威脅。

阿莫代伊想解釋，他認為亞馬遜發(fā)現(xiàn)的是特定場景下的漏洞，不是能徹底拆掉安全護欄的通用越獄。

Anthropic事后也在博客中表示，還沒有測試人員能夠找到一種通用越獄方法；完全避免越獄對任何公司來說都不現(xiàn)實；自家的系統(tǒng)已經(jīng)強到讓很多用戶抱怨"過于寬泛"。

但白宮不接受這個解釋。

一名白宮官員稱，亞馬遜的發(fā)現(xiàn)已被提交國家安全局審核，政府手上有"證據(jù)"。凱恩克羅斯和貝森特敦促Anthropic自愿撤下模型，與政府協(xié)調解決漏洞。

阿莫代伊要求更多時間和更多信息，但沒有承諾下架。

據(jù)白宮高級官員描述，貝森特一度直接對他說：你正在做一個"糟糕的決定"。

談判就此破裂。

之后，雙方敘事開始分叉。

白宮高級官員的版本是：出口管制是在"懇求他們與我們合作數(shù)小時無果后"的最后手段。"這不是我們想做的事情，但我們別無選擇。"

接近Anthropic的人士給出的是另一個版本：白宮只給了90分鐘時間下架模型，卻沒有提供任何關于實際威脅的細節(jié)。"從來沒有任何懇求，只有一個宣布的90分鐘最后期限。"

兩種說法看起來針鋒相對，但未必完全矛盾。

如果"懇求數(shù)小時"指的是多次通話和反復交涉，"90分鐘最后期限"指的是最后階段的執(zhí)行倒計時，那么雙方說的可能是同一場對峙的不同切片。

但結果已經(jīng)不重要了。

特朗普總統(tǒng)批準了出口管制令。

政府援引國家安全權力，禁止外國政府、公司和個人使用Fable 5和Mythos 5模型。Anthropic隨即全面關停這兩個模型的訪問權限。

包括部分外國出生的Anthropic員工在內，都被擋在了門外。

03這真的是安全決策嗎？歷史的舊賬與新火

表面上看，這是一起安全漏洞引發(fā)的緊急管控。

但如果把Anthropic和特朗普政府的舊賬翻出來，事情就沒有那么單純。

Anthropic由一群前OpenAI員工在2021年創(chuàng)立。離開OpenAI的原因之一，就是他們認為OpenAI對AI安全不夠重視。

阿莫代伊本人曾把AI風險比作核武器，多年來持續(xù)呼吁政府加強監(jiān)管。Anthropic也一直是AI監(jiān)管最積極的推動者之一。

這讓它在華盛頓交到了一些盟友，也結下了一些對手。

今年3月3日，美國國防部長皮特·赫格塞斯（Pete Hegseth）和五角大樓將Anthropic列為"供應鏈風險"。理由是Anthropic拒絕讓AI工具用于大規(guī)模國內監(jiān)控和自主武器。

這是一次前所未有的政府行動。

Anthropic已經(jīng)在兩起獨立訴訟中提出異議。與此同時，政府官員也一直批評Anthropic存在左翼政治偏見，指責它一方面警告AI可能造成大規(guī)模失業(yè)，一方面又把自己的技術說得過于強大。

也就是說，三個月前，政府嫌Anthropic太謹慎，不愿配合監(jiān)控和武器系統(tǒng)。

三個月后，同一個政府以國家安全為由關停了它的旗艦模型，理由是安全護欄不夠牢。

前一腳踩它太保守，后一腳踩它太冒進。這兩套邏輯，很難同時成立。

前白宮AI主管大衛(wèi)·薩克斯（David Sacks）的態(tài)度尤其值得注意。

作為一位長期反對監(jiān)管的風投家，薩克斯一直公開批評Anthropic。但這一次，他罕見地支持了政府管制決定。

6月13日，他在社交平臺上發(fā)文稱，不認為這次越獄是簡單或不嚴重的，出口管制也不是為了更廣泛地控制整個行業(yè)。

他還寫道："政府現(xiàn)在的希望是Anthropic修復安全問題，解除出口管制，讓Fable重新公開發(fā)布。政府希望這一切盡快發(fā)生。"

真正帶刺的是后半句：

"坦率地說，政府對Anthropic不愿遵守其先前聲稱是其最高優(yōu)先級的安全要求感到困惑。"

這句話幾乎是反將一軍。

你不是說安全最重要嗎？現(xiàn)在政府替你管了，你怎么又不干了？

薩克斯強調，政府與Anthropic過去的爭執(zhí)，與這次出口管制決定是分開的。但外界很難完全相信這兩件事毫無關系。

專注技術與創(chuàng)新的智庫R Street Institute高級研究員亞當·蒂雷爾（Adam Thierer）評價說，過去一周的事件，是"美國AI政治化和對先進計算集中控制的一次重大升級"。

這里還有一個更大的先例問題。

一位觀察者概括得很直接：這可能是歷史上第一次，出口管制直接適用于AI模型本身。

不是芯片。不是服務器。不是硬件。是模型本身。

而按下開關的人之一，恰恰是Anthropic最重要的資本支持者。

白宮一位官員對此回應說，創(chuàng)新仍然是"第一要務"，但"我們也必須優(yōu)先考慮安全"。

04誰在喊疼？客戶、人才與IPO

禁令的第一波沖擊，先砸在Anthropic自己身上。

客戶端，損失是即時的。

AI研究員、自稱"零人工公司"概念發(fā)起人的布萊恩·羅姆勒（Brian Roemmele）在事發(fā)后公開表示，他當晚就幫忙把大客戶從Anthropic轉走，其中一個賬戶每月價值數(shù)百萬美元。

這些客戶轉向了本地開源模型，而且"不會回來了"。

他的判斷很重：這將造成永久性損害，客戶大規(guī)模流失，關鍵人員離職，IPO計劃到夏天結束時"看起來已經(jīng)死透了"。

他還指出，整件事最諷刺的是：阿莫代伊多年呼吁政府加強監(jiān)管，最終政府確實出手了，但關掉的是他自己的旗艦產(chǎn)品。

人才端的問題同樣棘手。

禁令措辭和執(zhí)行范圍一開始并不清晰，外籍員工是否受限，迅速成為外界關注的焦點。

頂尖AI研究員安德烈·卡帕西（Andrej Karpathy）今年5月剛加入Anthropic。他持有加拿大國籍和美國EB-1"杰出人才"綠卡。

有網(wǎng)友稱，卡帕西因為身份原因無法訪問模型，"被鎖在外面不是因為他的工作，而是因為他的出生地"。

但路透社隨后報道，相關人員的公民身份，以及是否確實失去訪問權限，目前都還不明確。Anthropic發(fā)言人拒絕對此置評。

這件事連邊界都沒完全說清。

一個入職不到一個月的頂級研究員，還沒來得及在新模型上施展身手，就先被卷進了"能不能用自己公司產(chǎn)品"的懸案里。

更確定的是，外界很快把Anthropic一批非美國出生、非美國籍或有海外背景的核心人員拉進了討論。

聯(lián)合創(chuàng)始人兼可解釋性研究負責人克里斯托弗·奧拉（Christopher Olah）來自加拿大；董事會董事亞絲明·拉扎維（Yasmin Razavi）同樣是加拿大籍；深度學習研究員迪德里克·金馬（Diederik P. Kingma）來自荷蘭；AI對齊研究員揚·萊克（Jan Leike）來自德國；哲學家兼AI對齊研究員阿曼達·阿斯克爾（Amanda Askell）具有蘇格蘭和英國背景。

無論他們個人是否被這次禁令直接限制，整個團隊的工作節(jié)奏已經(jīng)被打亂。

Anthropic也迅速開始止損。

禁令下達后的周末，公司派出一批頂級技術人員前往華盛頓，與政府安全專家會面，試圖緩和局勢。

團隊包括頂級安全研究員尼古拉斯·卡利尼（Nicholas Carlini）、模型風險評估團隊負責人洛根·格雷厄姆（Logan Graham）、安全措施主管戴夫·奧爾（Dave Orr），以及聯(lián)合創(chuàng)始人兼首席計算官湯姆·布朗（Tom Brown）和公共政策主管薩拉·赫克（Sarah Heck）。

接近公司的人士稱，雙方都有興趣解決問題并恢復訪問，但解決方案還沒有成形。

一些政府官員則認為，技術專家與政府安全研究人員的會面，是達成妥協(xié)的關鍵一步。

05回響：當AI被拔掉插頭

這起事件在美國之外引發(fā)的連鎖反應，可能比禁令本身更值得看。

各國政界和產(chǎn)業(yè)界的聲音很密集。但疊在一起聽，先聽到痛，然后是怒，最后才是冷靜下來的反思。

最先喊疼的，是那些已經(jīng)把Anthropic模型嵌進日常工作的國家和企業(yè)。

英國議員阿爾·卡恩斯（Al Carns）給了一個很具體的場景。他剛因國防開支爭議辭去武裝部隊國務部長職務，談到此事時說：

"本周，地球上最先進的AI模型被一個外國政府關閉了。英國研究人員正在研究它。英國公司正在測試它。英國醫(yī)院正在試用它。現(xiàn)在不行了。"

他的后半句把這件事從AI新聞拉到了更大的語境里：

"這不是一個AI故事。這是我們曾經(jīng)領先的每個行業(yè)的故事。"

印度企業(yè)界感受到的，是另一種痛。

Atomicwork聯(lián)合創(chuàng)始人兼CEO維賈伊·拉亞帕蒂（Vijay Rayapati）指出，如果一家公司的AI團隊并非全部由美國公民組成，它就可能處于不利地位。

印度AI風險投資平臺Activate創(chuàng)始人阿克里特·瓦伊什（Akrit Vaish）說，他周六早上醒來時感到"震驚和困惑"，認為這件事實質性改變了所有人對印度主權AI的思考方式。

印度SaaS公司Zoho創(chuàng)始人斯里達爾·文布（Sridhar Vembu）在社交媒體上直言："技術是終極武器。"他呼吁印度組織接受小型和開源模型，包括來自印度和中國的開源模型。

前Infosys高管莫漢達斯·派（Mohandas Pai）則提議，印度政府設立每年5000億盧比的AI和深度技術基金。

從具體痛感里，很快升起更尖銳的主權警告。

法國政壇的反應幾乎不分左右，調門出奇一致。

前內政部長、2027年總統(tǒng)候選人布魯諾·勒泰洛（Bruno Retailleau）把這記禁令稱為"警鐘"：

"在AI競賽中，一個在技術上依賴他人的國家，是一個可以被一夜之間切斷電源的國家。"

他點名法國自己的AI公司Mistral、云服務商OVHcloud等，呼吁停止天真，重組技術力量。

法國前總理、現(xiàn)任勒阿弗爾市長愛德華·菲利普（Edouard Philippe）則把AI提升到了基礎設施高度：

"AI現(xiàn)在已經(jīng)是一種關鍵基礎設施，與電力或互聯(lián)網(wǎng)同等重要。一個我們無法控制其模型和計算能力的基礎設施，就是別人可以拔掉插頭的基礎設施。"

法國歐洲事務部長級代表本杰明·哈達德（Benjamin Haddad）說得更直白：禁令標志著"AI地緣政治競爭的加速"，歐洲必須增加投資，為自己配備掌握21世紀權力的技術手段。

荷蘭自由黨領導人吉爾特·維爾德斯（Geert Wilders）在社交媒體上喊話："我想要回我的Anthropic Claude Fable 5。"同時，他也呼吁荷蘭加速開發(fā)自己的模型。

法國國民聯(lián)盟主席喬丹·巴爾德拉（Jordan Bardella）也發(fā)聲稱，這個突然決定提醒人們，AI已經(jīng)是重大國家主權問題；不迅速開發(fā)自己模型的國家，將越來越依賴其他大國的選擇。

歐盟委員會的反應更克制。

發(fā)言人托馬斯·雷尼耶（Thomas Regnier）表示，正在評估美國出口管制指令的實際影響。"我們認為，在這種情況下采取的應急措施不應歧視合作伙伴。"他同時強調，這一發(fā)展進一步說明，歐洲需要加強技術主權。

在痛感和憤怒之上，還有更冷峻的結構性反思。

加拿大總理馬克·卡尼（Mark Carney）訪問愛爾蘭期間談到此事時，沒有糾纏誰對誰錯，而是把問題拉到了系統(tǒng)層面。

他曾擔任加拿大央行和英格蘭銀行行長，于是用了一個金融危機類比：

"我們目前在Mythos和Fable上面臨的集體狀況，是過度依賴某些模型可能發(fā)生的事情。在這種情況下，沒有人做錯任何事，但如果我們只是接受這一點，不吸取教訓，不進行建設和多元化，那我們就做錯了。"

前英國安全事務國務大臣湯姆·圖根哈特（Tom Tugendhat）的判斷更進一步。

他說，技術正在重塑戰(zhàn)爭方式，主權越來越取決于代碼，而不是大炮。為外國人禁用Fable 5和其他模型，不是誤解，也不是錯誤，而是必然結果。

印度技術政策專家普拉桑托·羅伊（Prasanto Roy）的類比更尖銳。

他把這件事比作俄羅斯與烏克蘭沖突后，多國被切斷SWIFT金融系統(tǒng)訪問權限。他認為，同樣的沖擊可能在印度觸發(fā)民族主義反彈。

他的原話是：

"即使這被糾正或逆轉，Anthropic事件表明，不存在地緣政治中立的外國大語言模型。美國的AI模型必然服從于美國的地緣政治。"

06余波：開源、本地化與信任的斷裂

更深層的裂痕，在于Anthropic多年經(jīng)營的"安全"人設，突然被現(xiàn)實政治反噬。

羅姆勒在長貼中稱，這是一次領導力的徹底失敗。阿莫代伊多年推動政府監(jiān)管，最終這些規(guī)則反手扼殺了自己的旗艦產(chǎn)品。

客戶被突然斷連，依賴這些模型做漏洞排查的安全團隊也瞬間停擺。

在他看來，這一刀不僅砍在Anthropic身上，也損害了美國自己的AI競爭力和國家安全工作，更把一批用戶推向開源模型，包括來自中國的選項。

他還有一個更長線的判斷：兩年之內，Mythos級別的AI就能在每個人的口袋里運行，沒有護欄，沒有企業(yè)過濾器，也沒有誰可以遠程關停。

本地化、開源化，這個趨勢誰也擋不住。

集中式模型已經(jīng)被證明太脆弱。而剛剛被推向開源陣營的這批用戶，也未必會再信任像Anthropic這樣的公司。

另一個評論把目光投向阿莫代伊本人。

它認為，那些在巨頭公司坐了十幾年的CEO，什么陣仗都見過，知道什么時候該退、什么時候該硬。阿莫代伊干了不到五年，每次公司出事，幾乎都會滑向同一種模式：

各方各執(zhí)一詞，變成一樁"有人說謊或有人被誤導，但不是我"的羅生門。

最近與白宮的沖突，又濃縮成了這樣一場口水仗。

問題是，這已經(jīng)是過去90天內，Anthropic與美國政府的第二次公開對峙。

那下一個更強模型出來時，會發(fā)生什么？

阿莫代伊看起來堅信自己在說真話。但美國政府和其他相關方，并不這么認為。

如果注定如此，那Anthropic到底該繼續(xù)費力尋求政府合作，還是干脆想辦法繞開政府？

這種走向令人不安。

幾天前，Anthropic還在和印度IT服務巨頭塔塔咨詢服務公司談擴大企業(yè)AI應用合作。

幾天后，印度技術圈已經(jīng)開始認真爭論：未來到底能不能押在一個隨時可能被人拔掉插頭的外國系統(tǒng)上。

還有一個長期問題也被翻了出來。

Anthropic似乎始終沒有在華盛頓建立足夠深的人脈網(wǎng)，以至于沒能從一開始阻止這場內爆。

有網(wǎng)友直言，當一家公司的IPO估值可能超過萬億美元時，不在華盛頓設立辦公室，不經(jīng)營與白宮的密切關系，是一個相當大的失誤。

結語

阿莫代伊還在華盛頓。

和他一起的，是Anthropic最核心的安全團隊。

白宮說，希望模型修好后恢復上線。但什么時候算修好，誰說了算，沒人知道。

Fable最終也許會恢復。但"行政命令直接關停模型"這個先例已經(jīng)留下了。 尖端模型從此不只是產(chǎn)品，也成了出口管制里的戰(zhàn)略物資。

對全球客戶來說，這記禁令把一個問題從假設變成了現(xiàn)實：你正在使用的AI，隨時可能被人拔掉插頭。

未來，開源模型和本地部署不會只是技術路線之爭。它們會變成各個國家、每家公司，對抗"被拔插頭"的基本保險。

按白宮方面的說法，那通電話打來時，阿莫代伊正在靜修。

幾天后，他帶著安全團隊坐在華盛頓，等下一通電話。