“如此慘痛的教訓過后,每一個國家都會開始反思,自己的技術主權究竟在哪里。”
![]()
文 /巴九靈
OpenAI與Anthropic是美國AI界的雙子星,兩家公司在邁向萬億美元估值的過程中,都上演了性質不同的宮斗大戲。
OpenAI的宮斗,圍繞公司治理架構、理念分歧,以及其與前聯合創始人馬斯克的長久糾葛。而Anthropic的宮斗,其特點是超級硬核。今年上半年,它與特朗普政府直接展開了兩次交鋒。
2月份,因技術使用邊界的分歧,美國國防部打破慣例,將Anthropic列入國家安全供應鏈風險名單,這是美國歷史上第一家遭到該類認定的本土科技企業。
而在近日,雙方的沖突又迎來一個標志性的節點。
美東時間6月9日,Anthropic發布了兩款基于同一套架構的模型:Fable 5與Mythos 5。前者是經過能力限制的閹割公開版本,面向全社會用戶開放,后者維持完整的功能形態,僅小范圍授權給合規合作機構使用。
6月12日,美國政府突然以國家安全為由下達緊急出口管制指令,要求限制外籍人員訪問這兩款模型。因為無法精準區分用戶身份,Anthropic最終選擇全面關停兩款模型的全球訪問權限。
![]()
圖源:Anthropic
這兩款承載著企業沖刺行業龍頭地位、推進IPO進程重任的核心產品,只亮相了4天,就這樣被強制勒令退場。
在全球范圍內,這是有公開報道以來,官方機構第一次深度干預知名AI產品的發布與運營。這份行政指令事發突然,且語焉不詳,美國AI行業陷入震動與憂慮:這是就事論事的合理懲罰,還是故意找茬?AI監管的標準該如何統一?行政干預的邊界在哪里?
Anthropic旗下模型的突然關停,致使全球眾多依賴該技術的政府與企業陷入被動,英法日等美國盟友也未能幸免。不少業內人士將此事視作一記警鐘,《經濟學人》引述英國前安全大臣觀點:“如此慘痛的教訓過后,每一個國家都會開始反思,自己的技術主權究竟在哪里。”
中國在AI領域已傾注了大量資源。此次事件,美國的出口管制措施,恐怕只會更加強化這個信念:核心技術必須掌握在自己手中。
![]()
![]()
通牒
觸發這一切的導火索,是亞馬遜的一份測試報告。
亞馬遜研究人員在測試Fable 5的過程中發現,通過一組特定的提示詞,可以讓模型提供它本不應該提供的軟件漏洞信息,即所謂“越獄”。最壞的結果是,黑客可以直接用它入侵服務器、網站等網絡系統。
6月11日,亞馬遜CEO安迪·賈西親自就此向白宮官員表達了擔憂。到目前為止,亞馬遜已經向Anthropic投資了130億美元,是Anthropic重要的投資方與合作伙伴。
![]()
安迪·賈西
不過,科技界的高管一直與政府保持溝通,同步更新AI技術能力與潛在影響,亞馬遜的“遞刀子行為”,其實是響應政府的安全征詢機制。但它迅速引起美國高層重視,事態開始快速升級。
6月12日,白宮召集財政部長、幕僚長等核心官員召開緊急會議,商議應對方案。
一位白宮官員告訴媒體《Politico》,會議結束后,政府第一時間嘗試聯系Anthropic的CEO達里奧·阿莫代伊,卻被告知他正在參加身心靜養類活動,暫時無法對接工作。這一消息隨后被Anthropic官方否認。據企業知情人士透露,中午接到溝通請求后,阿莫代伊在一小時十五分鐘內便接入通話;在阿莫代伊無法接洽的時段,公司也安排其他高管代為對接溝通。
那日,阿莫代伊先后與6名政府高層展開三輪通話。
阿莫代伊解釋稱,此次漏洞影響范圍有限,不屬于能夠全面突破安全防線的嚴重越獄問題。這類技術瑕疵在整個AI行業都較為普遍。Anthropic還在后續通告中表示,團隊從未發現可大范圍突破防護的漏洞,過度的安全限制甚至遭到用戶吐槽。
但官員并未接受這套說辭,認定風險真實存在,并要求Anthropic主動下架模型、配合修復漏洞。阿莫代伊并未承諾下架產品,只要求對方提供完整技術細節與更多研判時間。財政部長貝森特說,阿莫代伊做出了錯誤的選擇。
多輪溝通無果后,美國政府當日決定實行出口管制,最終迫使Anthropic全面關停兩款模型,所有用戶均無法繼續訪問。
![]()
Claude頁面顯示Fable 5“當前不可用”
圖源:網絡
白宮方面表示,跟對方溝通數小時未果,最后才動用出口管制作為手段。Anthropic對此提出異議,表示企業根本不存在自愿配合官方的余地。阿莫代伊說:“白宮只給90分鐘限期下架模型,未說明任何實質風險細節。官方從未主動協商、懇請合作,僅僅拋出一道限時指令。”
在政府出臺出口管制指令后,Anthropic稱企業會遵守要求。但它非常不服氣,認為該處置手段過重、有失公允。
Anthropic表示:“正如我們此前公開表態的那樣,我們認可政府有權叫停存在安全隱患的模型落地,但相關管控必須依托一套透明、公正、界定清晰、以技術事實為依據的法定流程。而本次行政舉措完全不符合上述準則。”
![]()
恩怨
白宮的行事邏輯,令不少網絡安全專家感到疑惑。
多位網絡安全專家在核驗亞馬遜測試報告后,均認同Anthropic的說辭。他們在接受《大西洋月刊》《華爾街日報》等媒體的采訪中表示,模型的相關操作本就是網絡防御的正常功能,并不屬于高危“越獄”漏洞。
有業內專家指出,OpenAI同級別模型具備完全一致的能力,卻未受到任何管控,明顯存在執法尺度不一的問題。這話的潛臺詞是,白宮在故意針對Anthropic。
多名網絡安全從業者、科技高管和風投人士給白宮寫了一封聯名信,認為官方的禁令是小錯重罰,對政府干預模型運營表達擔憂,要求撤銷管制。他們認為安全測試應當用來完善產品,而非一刀切封禁。聯名信首位簽署人、Facebook前安全負責人說,Anthropic頂多算是一次超速違章,但官方卻判其死刑。
也有專家對此幸災樂禍。
AI教父、圖靈獎得主楊立昆一直對阿莫代伊的言論嗤之以鼻。
阿莫代伊曾警告AI可能導致大量白領失業,楊立昆嘲諷說,大家應該去聽經濟學家的專業意見,并指責對方“不懂經濟學”“別信那個賣AI的人”。現在Anthropic的產品關停,楊立昆說這是阿莫代伊”自作自受”。
![]()
圖源:網絡
阿莫代伊在AI安全問題上的強硬立場,在硅谷早已不是秘密。
他創立Anthropic的初衷之一,就是認為前東家OpenAI對AI風險不夠重視,他甚至公開將AI的某些能力類比于核武器,長期渲染AI的高風險,并呼吁高強度監管。
就在新產品剛發布的次日,阿莫代伊還發文呼吁“建立力度更強、具備法律約束力的規范”。求錘得錘,官方很快就讓他品嘗到鐵拳的滋味。
![]()
圖源:網絡
根據《華盛頓郵報》的報道,官方決定敲打Anthropic,還有一個重要因素。
早在新模型發布的數周前,Anthropic未經報備私自擴充了Mythos模型的授權名單,在官方審批的111家機構之外,額外向近50家主體開放權限,并且遲遲未披露新增機構信息。后續官方核查還發現,名單中包含美方懷疑的一家與中國有關的韓國電信企業,盡管Anthropic緊急撤銷了該企業的權限,但這一嚴重管理疏漏動搖了白宮對其技術管控能力的信任。
阿莫代伊與特朗普政府的關系一直很緊張。
在特朗普和他的白宮盟友看來,Anthropic是一家失控的激進左翼AI公司,阿莫代伊不斷渲染的技術毀滅論制造恐慌,是一種阻礙美國創新自由的作秀行為。公司還招攬多名前總統拜登政府官員,在AI政策上,阿莫代伊也與主張放松監管的特朗普政府立場相悖。
今年年初,雙方矛盾爆發。美國國防部希望在不受限制的情況下將Anthropic的技術用于“任何合法目的”,但阿莫代伊堅持要求在合同中寫入明確的限制條款:禁止將AI用于大規模國內監控和完全自主武器系統。談判破裂,國防部史無前例地將Anthropic認定為“供應鏈安全風險”,將其逐出國防部系統。目前Anthropic已提起訴訟,案件仍在審理中。
不少行業分析人士認為,白宮對Anthropic一貫的負面觀感,在一定程度上助推了此次模型管制落地;但白宮官員予以否認,強調模型管控純粹出于安全隱患考量,國防部并未深度參與本次決策流程。但國防部長近日很開心,他在社交平臺上發帖說,自己早在三個月前就將Anthropic逐出五角大樓合作體系,“每一天發生的事,都印證我當初的決定無比正確。”
![]()
模糊
自上周五管控落地后,Anthropic團隊就一直與白宮展開磋商,試圖找到可行的解禁方案。據相關人士透露,官方準許模型開放的前提條件是,Anthropic必須徹底解決各類安全隱患。
還有人猜測,特朗普此番出手限制Anthropic,預示著白宮AI政策的轉變。
特朗普二度執掌白宮之后,高舉的科技政策大旗是松綁監管、放任自由。他多次公開嘲諷拜登政府出臺的AI管控政策,認為這類規則束縛行業。上臺伊始,他便全盤廢除拜登政府搭建的AI監管框架體系,同時調整芯片出口相關條款,降低了部分門檻。
就在6月初,特朗普政府剛剛頒布了一項全新的AI行政令,在自愿的前提下,要求AI公司在發布模型產品的前30天向政府開放訪問權限,以便對其安全漏洞進行審查。該政令脫胎于5月擱置的舊草案,舊版最長審查周期為90天,因特朗普擔心阻礙產業發展與對華競爭而暫緩,最終審查期限縮短至一個月。
![]()
美國白宮網站2日公布的行政令
白宮的兩股勢力正在拉扯,一方呼吁強化模型監管,另一方追求無約束的AI產業發展。在國會無法出臺統一AI立法、中美競爭加劇、民眾普遍擔憂AI安全風險的背景下,特朗普此次悄然簽署的政令,也是其政策微調的一種信號:他既要考慮AI發展,也要回應民眾對技術風險的焦慮情緒。
一些分析師認為,雖然行政令表面上強調合作和自愿原則,但它賦予了官方對AI模型的核查權力,加之政府參股AI企業的相關傳聞絡繹不絕,足以說明當局強化管控的意圖。
白宮官方則宣稱,所有干預動作僅圍繞安全風險展開,鼓勵技術創新的政策不會變。白宮的AI顧問還在社交平臺表態,針對Anthropic的限制屬于無奈之舉。
《華盛頓郵報》稱,限制Anthropic的事件標志著特朗普政府AI治理策略的強硬升級,與其此前一貫主張的輕監管路線形成鮮明反差。白宮一道命令就讓產品下架,或許會為監管AI提供一個先例。《大西洋月刊》語帶諷刺地評論:“毫不夸張地說,在當前這種政府隨時可能徹底推翻從業者全部規劃的環境下,研發產品、投資AI企業,或是單純借助AI提升生產效率,都充滿巨大風險。”
《經濟學人》則從地緣政治視角展開分析,美方此次處置再度令全球盟友倍感錯愕。多國耗費數月溝通協調,只為政務、金融、醫療等核心公共領域接入Mythos 模型;英法投入數十億美元搭建配套體系,推進AI本土化落地;日本內閣府還上線依托該模型研判情報數據的試點項目,如今各國布局均陷入停滯。
還有一個問題,Anthropic之后,OpenAI是否會成為下一個受害者?
事實上,監管重壓早已落到OpenAI頭上。就在這個6月,佛羅里達州率先對OpenAI提起刑事訴訟,CEO奧特曼被列為案件被告;6月12日,就在Anthropic收到禁令的當天,全美多個州的總檢察長同步下發聯合傳票,全面調取OpenAI企業數據處理、未成年人保護、底層模型研發等內部資料。
在Anthropic、OpenAI沖刺IPO的關鍵階段,一張監管的大網正越收越緊。
作者|馬淚淚|責任編輯|何夢飛
主編|何夢飛|圖源|VCG、網絡
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.