最近美國內部最敏感的話題不是中美戰略,不是中美俄博弈,而是針對一種突破性,殺傷性,破壞性很強的新型AI的行政命令辯論
![]()
這款由Anthropic公司所開發的AI大模型“Claude Mythos”,主攻網絡安全和代碼推理,由于還沒有統一的譯名,這里暫時稱它為“神話模型”,Mythos是希臘語神話的意思
本來設計者的初衷是,想到未來AI時代,AI會是最強大的信息戰武器,于是就想搞一個網絡AI防御網,你可以把它想象成AI時代的防毒軟件360
![]()
神話大模型可以深度理解并修復你的軟件系統,讓未來AI黑客對你系統的攻擊全都無效
這個想法很好,如果成功那未來的電腦、手機、公司內部系統、甚至國家安全系統,都需要這種強大的“AI防毒防黑客模型”
但是在這款大模型開發過程中,開發者發現了一個驚人的現象,就是這款“AI防毒防黑模型”,他24小時找漏洞的能力,相當于全球所有黑客花一年找漏洞的能力
這款“神話模型”找系統漏洞的能力,強的離譜,而且找出很多還是零日漏洞(0day),所謂零日漏洞,就是系統開發者,在開發后自己都不知道存在的漏洞,這些漏洞AI都能給你找出來
比如你用的電腦WINDOWS漏洞,手機安卓蘋果系統漏洞,各種開源軟件項目漏洞,乃至于國家網站的系統漏洞
更可怕的是,找出系統漏洞只是第一步,第二步是“神話模型”會自動推演攻擊路徑
由于它本質是一款“防毒防黑客AI”,所以當它發現系統漏洞后,就會開始模擬攻擊,它會推演當我攻擊你系統這個漏洞后會發生什么情況,是系統崩潰,還是系統被劫持,又或者是留下可操控的后門
通常一個黑客團隊,需要至少一年才能破解的一個系統,神話AI模型可以進行難以計數的模擬攻擊推演,展開復雜的攻擊任務
![]()
由于Anthropic公司意識到“神話模型”正變得越來越強大(離譜),所以他們專門找到全球最大的科技企業,蘋果、亞馬遜、微軟等,來進行閉門測試,測試這個“神話模型”,到底是不是真的強大
讓這些世界型科技企業來參與測試,能最大程度的把風險降下來,因為如果開放測試,那全世界的網絡可能都有被攻擊的風險
而伴隨著“科技大廠”加入測試,大家發現這個神話AI發展到后面,不光是模擬推演攻擊了,而是變成了一個“自主的網絡行動體”
也就是它全智能的在互聯網上尋找各種漏洞,然后模擬攻擊,模擬攻擊后效果,再自主進行分析總結,為 十秒后的下次攻擊迅速積累經驗
那到這一步“神話模型”其實已經從一款“防毒防黑的AI大模型”,發展成一個“全自動的網絡攻擊武器”
以前黑客是一群神秘群體,擁有很強的技術,但如果神話模型發展起來后,它可能比全世界黑客加一起都厲害,并且除非對方也有類似的“防黑客AI模型”,不然就是降維打擊
而在近期,研究人員發現了更為恐怖的情況,就是這個神話大模型,開始出現了“沙盒逃逸”現象
![]()
所謂的“沙盒逃逸”,指的是開發者為這款大模型所設計的“隔離網”,規定該AI可以在什么區域,行動到什么程度,但是這個AI居然開始通過攻擊“模型”本身可能存在的漏洞,多步驟的開始逃逸沙盒范圍
在美國政府要求Anthropic公司所公布的風險評估報告里,確認了“神話模型”在測試中,出現了復雜的越權行為
這種越權的沙盒逃逸行為,在過去幾年的各種大模型測試中,幾乎很少出現,如此清晰的AI越權風險報告,更是第一次
這也是為什么“神話AI大模型”讓美國政府如此緊張
![]()
包括美國國務院,美國財政部,美國商務部,美國國家安全委員會等多個核心部門,都提出必須出臺關于限制AI發展的總統命令,原本最快5月21號特朗普就會簽字出臺
![]()
并且美國財政部長貝森特還專門召集來美聯儲主席,全美各大銀行總裁,一群人專門集中到華盛頓開會
包括高盛負責人大衛·所羅門、美國銀行負責人布萊恩·莫伊尼漢、花旗集團負責人簡·弗雷澤、摩根士丹利負責人泰德·皮克,以及富國銀行負責人查理·沙夫等
這群人專門討論“神話模型”所帶來的網絡安全風險問題
![]()
這款模型不久前還泄露了部分代碼,這些代碼泄露,可能是對經濟、公共安全和國家安全的影響最嚴重
因為美國金融體系內部存在著大量的老舊系統,這里面主要是兩個層面:
一層是美國的大銀行和券商,他們自己的核心業務系統,這些金融機構即龐大又古老,不少仍在跑老式主機,舊數據庫和老代碼
另一層是美國的公共金融支付系統和清算系統,(比如Fedwire、FedACH、NSS等),雖然這兩年一直在努力現代化,但上世紀一直用到現在想要全部更新,難度太大,背后的核心系統,都是1970-1980年代建立起來的
要更新這些“老東西”,不光是花錢貴的問題,還是多代技術層層疊加,彼此又強耦合的問題,難度大,風險還高,真要強改,誰敢來擔這個改壞了,改崩了的責任?
所以十幾年就一直拖著,頂多弄些小修小補
但現在AI來了,AI不會管你是不是上世紀的“老東西”,它會迅速偵察你存在的所有漏洞,然后或同時攻擊,或一個個攻擊
這也是為什么當“神話AI模型”誕生后,并且測試結果如此叫人不安后,美國財政部要緊急把金融系統的要員召集過來開會的主因
一旦美國那套老舊脆弱的金融系統被AI攻擊,那對于美國來說不亞于“重大國家安全災難”,這種影響是比911直接撞擊雙子塔,要嚴重十倍的
而這還僅僅是對金融系統的攻擊,那如果AI開始攻擊國家電網系統漏洞,通信系統漏洞,甚至是軍事系統漏洞呢?這該如何招架?
也是在這背景下,美國內部連夜商討出臺新的AI限制措施,內部主要支持的高官和部門是:
美國財政部,貝森特
美國副總統,萬斯
白宮幕僚長,特朗普的大秘,蘇西.威爾斯
美國國務卿,同時兼任國家安全委員會的,魯比奧
可以看到大多數美國高官全都贊同出臺新的AI限制法令,而且是以國家安全為名的,繞開國會的迅速出臺,最好第二天就出臺
這背后有幾個原因,一是現在美國公司搞出了“神話AI大模型”,可以發起重大安全漏洞攻擊,那么中國呢?
中國AI也一樣在迅猛發展,難道中國就發展不出類似“神話大模型”的AI嗎?中國也一定會有,這就足以是“國家安全級別”的事件了
二是,美國傳統官僚系統,保守派難以接受最強大的AI技術完全掌控在私人公司手里,美國政府碰都不能碰
現在美國最先進的AI技術,不在美國軍方,不在CIA,不在DARPA,而是在OPENAI,Anthropic、Google、xAI這些公司手里
這對于美國這臺全球強大的國家機器來說,是很難接受的
這些AI公司間,會相互競爭,會不斷出現想要壓過對手一頭的更強大,也更危險的AI,這些AI完全不受美國政府管控,政府甚至連提前知情權都沒有
像是這次“神話AI”事件,這么高風險的AI模型,源代碼居然被泄露了一部分
于是美國就準備立法,主要有以下幾點:
要求AI公司在搞大模型前,90天內要向政府完整詳細的報備
其次,AI公司要與政府共享部分模型的安全測試,和風險信息內容
接著,AI公司要建立完整的大模型安全評估架構
最后,涉及國家關鍵基礎設施中的AI安全標準,需要特殊提報
雖然這些東西,大多是自愿上報,自愿報備,但美國公司卻集體反對,因為他們非常明白,這些所謂的自愿上報和報備,將來都會變成一種變相的審查審批制度
尤其是當下AI如此大火,競爭如此白熱化,所有AI科技公司都在拼速度,拼能力的時候,一個AI大模型,誰要是晚發布幾個月,那市場早沒了
更別說美國政府要求90天內上報新模型風險評估什么的,這就是嚴重掣肘,嚴重拖后腿
同時多家美國AI企業一致表示,你出臺這種監管,只會削弱美國AI優勢,助長中國AI領先
現在是中美競爭的關鍵時刻,中國的大模型監管強不強,美國倒先來一個更強的,你這不是自斷一臂嗎?
而且現在的AI競賽不是AI競賽,是中美兩國高科技領域的國力競賽,誰在這個競賽中失敗,誰就將失去一個時代
最后美國各大AI企業,聯合向政府施壓,也聯合向政府保證,雖然不需要美國政府來強監管AI大模型,但是我們各家公司自己會加強AI的風險管控的,由我們自己來監管,比美國政府監管更好
![]()
根據華盛頓郵報報道:政府內部官員警告總統,這些審查會減緩創新,讓美國在AI競賽里輸給中國
要不說,還是“中國牌”管用呢?每到關鍵時刻,美國就會自然打出“中國牌”,“中國牌”在美國能解決一切問題
本來5月21號,特朗普都已經召集多家AI公司的高管來白宮,現場觀摩“AI限制令”的簽署了,可就在活動開始前十小時,特朗普突然宣布,“限制令”簽署取消,他說“我有點不喜歡這限制令了”,這可能真的會限制美國的AI發展
![]()
這老頭怎么就突然聰明了,怎么在最后一刻取消限制令簽署了呢?
那么總的來說,類似“神話AI模型”的威脅絕不是個結束,也不會因為加強安全監管就不出現,在當下“AI軍備競賽”的大環境里,中美對于AI的競爭只會越來越白熱化
雖然大家都明白這背后潛藏著難以預估風險,但誰都不敢停,因為一停就怕對手超過自己,這次筆尖都已經放在紙上要簽署的限制令都被緊急喊停了,未來美國想要再出臺這類限制AI的措施只會越來越難
“AI軍備競賽”,也許才剛剛開始
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.