測試過安思羅畢克“神話”和開放人工智能“GPT-5.5”的研究人員表示,這些模型的黑客能力堪稱“改變游戲規則”。在受控環境中試用過“神話”和“GPT-5.5”的人說,這些工具的進展速度遠超預期,并將永久改變數字安全格局。
![]()
安思羅畢克和開放人工智能在過去一個月里,一直在大力宣傳其新一代人工智能模型的黑客能力。
接觸過這些工具的研究人員表示,這并非夸大其詞。他們還警告稱,隨著安思羅畢克的“克勞德·神話”和開放人工智能的“GPT-5.5”繼續發展,其影響可能比外界想象的還要大。
網絡安全公司帕洛阿爾托網絡的首席產品與技術官李·克拉里奇談到“神話”剛發布時的測試情況時說:“我當時就非常清楚,這將是一個改變游戲規則的東西。”
他說:“如果你今天問我,我甚至會說,它比我當時預想的還要更強大。”由于這些技術具備先進的網絡攻擊能力,而且迄今為止已超過其他公開可用的數字工具,甚至超過最頂尖的人類專家,安思羅畢克和開放人工智能都將其前沿模型的測試范圍限制在少數受信任機構之內。
安思羅畢克在上個月發布“神話”時表示,該模型“已經發現了數千個高嚴重性漏洞,其中包括每一種主流操作系統和網絡瀏覽器中的一些漏洞”。該公司同時警告稱,如果這項技術被廣泛放開使用,可能對全球經濟、公共安全和國家安全造成“嚴重”后果。
![]()
近幾周來,這引發了政府機構、國會委員會、銀行和監管機構爭相申請接入。這些機構希望在對手拿到相關技術并發起破壞性網絡攻擊之前,先加固關鍵網絡。
政客新聞網采訪了9名在受控環境中試用過“神話”和“GPT-5.5”的美國頂尖網絡安全研究人員和科技界領袖。所有人都得出了同一個令人震驚的結論:這些工具的進展速度遠超預期,并將永久改變數字安全格局。
正在測試“GPT-5.5”的信息技術安全公司夸利斯首席信息安全官喬納森·特魯爾說,這個模型“基本上能做到你最頂尖的應用安全工程師能做的事”。
這些試用過相關模型的人給出的早期反饋表明,圍繞新興人工智能技術的那層神秘感并不只是營銷話術。更準確地說,這說明一場打造最復雜、能夠勝過人類智能的人工智能工具的競賽已經開始,而無論個人、行業還是政府,到目前為止都還沒有找到辦法,阻止它們被用于制造大范圍破壞。
![]()
像“神話”和“GPT-5.5”這類模型發現的許多具體漏洞,目前尚未公開,不過相關細節已經開始外泄。《華爾街日報》上周報道稱,“神話”僅用幾天時間就繞過了蘋果“麥克操作系統”的安全防護。這個系統一向被認為極難攻破。
美國眾議院國土安全委員會成員、來自加利福尼亞州的民主黨眾議員盧·科雷亞本月早些時候在參加完安思羅畢克關于“神話”的閉門簡報會后告訴政客新聞網,這一人工智能工具能夠輕松侵入他的銀行賬戶。
一直在用“神話”測試自家軟件代碼的網絡安全公司博通,在上個月發布的一份報告中將其發現形容為“令人震動”。
報告寫道:“我們正在了解到一些情況,而這些情況看起來幾乎不可能僅靠人類研究人員自行發現。”
先進的人工智能工具,可能會成為保護關鍵行業核心網絡的網絡安全官員手中的“改變游戲規則”之物。這些行業包括供水設施、醫院和電信網絡。
原因在于,人工智能模型將使程序員能夠在新軟件發布前就檢查其中的漏洞,而不是等到漏洞被利用后再去修補。
克拉里奇說:“未來有一種可能的狀態是,我們真正做出來的將是更安全的產品、更安全的代碼,而不是總在為那些已經發布出去的東西做補救。”
他還補充說,防守方可以嘗試利用不同人工智能模型展現出的優勢,包括“神話”和“GPT-5.5”,構建一種“多模型架構”來保護自身網絡。
![]()
英國人工智能安全研究所測試了“神話”和“GPT-5.5”兩款模型。結果顯示,“神話”在10次嘗試中有6次能夠完全接管企業網絡,“GPT-5.5”則能在10次嘗試中做到3次。
英國人工智能事務大臣卡尼什卡·納拉揚在提供給政客新聞網的一份聲明中說:“領先人工智能系統的網絡能力發展速度,遠遠快于我們的預期。”
外界越來越擔心,美國和其他對手可能很快也會開發出自己的先進人工智能工具。尤其是一些競爭方,已經發起了一場工業化規模的行動,通過所謂“蒸餾攻擊”復制美國的人工智能技術。
特朗普政府顯然已經意識到這些風險,正匆忙與科技公司、政府機構和關鍵基礎設施團體合作,試圖在時間耗盡之前弄清楚如何快速且安全地部署這些工具。
![]()
美國總統唐納德·特朗普本周早些時候突然推遲簽署一項行政命令。該命令原本將建立一套自愿機制,讓科技公司把某些人工智能模型提交給聯邦政府測試。
前人工智能事務主管戴維·薩克斯在最后一刻向特朗普表達了擔憂,認為這項行政命令會抑制創新,導致整個流程陷入混亂。
特朗普5月22日對政客新聞網表示,他對這份行政命令草案有“很多”擔憂,并擔心它“正在阻礙這個行業”。
目前尚不清楚這項行政命令何時會簽署。有人擔心,如果不迅速采取行動,先進人工智能將繼續演進,使網絡防御者幾乎沒有足夠時間為一種新的網絡安全范式做準備。
![]()
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.