无主之地2配置高吗|看真人裸体BBBBB|秋草莓丝瓜黄瓜榴莲色多多|真人強奷112分钟|精品一卡2卡3卡四卡新区|日本成人深夜苍井空|八十年代动画片

網(wǎng)易首頁 > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

Anthropic新模型發(fā)布三天就被禁用 美AI監(jiān)管路線之爭(zhēng)升溫

0
分享至

財(cái)聯(lián)社6月15日訊(編輯 趙昊)Anthropic上周五(6月12日)在官網(wǎng)宣布,受美國(guó)政府緊急出口管制指令影響,公司被迫暫停向所有客戶開放其最新、能力最強(qiáng)的Fable 5和Mythos 5模型。

Anthropic在新聞稿中解釋道,美國(guó)政府的限制原本針對(duì)外國(guó)用戶,包括公司的外籍員工。但Anthropic為了“確保合規(guī)”,只能全面關(guān)停兩款模型,美國(guó)客戶也因此受到影響。


Claude目前的頁面顯示,F(xiàn)able 5上有“當(dāng)前不可用”的標(biāo)簽。

需要指出的是,F(xiàn)able 5和Mythos 5的正式發(fā)布日距離這一禁令僅過了三天。此舉令整個(gè)人工智能(AI)行業(yè)措手不及,也引發(fā)了外界對(duì)美國(guó)政府針對(duì)AI技術(shù)監(jiān)管方式的質(zhì)疑。

接近Anthropic的人士透露,公司被美國(guó)政府要求在90分鐘內(nèi)實(shí)現(xiàn)合規(guī)。而且美國(guó)政府下達(dá)命令前,公司并未收到有關(guān)具體擔(dān)憂的詳細(xì)說明。為控制事態(tài)發(fā)展,Anthropic緊急派遣了高級(jí)技術(shù)團(tuán)隊(duì)前往華盛頓展開溝通。

據(jù)了解,這一禁令來源于亞馬遜研究人員的一份報(bào)告。知情人士稱,研究人員在Fable模型中發(fā)現(xiàn)了一種潛在的“越獄”漏洞,即繞過模型安全護(hù)欄并提取軟件安全漏洞信息的方法,亞馬遜也首先將相關(guān)發(fā)現(xiàn)告知Anthropic。

知情人士透露,亞馬遜CEO安迪·賈西(Andy Jassy)周五向美國(guó)官員匯報(bào)了研究結(jié)果,導(dǎo)致了政府禁令的產(chǎn)生。據(jù)悉,賈西原本只是向官員表達(dá)了對(duì)AI前沿模型的整體擔(dān)憂,而非專門針對(duì)Anthropic。

本月早些時(shí)候,特朗普簽署行政命令,要求企業(yè)在公開發(fā)布最新模型前,須向政府開放最長(zhǎng)30天的網(wǎng)絡(luò)安全測(cè)試窗口。接近事件的人士表示,F(xiàn)able模型在發(fā)布前已經(jīng)獲得了同屬商務(wù)部體系內(nèi)相關(guān)機(jī)構(gòu)的測(cè)試批準(zhǔn)。

在此之前,白宮一直釋放出對(duì)前沿AI模型采取較少干預(yù)的監(jiān)管信號(hào)。需要指出的是,即便在特朗普簽署的行政命令中,并未賦予美國(guó)政府阻止模型發(fā)布的權(quán)力。



網(wǎng)絡(luò)安全專家指出,修復(fù)“越獄”這類問題往往需要數(shù)周時(shí)間,而且即便修復(fù),也無法保證不會(huì)出現(xiàn)新的漏洞。接近Anthropic的人士表示,公司正與政府密切合作,希望尋找雙方都能接受的解決方案。

分析認(rèn)為,此次沖突被視為美國(guó)政府監(jiān)管越來越強(qiáng)大的AI模型的一次早期測(cè)試。多位行業(yè)高管和研究人員認(rèn)為,利用出口管制工具來處理模型安全問題,可能會(huì)給前沿AI的部署帶來新的不確定性。

喬治敦大學(xué)安全與新興技術(shù)中心臨時(shí)執(zhí)行主任Helen Toner表示:“業(yè)界普遍認(rèn)同的一點(diǎn)是,你無法徹底修復(fù)這些模型的越獄問題,這并不是一門精確科學(xué)。政府理應(yīng)預(yù)期OpenAI和谷歌的模型也具備類似能力?!?/p>

值得注意的是,美國(guó)政府凍結(jié)措施并未適用于Anthropic競(jìng)爭(zhēng)對(duì)手OpenAI的領(lǐng)先模型,盡管這些模型已展現(xiàn)出相似能力——因此這一禁令也被懷疑是針對(duì)Anthropic“打擊報(bào)復(fù)”的延續(xù)。

今年3月,美國(guó)國(guó)防部正式把Anthropic定為“供應(yīng)鏈風(fēng)險(xiǎn)”對(duì)象,禁止國(guó)防部以及防務(wù)承包商在相關(guān)項(xiàng)目中使用該公司AI技術(shù)。因先前Anthropic反對(duì)將其技術(shù)用于全自主武器系統(tǒng)和在美國(guó)進(jìn)行大規(guī)?!皣?guó)內(nèi)監(jiān)控”。

然而,美國(guó)官員和企業(yè)高管同時(shí)透露,國(guó)防部在內(nèi)的政府機(jī)構(gòu)實(shí)際上仍在使用Anthropic最先進(jìn)的模型。剛剛獲得Anthropic最新模型訪問權(quán)限的歐盟委員會(huì)也表示,正在評(píng)估該命令對(duì)歐洲的影響。

網(wǎng)絡(luò)安全公司Luta Security首席執(zhí)行官Katie Moussouris獲得了亞馬遜提交給Anthropic的研究報(bào)告副本。她表示,亞馬遜發(fā)現(xiàn)的能力,包括識(shí)別潛在網(wǎng)絡(luò)漏洞,并不罕見,GPT 5.5等競(jìng)品同樣具備類似能力。

(財(cái)聯(lián)社 趙昊)

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

財(cái)聯(lián)社 incentive-icons
財(cái)聯(lián)社
以“準(zhǔn)確、快速、權(quán)威、專業(yè)”為新聞準(zhǔn)則,為投資者提供專業(yè)的投資資訊。
731855文章數(shù) 1021496關(guān)注度
往期回顧 全部

專題推薦

洞天福地 花海畢節(jié) 山水饋贈(zèng)里的“詩與遠(yuǎn)方

無障礙瀏覽 進(jìn)入關(guān)懷版