北京
5月14日消息，當(dāng)?shù)貢r(shí)間周五晚，Anthropic宣布暫停Claude Fable 5和Mythos 5兩款模型的全部客戶訪問(wèn)。公司稱，美國(guó)政府以國(guó)家安全為由發(fā)布出口管制指令，要求暫停任何外國(guó)國(guó)民使用這兩款模型，無(wú)論其位于美國(guó)境內(nèi)還是境外，也包括Anthropic內(nèi)部的外國(guó)籍員工。為確保合規(guī)執(zhí)行，公司對(duì)所有用戶禁用了這兩款模型；其他Claude模型不受影響。
指令落下前，亞馬遜CEO安迪·賈西（Andy Jassy）曾與特朗普政府高級(jí)官員通話，提及Anthropic先進(jìn)模型的安全風(fēng)險(xiǎn)。The Information和Axios均將這次溝通列為政府采取行動(dòng)的背景之一。
Anthropic官方聲明確認(rèn)，政府指令針對(duì)的是外國(guó)國(guó)民訪問(wèn)權(quán)限。但由于公司難以在所有客戶中即時(shí)區(qū)分國(guó)籍，選擇了統(tǒng)一暫停。
The Information報(bào)道，政府公開(kāi)指向的核心風(fēng)險(xiǎn)，是Fable 5可能存在繞過(guò)安全護(hù)欄的"越獄"方法，并被用于發(fā)現(xiàn)軟件漏洞或執(zhí)行敏感網(wǎng)絡(luò)安全任務(wù)。CyberScoop也報(bào)道稱，美國(guó)政府將這兩款模型視為國(guó)家安全風(fēng)險(xiǎn)。更大的背景則是，Anthropic此前已與特朗普政府在模型能否用于大規(guī)模監(jiān)控、致命自主武器等問(wèn)題上存在長(zhǎng)期分歧。
The Information援引兩位知情人士稱，賈西本周與特朗普政府高級(jí)官員通話時(shí)，提出了Anthropic模型的安全風(fēng)險(xiǎn)；Axios也報(bào)道稱，亞馬遜提交的一份緊急報(bào)告觸發(fā)了白宮內(nèi)部快速反應(yīng)。
亞馬遜發(fā)言人對(duì)The Information表示，作為服務(wù)大量私營(yíng)和公共部門客戶的主要云廠商，政府就潛在安全風(fēng)險(xiǎn)征詢其意見(jiàn)并不罕見(jiàn)；當(dāng)這類溝通發(fā)生時(shí)，公司不會(huì)披露具體討論內(nèi)容。
自2023年以來(lái)，亞馬遜已向Anthropic投資130億美元，同時(shí)也是其云服務(wù)和算力的核心合作方。向政府提出風(fēng)險(xiǎn)提醒的，不是外部競(jìng)爭(zhēng)者，而是Anthropic最重要的商業(yè)伙伴之一。
Anthropic認(rèn)為，政府擔(dān)心的并不是一個(gè)能廣泛繞過(guò)護(hù)欄的"通用越獄"。公司稱，它看到的演示只涉及少量已知、相對(duì)簡(jiǎn)單的漏洞，而且其他公開(kāi)可用模型也能發(fā)現(xiàn)類似問(wèn)題。但指令已經(jīng)落地，公司只能先執(zhí)行暫停。
這次事件之后，企業(yè)客戶選擇AI供應(yīng)商時(shí)需要評(píng)估的東西多了一項(xiàng)：已經(jīng)部署的AI能力可能因出口管制、國(guó)家安全審查或合規(guī)執(zhí)行被臨時(shí)收回。模型能力、價(jià)格和穩(wěn)定性之外，政策連續(xù)性本身成了一個(gè)風(fēng)險(xiǎn)變量。（易句）
（本文由AI翻譯，網(wǎng)易編輯負(fù)責(zé)校對(duì)）
本文來(lái)源：網(wǎng)易智能
責(zé)任編輯：
王鳳枝_NT2541
