Anthropic與美國戰爭部在安全防護上的分歧可能影響能源部實驗室

Anthropic與美國戰爭部之間持續的爭端引發了一系列問題，包括誰有責任為用于軍事目標的AI產品實施安全防護，以及這些防護措施應該包含哪些內容。這場爭端也正在影響能源部，該部門目前正在審查國家實驗室對Anthropic產品的使用。

Anthropic與戰爭部之間的分歧源于雙方在AI安全防護議題上的根本性分歧。簡而言之，戰爭部要求其使用的第三方AI模型必須預置零安全防護，并要求AI供應商同意戰爭部"任何合法使用"該AI。Anthropic總體上同意這些條款。該公司與美國軍方合作過，并表示從未遇到過任何倫理問題。然而，Claude的制造商堅持要求戰爭部在其合同中設定兩項例外：大規模國內監控和完全自主武器。

"我們支持將AI用于合法的外國情報和反間諜任務。但使用這些系統進行大規模國內監控與民主價值觀不相容。" Anthropic首席執行官Dario Amodei在2月26日的博客文章中寫道。關于完全自主武器，他表示："我們不會故意提供讓美國戰士和平民面臨風險的產品。" Claude已被禁止在美國所有政府機構內使用。.

Amodei補充說，Anthropic在這些事項上的立場是不可協商的。"選擇與其愿景最一致的承包商是部門的特權，"他寫道。"我們不能在良心的前提下同意他們的要求。"

第二天，戰爭部長Pete Hegseth宣布將Anthropic指定為供應鏈風險，這實際上結束了五角大樓與Anthropic之間價值高達2億美元的合同。"我們的立場從未動搖，也永遠不會動搖：戰爭部必須為了國家防御，對所有合法目的完全、不受限制地獲取Anthropic的模型。"戰爭部長Pete Hegseth在X上說。

總統特朗普也在Truth Social上宣布，他指示美國政府所有聯邦機構"立即停止使用Anthropic的所有技術"，并補充說，像戰爭部這樣的機構將有六個月的逐步淘汰期。

Anthropic于3月9日作出回應，在加州和華盛頓特區對戰爭部提起兩項訴訟。該公司稱，將其指定為供應鏈風險是非法的，并侵犯了其言論自由和正當程序權利。"與私方的當前和未來合同也存疑，危及近期數億美元的合同。"該公司在訴訟中寫道。

Anthropic的AI模型Claude已被美國軍方以及政府科學機構廣泛采用。Claude被軍方和國家安全機構用于情報分析、建模和仿真、作戰規劃和網絡行動等用途。Claude也被DOE國家實驗室廣泛采用，用于生物學、生命科學、能源等領域的科學研究，并參與了DOE Genesis Mission（創世紀計劃）項目。然而，DOE似乎已經開始從其國家實驗室中淘汰Anthropic產品的過程。

在回應媒體HPCwire的提問時，DOE發言人表示："按照特朗普總統的指示，能源部正在審查與Anthropic技術相關的所有現有合同和使用。該部門仍然堅定地致力于確保我們所使用的技術服務于公共利益，保護美國的能源和國家安全，并推進我們的使命。"

Anthropic的Claude是世界上頂級的基礎模型之一，在各種使用場景中被廣泛采用。測試表明，Claude在文本生成、編程、文檔分析和搜索等領域的表現優于競爭對手，如Google的Gemini和OpenAI的GPT模型。Claude Opus被認為是頂級推理模型之一，被軟件工程師高度使用。Anthropic還強調了Claude的安全性。生成式人工智能（GenAI）是一項新技術，最佳實踐仍在完善中。如何在何地應用對AI決策的內置檢查（通常稱為護欄或安全防護）是專家們仍在糾結的議題。

Anthropic對安全的強調可能與新興使用場景不相容，特別是與美國軍方的使用場景。Amodei堅持保留安全防護而非美國政府，這顯然使其與戰爭部處于對立狀態。Legion Intelligence（前身為Yurts）的AI平臺公司創始人兼首席執行官Ben Van Roo表示，雖然AI社區可能在糾結如何和何地應用安全防護，但美國軍方并非如此。

在接受HPCwire采訪時，Van Roo表示，Anthropic對軍方如何利用技術來幫助自動化或加速決策過程存在基本誤解，并補充說，距離看到終結者風格的殺手機器人被釋放到戰場上還有很長一段路要走。"在軍事過程中采取某些步驟有軍事條令，在推進諸如使用優先級算法進行目標定位等方面有非常明確的測試，"他說。"軍事條令比Anthropic存在的時間要長數百年。"

顯然，很少有人會反對AI在防御技術中發揮作用。例如，如果現在有一萬架攻擊無人機正飛向舊金山，"你想要人類決定每一個被反制措施攻擊的無人機嗎？"Van Roo問道。"我會想利用任何技術來幫助提高導彈攔截能力。"

AI被用于更多進攻性用途（例如2月28日開始的美國和以色列對伊朗軍事設施的攻擊）的程度尚不明確。無論如何，基本算術是相同的：任何能夠提高決策質量的東西都應該被使用，特別是當涉及AI時，安全防護已經存在于美國軍事條令中。

Van Roo表示，歸根結底，政府需要"可靠的供應商"，而不是那些堅持制定使用規則的供應商，他同時也感嘆硅谷和主流媒體圍繞這個故事存在的"炒作和歇斯底里"。

"我們不能睜著眼睛走進這些場景，而對我們正在創造的技術沒有清醒認識，"Van Roo說。"它是人類歷史上最具顛覆性、最強大的技術。當然，美國政府會想要使用它。我認為存在一種看法，認為他們在使用它時沒有意圖、沒有深思熟慮。"事實并非如此，他補充道。