打擊伊朗，AI成了幫兇

原創 遠游 南風窗

作者 |遠游

編輯 |阿樹

戰爭新形態的序幕已經拉開。

據美國方面消息，美軍在2月28日斬首哈梅內伊和1月2日擄走委內瑞拉總統馬杜羅時，使用了人工智能公司Anthropic的大語言模式Claude進行情報收集，識別敵人以及模擬作戰場景。再綜合1月9日美國五角大樓發布“以人工智能優先的作戰力量”文件，可以說人工智能進入美軍作戰指揮系統的疑團，已經越來越讓人無法忽略。

軍事觀察家們認為，哈梅內伊在官邸跟家眷一起遇害的斬殺手法，非常類似以色列國防軍使用Lavendar軟件對付加沙武裝人員的“爸爸在哪兒”模式。冷酷而精準的AI工具，將改變戰爭的形態。

這場戰爭，指向一個不久的將來可能會出現的場景：一個活人，可能交由人工智能判斷是否該被消滅；屏幕中的幾行指令，可能決定萬里之外一個國家領導層的存廢；計算機房里的算法，已經決定了戰事要持續多長時間。

特朗普/新華社記者 胡友松 攝

在選舉期間，多次主張對“軍工復合體”開戰的特朗普，拿出了更加精準、殺人更加無情的“軍工復合體”機器，一個“什么人該殺”和“什么時候殺人”的水晶球——為統帥和指揮官出謀劃策的人工智能系統。

“如果人工智能驅動的響應速度超越人類決策速度，人類在國家防務中的作用可能淪為次要角色，甚至淪為一個形式。”這是美國前國務卿亨利·基辛格在晚年最后一本書《人工智能時代》中傳達的警告。

一邊是烽煙四起的中東，一邊是指揮室里屏幕上的地圖，乃至跳出來的一行行代碼。后世歷史學家如果還有機會追究任何戰爭責任的話，那么他們可能會被“人工智能決定”這樣的借口搪塞。

“上帝視角”

當地時間2月28日上午9時40分，美以空軍準時傾巢而出。當時，伊朗最高領袖哈梅內伊從深山里的地下掩體返回德黑蘭住處，跟國安幕僚開會，從而把自己暴露在外國火力的短暫窗口中。

一開戰就把哈梅內伊和一眾國安決策層炸死，也就成為了整個“史詩震怒行動”的序幕。

如此直接而快速地斬首敵國首腦，在過去戰爭歷史中幾乎前所未見。“假如二戰剛開始第一天希特勒就被炸死了，往后會有什么發展？”英國時政博主、前國際合作與發展大臣羅里·斯圖亞特這樣說。

“史詩震怒行動”開始不過4-5天，伊朗以及其支持的黎巴嫩真主黨等組織領導人，以小時為單位迅速在人間消失。殺死哈梅內伊的同一天，參加會議的伊朗最高國家安全委員會秘書阿里·沙姆哈尼和國防部長納西爾扎德等40名高官被殺。

伊朗最高領袖哈梅內伊在美國和以色列對伊朗的襲擊中遇害/圖源：新華社

特朗普一天后宣稱，其他能夠潛在接替哈梅內伊的二號和三號人物相繼被殺死。伊朗的其他軍政高層更在開戰兩天內遭團滅：從伊朗陸軍司令到革命衛隊武裝司令逐一遇害。黎巴嫩真主黨在宣布針對以色列參戰后，其領導人Reda Khazai就被以色列國防軍斬首。

斬殺如此神速，背后除了有長期鋪墊的情報網絡之外，推算其生活和工作出行模式的AI工具，也非常重要。根據美國媒體的報道，執行“史詩震怒行動”期間，美軍使用了由服務商Anthropic提供的大語言模型Claude輔助決策。

讓AI加入作戰輔助，為的是給美軍制造一個“上帝視角”：通過實時數據分析能力，可將海量分散的數據流整合到單一、統一的界面中。坐在電腦前的操作員，能從整個伊朗乃至中東的宏觀戰略全局，一下子放大到刺殺對象的個體細節，坐什么車，穿什么衣服，跟什么人會面。

也就在2月28日上午，美以軍方在伊朗164.5萬平方公里的國土上，快速鎖定哈梅內伊一個人的出沒地點。

Anthropic網站/圖源：視覺中國

在過去，要追蹤刺殺對象的行蹤，判斷他的生活軌跡和行為模式，需要情報人員花大量的時間進行收集和比對。通過AI系統，這個漫長的比對過程可以完全省略，從而加快鎖定刺殺對象的時間。

連同哈梅內伊遇刺的，還有他的妻兒孫子。這種清除模式，也跟過去以色列國防軍在加沙地帶針對刺殺目標的AI工具“Lavender”使用的策略有點相似：刺殺目標進入自家門口跟家人團聚的時刻，比在戰壕中作戰時，更加容易被鎖定殺死。這就是所謂的“爸爸在哪兒”運算模式。也就是這個模式，在刺殺作戰對象的同時殺死了其家人和鄰居，在加沙地帶導致了大量的無辜人員傷亡。

兵貴神速。這次戰爭，史無前例地實現了快速把敵軍乃至敵國的領導層消滅這個在過去難以想象的戰術目標。也許是從第一次實戰成果中嗅出某些味道，資本已經聞風而動。在開戰后的周一，也就是開戰后的第一個交易日，Palantir等多個有機會參與美國防務投資的人工智能公司股價應聲而起。

隨著人工智能從輔助完成繁瑣工作走向作戰指揮，使用的底線和權限，也在美國政商界惹起爭議。

“以人工智能優先”

“加速前沿模型的實驗進程”“消除人工智能部署的官僚障礙”“優先發展計算與數據領域的非對稱優勢”“將人工智能融入核心決策循環”……這是美國戰爭部網站在今年1月9日發布的人工智能戰略文件。這份文件的核心，就是要把美軍打造為“以人工智能優先的作戰軍隊”。

這份文件，相當于宣告了美國的軍工復合體在特朗普第二任期完全投入到人工智能的競賽中。在針對伊朗發動軍事打擊前一天，特朗普和美國戰爭部就跟人工智能承包商Anthropic展開了一場隔空罵戰。

開戰稍早幾個小時前，美國戰爭部跟Anthropic的外包談判宣布破裂。戰爭部部長海格塞斯部長在社交媒體上認定Anthropic為“供應鏈風險”，切斷與其合作。特朗普也同時宣布，讓所有聯邦機構在六個月內清退Anthropic的所有外包服務。

特朗普和戰爭部部長海格塞斯（右）/圖源：新華社

戰爭部對人工智能外包商的要求，包括他們給出的模型能夠用于“所有合法目的”。而Anthropic堅持要在合同中設置“不能將AI用于大規模監視公民”，“也不能在無人參與的情況下部署到自主武器中”等條款。而五角大樓的回應則是，沒有任何私營公司可以決定其工具如何被合法使用。

特朗普在社交媒體上把Anthropic形容為“某些失控的激進左翼人工智能公司，由一群根本不懂現實世界的人所掌控”。

換句話說，特朗普和海格塞斯對人工智能參與作戰的終極目標就是——能直接幫忙打仗，能決定扣動機槍殺人的時機。在Anthropic的創辦人達利歐·奧莫戴看來，這已經違反了公司創辦之初的原則。在Anthropic出局美國戰爭部訂單后，其名下的產品Claude竟然在社交媒體上火了一陣子。

Anthropic的創辦人達利歐·奧莫戴/圖源：視覺中國

在相當一部美國公眾看來，戰爭部的這一做法，相當于把當年美國在阿富汗和伊拉克使用Palantir系統的那一套監控模式，套用在自己的身上。

而且，讓人工智能在使用武力時擁有更多的自主權限，也很有可能觸發不可收拾的局面。“戰爭是政治的延續”——從古至今，人類之間的戰爭，一直是人作為戰事的最終決定者。但如果有一天人主動把這個位置讓給人工智能，是否最終變成人工智能主導戰事？

基辛格的警告

如果人類在熱戰中拍板決定的決策權，拱手讓給人工智能，可以設想一下，到了某個歷史轉折點，人工智能的自主意識發展成熟，自以為以“上帝視角”審視對手的三軍統帥，可能暗中已經成為了被人工智能反過來指揮的一個棋子。

在跟Anthropic的爭執中，海格塞斯和特朗普強調的是效果和速度；在針對伊朗的軍事行動中，獵殺對方領導層講求的是速度。而在美國已故國務卿基辛格看來，人工智能收集信息并且作出判斷的速度，肯定遠超人類。

在以色列國防軍“爸爸在哪兒”的策略中，人工智能通過算法認定參加家庭聚會的男人是獵殺對象時，坐在屏幕前的以色列軍人只有大概20秒時間去辨別和核準，然后就按下獵殺的按鈕。在這套流程里，盡管人是最終按下殺人按鈕的主體，但實際上一整套采集信息和算法判斷的流程，已經交給了人工智能。

美國五角大樓/新華社記者 劉杰 攝

而技術的擴散總是攔不住的。正如美國在二戰末年率先研發出原子彈，不久之后蘇聯就獲得了相同的技術那樣，人工智能進入多國作戰指揮系統的趨勢，現在看來已經難以扭轉了。也許，到時候國與國的戰事也就變成了幾個人工智能體之間的較量。而這將從根本上改變戰爭的性質。

荷蘭歷史學家魯特格·布萊格曼在《人類——一段有希望的歷史》中認為，智人之所以在繁衍上勝過尼安德特人，乃至其他靈長類動物，靠的不是體力，不是體積，甚至不是智力，而是人與人之間還存在“善”。

他在書中引用了這樣一個調查數據：在珍珠港事件中，開火還擊的美國軍人其實不到一半。這個調查的結論是，在實際戰爭中，愿意扣動板門殺戮同類的軍人，比例其實沒我們想象的高。

而人類之所以進化到一定階段后對殺戮感到惡心厭惡，是在數萬年的演化中，保存了相互關愛和協作的傾向。也正是這種傾向，讓智人在眾多靈長類動物中脫穎而出。

一旦殺人的任務真的有一天完全交給“會打仗的人工智能”，那些一串串沒有“善”的基因的代碼，在對速度和效率的追逐下，將會有多少碳基活人被人工智能在地球上抹去？

文中配圖部分來源于視覺中國，部分來源于網絡。首圖為伊朗首都德黑蘭拍攝的濃煙，來源于新華社