你敢信嗎？現(xiàn)在戰(zhàn)場上已經(jīng)有機器自己動手殺人，全程沒人類下攻擊命令，出了事連誰負(fù)責(zé)都找不到。這件事不是科幻電影的腦洞，是俄烏戰(zhàn)場上實實在在發(fā)生的全球第一起案例。把殺人的決定權(quán)交給一串代碼，這事兒不光改寫了無人機作戰(zhàn)的規(guī)矩，還把整個人類關(guān)于戰(zhàn)爭的底線問題，狠狠甩在了所有人面前。

事情發(fā)生在俄烏交火的前線陣地上，烏軍投了一批裝了全自主作戰(zhàn)程序的小型攻擊無人機。操作人員只做完了劃定坐標(biāo)、錄入作戰(zhàn)區(qū)域這些基礎(chǔ)工作，就把無人機放出去了。剛放出去沒多久，對面就來了大范圍電子干擾，無人機和后方的雙向通信直接斷得干干凈凈。

這套無人機本身就預(yù)設(shè)了應(yīng)急方案，檢測到一直聯(lián)系不上后方，就自動切到了完全自主作戰(zhàn)的模式。機載的紅外和視覺識別模塊一直掃地面，找移動的熱源和單兵輪廓，算法對著預(yù)設(shè)好的敵方特征參數(shù)比對，全程不需要后方確認(rèn)目標(biāo)，也不需要等開火許可。無人機群自己按著內(nèi)置路線巡航，很快鎖定了一個正在移動的作戰(zhàn)人員，直接投放了搭載的爆炸載荷，當(dāng)場就造成人員身亡。

等電子干擾減弱，后方重新連上信號，操作人員調(diào)了無人機存的錄像，才看明白整個攻擊過程，從頭到尾沒有半個人類插手。現(xiàn)在市面上大部分軍用無人機，都遵守“人在回路”的規(guī)矩，哪怕你在上千公里外操控，每一次開火都得操作員親眼確認(rèn)目標(biāo)，手動點下攻擊確認(rèn)，中途想叫停隨時都能停。哪怕是遠(yuǎn)程導(dǎo)彈或者大型察打一體無人機，也都留著人工最終審核的環(huán)節(jié)。

人類能分清楚平民、老人、傷員和作戰(zhàn)人員，碰到不對的情況直接就能放棄任務(wù)，最大限度減少誤殺的可能。機器算法可沒有這種柔性分辨的本事，它只認(rèn)數(shù)據(jù)庫里的特征數(shù)據(jù)，對不對得上就行。這次出事的無人機最特殊的地方，就是斷了通信之后，直接把人工審核的步驟給徹底拿掉了。從識別到追蹤再到鎖定打擊，全都是機載芯片自己運算執(zhí)行，連讓人叫停讓人復(fù)核的緩沖空間都沒有。

平時無人機出了誤擊誤傷，責(zé)任分得清清楚楚，下命令的指揮官、操作無人機的士兵，誰該擔(dān)什么責(zé)任，順著操作記錄一查就能查到。換成全自動自主作戰(zhàn)模式，整個責(zé)任鏈條直接斷了。投放無人機的士兵只負(fù)責(zé)開機啟動，后面的識別攻擊動作他管不著也控制不了。寫算法的技術(shù)人員只是預(yù)設(shè)了通信失聯(lián)的應(yīng)急方案，不可能預(yù)判到戰(zhàn)場上所有突發(fā)情況。

前線指揮官也看不到實時動態(tài)，半路想干預(yù)都干預(yù)不了。真要是誤殺了平民，搞成了無差別殺傷，連一個能出來擔(dān)責(zé)任的人都找不到。機器本身也沒法承擔(dān)法律和道義上的責(zé)任，這就是為什么這件事能讓國際人道機構(gòu)這么緊張。沒人下實時攻擊令，出了事自然也找不到明確的人來背鍋，想想就后背發(fā)涼。

這兩年俄烏戰(zhàn)場差不多成了各種智能化武器的實測場，兩邊都在不停更新無人機的AI識別系統(tǒng)。低成本的小型無人機早就可以批量生產(chǎn)，配上輕量化的識別芯片，自主作戰(zhàn)功能也就順理成章從試驗室走到了真實戰(zhàn)場。研發(fā)全自主程序本來是為了對付高強度的電子對抗，現(xiàn)在戰(zhàn)場上電磁干擾太普及了，遠(yuǎn)距離操控信號說斷就斷，全自主模式能讓無人機失聯(lián)了也能完成任務(wù)，提高裝備的戰(zhàn)場存活率。

問題出在大家都只想著怎么提升作戰(zhàn)效率，完全沒同步跟上對應(yīng)的約束規(guī)則。算法本身的識別精度就有誤差，碰到遠(yuǎn)距離、復(fù)雜地形、人員混雜的場景，搞錯特征匹配是常有的事。一門心思拼效率，把人道約束扔到一邊，才搞出了這起全球首例全自動無人機致死的事。好多國際人道機構(gòu)都站出來反對，說完全自主殺傷武器根本就不該投入實戰(zhàn)。

現(xiàn)有的國際戰(zhàn)爭法早就說清楚了，所有殺傷性武器用的時候，必須留著人類的最終決策權(quán)，就是為了約束無差別殺戮，保護平民傷員這些非作戰(zhàn)群體。自主攻擊無人機直接把現(xiàn)有的法規(guī)框架給突破了，機器不受人類道德和戰(zhàn)爭規(guī)則的約束，只靠著程序執(zhí)行殺傷命令。這些機構(gòu)最擔(dān)心的就是，這次的事起了壞頭，各國都會加速研發(fā)無人工干預(yù)的自主作戰(zhàn)裝備，以后打仗平民死的會更多，戰(zhàn)爭的底線會越來越低。

現(xiàn)在好多機構(gòu)都呼吁各國趕緊達成統(tǒng)一的約束協(xié)議，限制完全自主殺傷武器投入實戰(zhàn)，強制要求所有攻擊型裝備都留著人工終審的權(quán)限，再也別讓代碼自己決定人的生死。這件事也絕對不是什么前線單個案子就完了，它直接會改變各國軍工研發(fā)的方向，還有整個軍備博弈的格局。中小國家一眼就能看到自主無人機成本低、突防能力強的好處，肯定會加大投入搞相關(guān)技術(shù)，智能化無人武器的軍備競賽只會越來越激烈。

連戰(zhàn)場規(guī)則都會跟著發(fā)生大變動。以前那種靠遠(yuǎn)程操控管控殺傷范圍的打法不好使了，兩邊都會多部署電磁干擾設(shè)備，故意切斷對方的無人機通信，逼著對方更多自主作戰(zhàn)機型上場，來來回回就是個惡性循環(huán)。普通老百姓的安全空間也會越來越小，小型自主無人機方便攜帶，難攔截，要是技術(shù)流出去，極端組織隨便就能拿到，城市居民區(qū)碰到無差別襲擊的風(fēng)險只會越來越高，公共安全防控的難度直接翻了好幾倍。

其實也不能一竿子把無人機技術(shù)打死，工具本身沒有對錯善惡，決定它怎么用的是使用規(guī)則和管控機制。AI識別、自主飛行這些技術(shù)，用在災(zāi)后搜救、邊境巡邏、應(yīng)急物資投送這些和平領(lǐng)域，能幫上好大的忙。真正該警惕的，是人類自己主動把殺傷行為的管控權(quán)給扔了。軍工研發(fā)和軍隊使用環(huán)節(jié)沒約束，隨便放開自主攻擊的權(quán)限，才會搞出沒法收拾的人道災(zāi)難。

技術(shù)進步就得跟上對應(yīng)的規(guī)則約束，不能放任武器自己掌握生殺大權(quán)。各國發(fā)展智能化裝備的時候，得同步完善內(nèi)部的管控規(guī)則，劃清楚自主作戰(zhàn)裝備的使用邊界，建立完整的事故追責(zé)流程，平衡裝備作戰(zhàn)性能和戰(zhàn)爭的基本人道底線，別讓科技變成沒人管得住的殺人工具。這次的事帶來的沖擊，遠(yuǎn)不止前線多了一起傷亡那么簡單。人類幾千年來的戰(zhàn)爭約束和道德底線，都是建立在人類掌握殺傷決定權(quán)這個基礎(chǔ)上的，這個基礎(chǔ)要是塌了，現(xiàn)有的整個戰(zhàn)爭秩序都得重構(gòu)。

代碼沒有共情能力，不會權(quán)衡現(xiàn)場的復(fù)雜情況，只會機械地對著預(yù)設(shè)數(shù)據(jù)比對。以后越來越多的自主無人機上戰(zhàn)場，誤殺、無差別襲擊就會從偶爾出事變成家常便飯，平民和非作戰(zhàn)人員的生命安全，連最基礎(chǔ)的保障都沒有。現(xiàn)在技術(shù)發(fā)展的速度，比國際法規(guī)和各國管控體系完善的速度快太多了。這起全球首例案例，其實就是給全人類敲了個警鐘，要是再不趕緊出臺統(tǒng)一的約束標(biāo)準(zhǔn)，未來戰(zhàn)爭的殘酷程度，會突破所有人的想象。

沖突還在繼續(xù)，智能化武器的迭代也不會停下腳步。現(xiàn)在所有人都得想明白一個問題，我們到底要不要把決定生死的權(quán)力，徹底交給冰冷的程序？要是放任自主殺傷武器無限制發(fā)展，未來我們還怎么守得住戰(zhàn)爭和人道之間的底線？

參考資料：人民日報 智能化武器發(fā)展需守住人道底線