6月10日，英國《新科學(xué)家》雜志曝出：大約兩年前，在烏克蘭巴赫穆特與恰西夫亞爾前線，10架完全自主的AI無人機(jī)自行搜索、自行鎖定、自行開火，擊殺了數(shù)名俄羅斯士兵。

全程無人下令，無人確認(rèn)，無人扣動扳機(jī)。

人類歷史上第一次，有當(dāng)事人公開承認(rèn)——一條人命，死于一段算法。

有人會說，無人機(jī)殺人不早有了嗎？可這回真不一樣。

以前的攻擊無人機(jī)再先進(jìn)，也得有個人坐在屏幕后頭：畫面?zhèn)骰貋恚丝匆谎郏菙呈怯选⒋虿淮颉⑹裁磿r候打，最后那一下是人定的，機(jī)器只是手，腦子是人。

而這一次，連腦子都交出去了。

披露者是烏克蘭無人機(jī)廠商AeroCentre的CEO科漢諾夫斯基。

按他的說法，這批無人機(jī)提前編好程序，起飛后自己往前線飛三到五公里，然后切進(jìn)一個叫"終結(jié)者模式"的狀態(tài)，從這一刻起人就出局了——不遙控、不傳圖，操作的人連畫面都看不到，無人機(jī)自己找目標(biāo)、自己判斷、自己開火。

他的原話大意是：我們把它放出去，就知道那片區(qū)域里凡是被它發(fā)現(xiàn)的，都會死。

凡是被它發(fā)現(xiàn)的，都會死，這句話你不妨多讀兩遍。

最讓人后背發(fā)涼的是，因?yàn)閿嗔随溌罚瑳]影像、沒目擊，連烏軍自己事后都不知道打中了誰，只能又派一架有人偵察機(jī)飛進(jìn)去對賬，才數(shù)出死了幾名士兵、毀了一輛卡車，幾條人命沒了，整個過程沒有一個活人看見。

而且這還不是突發(fā)新聞，是憋了兩年，由這位老板在使館發(fā)布會上輕描淡寫"承認(rèn)"出來的；承認(rèn)的是企業(yè)老總，沉默的是政府，烏克蘭國防部至今一字未回。

注意，新聞里沒出現(xiàn)"誤傷""失控"這些詞——它"成功"了，可一件危險的事第一次順順當(dāng)當(dāng)辦成，往往意味著會有第二次、第一百次。

為啥所有人都往"自主"上死命跑？俄烏是史上最大規(guī)模的無人機(jī)戰(zhàn)爭，一個月消耗數(shù)以萬計。

原因很現(xiàn)實(shí)，就兩條：一是準(zhǔn)，AI輔助瞄準(zhǔn)命中率是純?nèi)斯さ娜剿谋叮欢强垢蓴_，戰(zhàn)場電子戰(zhàn)打得昏天黑地，可無人機(jī)一旦不需要跟后方連線、自己就能完成最后一擊，敵方那套干擾就成了一拳打在棉花上。

又準(zhǔn)又干擾不了，對一心想贏的軍隊(duì)，這誘惑大到?jīng)]法拒絕。

這一槍到底意味著什么，有幾層得說。

最深的一層是：它奪走的不只是命，還有"是我干的"這五個字。

牛津?qū)W者塔代奧說，用AI殺人，既剝奪了被殺者的尊嚴(yán)，也卸下了攻擊方的責(zé)任。

過去一個士兵開槍打死人，不管對錯總有個承擔(dān)者——是我開的槍，法律找得到他，良心壓在他身上。

可扳機(jī)交給算法，"是我"就蒸發(fā)了：判斷錯了是模型的事，炸到平民是數(shù)據(jù)的事，沒人按扳機(jī)，所以沒人負(fù)責(zé)。

真正可怕的從來不是機(jī)器太聰明，而是人太想把責(zé)任甩出去，把最該有人扛的事外包給一段誰也不用負(fù)責(zé)的代碼——機(jī)器不會愧疚，寫代碼的人正好躲在它身后。

再往下一層，反倒是給狂奔者潑冷水。

埃克塞特學(xué)者金指出，真正"完全自主"的無人機(jī)其實(shí)極少，因?yàn)楝F(xiàn)階段把人留在回路里，不光道德上對，打仗上也更管用：機(jī)器會認(rèn)錯坐標(biāo)、敵我不分，把扛鋤頭的老鄉(xiāng)當(dāng)成扛槍的士兵。

可問題在"現(xiàn)階段"——紅線現(xiàn)在守得住，是因?yàn)闄C(jī)器還不夠準(zhǔn)；哪天誤判率壓到足夠低、留人不再劃算，這條一半靠現(xiàn)實(shí)撐著的紅線還撐得住嗎？

到那時擋在機(jī)器和扳機(jī)之間的，就只剩良知這薄薄一層了，而良知是世上最不可靠的護(hù)欄。

所以最該記住的是：趁來得及，大家得坐下來一塊兒立規(guī)矩，可到今天，國際上壓根沒有一條帶硬約束力的規(guī)則禁止這種武器，技術(shù)都開火了，規(guī)則還在開會。

聯(lián)合國秘書長古特雷斯反復(fù)說，這世界沒有致命性自主武器的位置，把生殺權(quán)交給機(jī)器"道德上令人厭惡"，可一句呼吁擋不住一架已經(jīng)飛起來的無人機(jī)。

也正是在這節(jié)骨眼上，中方一直念叨的那套越看越清醒，說穿了不玄：這種能定人生死的武器，越是大國越得慎重負(fù)責(zé)，最要緊一條是人工智能必須始終攥在人手里，不能讓機(jī)器自個兒替人做生殺決定。

誰也別想靠它謀絕對軍事優(yōu)勢，規(guī)則得大家平起平坐談出來，而不是誰技術(shù)領(lǐng)先就悶頭往前沖。

這話不激進(jìn)，可貴就貴在它沒被"我能不能贏得更快"綁死，問的是更大的問題——等所有人手里都攥著這種武器，這世界還是不是我們想待的地方？

技術(shù)這趟車已經(jīng)發(fā)動，還越開越快，有人猛踩油門，有人賭"紅線晚點(diǎn)擦也沒事"。

這時候先想著裝剎車的人，不是膽小，是清醒——畢竟一輛沒剎車的車，跑得越快，離的不是終點(diǎn)，是懸崖。

兩年前那片前線上，10架機(jī)器自己飛出去、自己挑人、自己開火，沒命令、沒確認(rèn)、沒有一雙人的眼睛看著發(fā)生，事后人類做的唯一一件事，是又派一架無人機(jī)去清點(diǎn)自己都沒參與的殺戮。

這不是科幻片開頭，是已經(jīng)發(fā)生的事實(shí)。人類磨了幾千年才立下"殺人得有人負(fù)責(zé)"這條規(guī)矩，如今正一腳踢給算法，還給它起了個好聽的名字叫"效率"。

機(jī)器永遠(yuǎn)不會問自己"我該不該開這一槍"，能問、也必須問的，只有人。別等沒人再問了，才想起來——這規(guī)矩，早該立了。