近幾日，幾張圖片出現在互聯網上。圖中是一架采用解放軍深綠色迷彩卡-52直升機，背景還能看到某處基地的建筑。許多人以這幾張圖片作為陸軍航空兵已經開始接收卡-52的證據并大肆傳播。不過部分網友經過仔細觀察，發現這幾張圖無一例外是由AI生成的虛假圖片。

所謂陸軍航空兵卡-52照片

在這幾張圖片中，最“具備說服力”的就是這張。乍一看，這張圖包含了照相機和屏幕上顯示的參數和設置，似乎是當事人直接用手機拍攝相機屏幕，給人一種非常真實的感覺。可實際上，這張圖包含大量漏洞。這架卡-52在起落架放下的狀態時，起落架艙內依然還能看見輪胎，它的光電瞄準系統也直接“失蹤”……更重要的是，右上角顯示的相機電量還有68%，但旁邊可視化的剩余電量已經掉到了最后一格，明顯矛盾。很顯然，這都是AI在生成圖片時，出現的失真情況。但不可否認的是，這張圖的大部分細節都很完善，整體光影效果也幾乎可以做到以假亂真，如果不仔細觀察，確實很難發現破綻。

事實上，這樣AI生成的虛假圖像在近些年的互聯網上層出不窮，軍情戰報領域更是重災區。在中東地區的大小沖突中，AI生成的圖像和視頻幾乎占領了互聯網。一些社交平臺的管理人員曾抱怨說，在“史詩憤怒”行動開始后的幾天里，平臺上超過90%的“戰況”都是由AI生成的。這其中有些是出現比例失調或“六指類人”等元素的低劣偽造，有些卻精心偽裝，外行人難辨真假，內行人需要反復觀察才能發現破綻。偽造者反復調試AI模型生成虛假的內容，抹去水印投放在互聯網上，再經由一些媒體或個人有意無意地轉發，這些虛假的圖片和視頻就會如病毒般擴散。

一些AI生成的圖片（娛樂向）：

馬杜羅抓捕美軍

加裝防護網的卡-52

解放軍的高達

伊朗“飛毯空軍”

由AI制作的虛假圖像和視頻種類繁多，但是有關軍事的內容卻總會引起更多的熱議，這其實是偽造者利用了軍事圖像稀缺性的特點。以中東局勢為例，過去沖突地區往往高度封閉且信息受控，外界往往需要等待數個小時甚至數天時間才能得到現場圖像或視頻。這些沖突也總能成為國際熱點，引發媒體和群眾的關注，帶來對視覺證據的強烈渴求。畢竟總是說“眼見為實”，有照片有視頻似乎就能成為鑒定真偽的“絕對證據”。而在AI軟件出現后，圖片和視頻的造假成本被顯著降低，真實度較高的圖片或短視頻，通常只需要輸入關鍵詞就能生成，且耗時只有幾分鐘甚至幾秒鐘。于是，一些人出于對流量的追求，開始用AI生成虛假的圖片和視頻，達到博人眼球的目的。而危害性更大的，是一些勢力開始將AI作為認知作戰的“廉價彈藥”，對公眾進行刻意的誤導。

需要引起警惕的是，AI生成內容帶來的問題不再局限于普通社交媒體用戶被誤導，其甚至已經挑戰了專業新聞編輯的核查能力。互聯網上的軍情信息也不再追求真實和客觀，被海量的視覺奇觀所掩蓋。在過去的幾個月里，無論美國、以色列還是伊朗都在從官方層面發布大量AI偽造的圖像和視頻，一場由AI生成的輿論戰正在互聯網上展開。這不僅會導致群眾受到誤導，也會讓一些原本真實的內容被打上AI的標簽，最終反而導致真相被虛假信息掩蓋。

各種林肯號被擊沉的圖像

AI生成的伊朗俘虜美軍飛行員

被德州州長阿博特轉發的AI生成圖片

網傳內塔尼亞胡被炸死后，為了證明自己沒有死，曾經上傳過一段視頻表明自己仍然活著。但網友發現視頻中存在許多破綻，認為這段視頻是AI生成的！

當然，AI軟件和社交平臺也在采取措施限制AI圖像和視頻的生成和傳播。目前最主流的手段，是在圖像和視頻內加入肉眼不可見的水印，社交平臺也會掃描這些文件，識別隱藏的水印或檢測AI特征，自動加入“AI生成”的提示標簽。一些社交平臺也計劃修改AI作品的推送機制和利潤標準，“勸退”試圖用AI生成虛假內容進行斂財的投機者。當然，專家表示即便采取諸多限制措施，目前這個問題依然沒有簡單的解決方案。澳大利亞昆士蘭理工大學數字媒體專家蒂莫西·格雷厄姆說：“問題的嚴重性確實令人擔憂……過去，制作視頻需要專業知識，而現在只需幾分鐘就能用AI工具完成。制作以假亂真的視頻幾乎已經沒有門檻。而更深層問題在于，以互動為導向的變現機制與準確信息之間存在根本性矛盾，目前沒有平臺能完全化解這個矛盾，或許永遠無法化解。”

教你識破AI

今天，隨著AI模型的升級換代，大部分主流模型的生成效果都已經非常接近現實，“一眼假”的低級偽造內容會越來越少。不過，我們依然可以通過了解一些當前AI無法滿足的特性，來識別圖像和視頻的真假。

01

尋找時間和空間上的“裂隙”

雖然如今的AI在細節刻畫上已經表現得非常完美，但在處理大空間或時間變換問題時依然存在明顯不足。比如AI圖像中，遠處的建筑和人群會被刻意模糊處理，或處于畫面邊緣的物體會缺失細節。而在AI視頻中，時間這個維度是AI目前最大的軟肋。許多AI視頻里的動態物體可能隨著時間改變外形，或者突然消失。

02

認真看細節

在添加了參考圖的情況下，AI可以輕松保證外觀的一致性，但在細節處理上往往容易疏忽。之前提到的卡-52圖片就是一個例子：多出來的輪胎，消失的光電瞄準系統……而當同一個物體改變角度時，它的細節也會被AI“不小心”改變。“解放軍卡-52”這一系列圖片中，飛機的編號位置就在不斷改變。AI也很難理解復雜的物理連接，比如AI生成的戰斗機視頻里，導彈直接“長”在機翼上。

03

物理規律上的漏洞

目前，AI很難模擬真實的流體力學。觀察水滴濺落、燃燒的火焰或濃煙的擴散……AI的能力目前很難模擬出這些元素的質感和擴散情況，畫面通常會存在詭異的波動或模糊。此外，AI通常會將物體的質量設定的過于輕盈，無論是人還是坦克看起來都輕飄飄的，有一種貼圖在地面上滑動的感覺。

04

尋找邏輯漏洞

為了創造博人眼球的話題和場面，一些AI圖像或者視頻往往存在一些不合邏輯的問題。比如“美軍航母被擊沉”的報道中，包括企業級、埃塞克斯級、小鷹級等一眾美軍退役航母“穢土轉生”，在波斯灣又挨了一輪導彈。或者一架朝鮮客機出現在韓國機場，插著美國國旗的俄軍坦克等等……

這張所謂“被打擊前后對比圖”中，兩張圖里一些建筑的位置和造型發生了改變

巨型F-35

今天，AI生成的圖像和視頻早已跨越了單純的視覺娛樂，我們急需建立一套個人的“認知防火墻”。要記住，最危險的不是AI讓圖像和視頻也能說謊，而是人們失去了對真實的敬畏與追尋。保持警惕，別讓自己成為他人算力下的廉價燃料。

3月2日，伊朗南部一所小學遭遇了美軍的空襲，造成了上百名兒童死亡。圖為當地為遇難者挖掘的墳墓，然而這張圖片卻被許多人認為是AI偽造的。

作者/肉鴿鴿

編輯/鄭逸澤

審核/老虎、武瑾媛

戰斗機主題增刊預售開啟！

5月7日 19-21點

直播五折起售！

78

78

風上風云｜云端故事