之前刷到個帖子，提到有部講述中國高鐵發展的紀錄片，用了AI生成的畫面。

這部紀錄片是系列節目中的一集，有爭議的畫面展示了一段架梁作業的過程。

整個畫面AI味十足，也不符合實際情況。

至少三歲小孩都知道，要先帶好安全帽，才能進入這種大型施工現場，而圖上卻有這么多人不帶安全帽，還站在施工設備正下方。

更專業的網友指出，視頻中呈現的這種建筑結構，也并非國內高鐵箱梁的常用結構。

如果真要這么搭建，安全事故跑不了。

但最直接的證據是，畫面下方直接標注了“豆包AI”的水印，還真沒準備藏。

雖然現在在官網上看這期節目的回放，已經找不到這段AI畫面了，取而代之的是一張舊照片。

但在其它視頻平臺上，還有當時留存下來的初始版本，可以證明博主所言非虛。

這樣的事情并非孤例。

2021年，導演摩根·內維爾拍攝了紀錄片《流浪者：一部關于安東尼·波登的電影》，追蹤了一位已故知名廚師的人生故事。

大部分人物傳記，都會使用主角生前留下的探訪、節目等等影像和聲音記錄作為線索，串聯起人的一生。這部也不例外。

其中一幕，出現了波登閱讀自己回復好友的一份電子郵件的聲音，聽起來很有沖擊力。

而問題在于，當事人讀郵件的音頻是怎么獲取的呢？制作人表示，是AI合成的。

帶來的連鎖反應是，觀眾們開始對整部影片內容產生懷疑，因為大家無從判斷是否還有更多聲音或畫面來源于AI，而非真實存在。

反正波登本人已經無法澄清了。

這種情況讓我很困惑。

用AI來做別的內容，比如電影，比如綜藝畫面，我都可以理解，畢竟用起來很方便。

但是這不是紀錄片嗎？

紀錄片的意義就是記錄真實的生活、拍攝具體的真人真事。它的核心只是真實。

這個過程可以有藝術加工，但是不應該有胡編亂造，更不應該是憑空生成啊。

結果現在，拍紀錄片都用上AI生成畫面、聲音，生成的內容甚至還可能完全違背邏輯，和事實不匹配，那真實又被置于何地了呢？

要知道，人的記憶是不可靠的。

所以我們靠各類媒介凝固、保存和傳承應該記得的東西，紀錄片也是其中之一。

而很多紀錄片的內容是會被反復引用的，因為觀眾默認紀錄片內容是經過嚴謹考證的。

現在，分不清真假的AI素材被融入到紀錄片中，在互聯網上、在其他電影中被作為“真實”的影像被傳播出去，很可能會混淆歷史和真相。

就像檔案制作聯盟在《好萊塢報道》上發表的公開信中說到的那樣：“人工智能生成的素材在互聯網上、在其他電影中被作為‘真實’的影像傳播出去，這將可能永遠混淆歷史記錄。”

更嚴重的，還會引發集體記憶的扭曲。

另一方面，AI雖然沒有立場，但是使用AI的人有立場。因此我們也無從判斷，AI生成的內容是否可能混雜個人或算法的偏見。

本來現在AI幻覺就很嚴重，人工智能總會根據你的需求編造一些你覺得合情合理的東西，那些都是假的，卻會被信以為真。

一旦這些虛實混雜的內容進入以真實為本的紀錄片市場，并且開始傳播時，我們又該如何分辨幻覺和真相，分辨孰真孰假、孰對孰錯呢？

如此種種，都會導致紀錄片的公信力被弱化，讓紀錄片提供的內容更加真假難辨。

長此以往，紀錄片的意義又在哪里呢？

事實上，遠不只是紀錄片，現在越來越多立足于真實的領域，都被AI產物混淆了。

每天上網刷手機，看到的很多離譜新聞就是是AI編造出來的。他們比人類有創意多了，很容易編出那種駭人聽聞的新聞，讓人大肆傳播。

前陣子，很多人用AI偽造流浪漢跑進家里的視頻和人開玩笑，就是很好的例子。

還有很多需要專業知識的領域，也混進了AI的身影，充斥著胡編亂造的痕跡。

AI還會批量復活那些已經去世的公眾人們，讓他們再次回歸公眾視野。

于是你可以看到伊麗莎白二世在摔跤場肉搏、邁克爾·杰克遜在短視頻里扭動、甚至是馬丁·路德·金在演講中突然來了一段罵人。

你還能看到李玟、喬任梁、高以翔對著鏡頭訴求對家人、粉絲的思念。

這也導致有人很容易就會假借這些過世名人的名義來做一些名不符實的宣傳。

像“茶界泰斗”張天福，之前就被一家茶企給復活了，用來給自己打廣告。

這就很離譜啊。人都不在了，還能站出來夸你的茶好，這不就是純純在騙人嗎？

消費者被騙了，逝者家屬也很苦。

他們要被迫觀看一個機器生成的糟粕，用自己親人的臉，說根本沒說過的、甚至違心的話。

完全是對生命、記憶、歷史和真實的踐踏。

還有更荒謬的。

就在最近，湖北孝感大悟法院審理了一起房屋租賃合同糾紛。起因是租客沒有支付后半年租金及水電費，被房東告上法庭。

結果一看證據，原告提供的用于證明租客欠費的水電表照片，全是AI做出來的，都來不及把“豆包AI生成”的水印給抹掉。

發展到此，AI已經不僅在偽造真相、混淆視聽了，更是直接攻擊社會公平與正義的防線。

當AI生成的臉虛假信息以高度逼真的形式滲透進紀錄片、新聞報道，乃至是法庭的時候，我們面臨的將是一個真假難辨的“羅生門”時代。

造假這種行為當然比AI出現得早太多了，但問題在于AI會大大降低造假的門檻，甚至大大解放造假者的勞動付出和成本。

某種程度上，AI放大的不是虛假和謊言，只是人性中固有的貪婪與虛榮。

如果說以前只有千分之一萬分之一的人有能力造假，那么現在就是哪怕小學沒讀完，哪怕不認識幾個字，都可以利用AI來造假。

再加之，如今是流量為王的時代。

沒素質的人會故意制造各種假東西來博關注，好利用別人的關注換流量，也換錢。

AI天生就會制造爆點，編出來的內容既囊括了時下的熱點，又創造了各種立場沖突，怎么看怎么聳人聽聞，很容易獲得流量和收益。

于是引發惡性循環。

舉個例子。一個有操守的人，平時寫新聞寫文章，靠的是自己查資料、自己啃筆頭。就算用AI當工具，也會主動審核，把假信息篩出來。

這樣的新聞真實，可能就不夠有爆點，那么點擊率不夠，也沒啥收入和正反饋。

久而久之，人就沒有寫的動力了。

但沒操守沒素質的人不在乎。他們不需要很多時間，也不在乎真相，只在乎夠不夠勁爆。

讓這樣的人吃到流量賺到錢，只會激勵他們用這種方式繼續操作下去， 最后賺得盆滿缽滿。

典型的劣幣驅逐良幣。

結果就是AI炮制的假消息會越來越泛濫，我們深信不疑的 “眼見為實” 會徹底失效。

久而久之，社會賴以運行的信任越來越少，人與人之間的鏈接也就越來越弱。

這是件很可怕的事情。

我們當然可以去借助一些完善的規則對AI生成的內容進行合理的規范。

比如，任何使用AI進行生成的內容，都應該有完整的、醒目的標識，不能夠以假亂真。畢竟不是所有觀眾都有辨別真假的能力。

如果涉及到重要的事實，一定要引入專業人士和材料進行審核，而不能光聽AI的。

又比如，和個體相關的畫面、聲音，都要尊重個體隱私，沒有人天生就應該成為AI的素材，哪怕對方是生活在鎂光燈下的公眾人物。

但是這些規范并不是萬能的。

因為只要有利益，就一定會有人會鋌而走險，去做有風險但能夠獲得利潤的事情。

或許有些悲觀，但未來我們可能就會生活在這樣一個真假難辨的世界，我們需要花很多精力去分辨一張照片、一件事、一個人的真假，去孤獨地打撈那本來就所剩無幾的真相。

感 謝 閱 讀 ?? 歡 迎 分 享