撰文 | Skin

2025年的奧斯卡金像獎的最佳真人短片獎頒給了比利時/荷蘭電影短片《我不是機器人》。這部短片的劇情很簡單：一個女人在上網時，很難通過一個困難的驗證碼測試，也就是我們常見的CAPTCHA測試。

也就是說，系統無法證明她“不是機器人”，而她的生活也開始受此影響，在多次嘗試無果后，她甚至自己開始懷疑：“我到底是不是機器人？”

有時候，人機測試確實會比較困難……｜截圖

這一劇情看似十分荒誕，但在2026年，比這更荒誕的事情卻在現實世界中發生了。2026年3月，以色列總理本杰明·內塔尼亞胡（Benjamin Netanyahu）在網絡上發布了一段視頻。而后網絡上謠言四起，說內塔尼亞胡已經“死了”，這段視頻是AI生成的。網上的消息愈演愈烈，人們議論紛紛，關于這段視頻的分析也不斷升級。

深信內塔尼亞胡已經死了的人們認為，在視頻中，他的右手看起來似乎“多了一根手指？”，人們認為這是AI深度偽造生成的假視頻。而后出現了更多延伸的推測和陰謀論。過了幾天，內塔尼亞胡不得不又發了第二條、第三條視頻，用來自證“自己還活著”，甚至還拉來了身邊的人一起拍視頻以平息網絡上的謠言。

內塔尼亞胡甚至還在一個視頻里伸出了自己的手，證明自己確實有5根手指。｜BBC Verify

但是，謠言傳播容易，破解謠言卻十分困難，在解釋這項事件時，各個專家和部門不得不通過各種細節來尋找事實。比如BBC的事實核查部門BBC Verify提到，內塔尼亞胡在說話時碰到麥克風的聲音中斷，目前還不是AI能實現的。又比如加州大學伯克利分校的數字取證專家則針對視頻做了語音分析、逐幀人臉檢測、光影檢查，仔細偵測AI造假的痕跡，均無法證明這是AI生成的。另外，另一位專注于AI內容的媒體負責人則表示，目前，AI已經不會再犯6根手指這樣的錯了，網上說的“6根手指”應該只是光影造成的是錯覺。

辟謠所花費的時間的精力要比傳播謠言高的多得多。｜BBC Verify

其實不只是復雜的政治領域，在網上隨便一搜，關于AI的懷疑和焦慮也已經遍布社交媒體的討論場，甚至影響到了我們的日常生活。明星發布一條視頻，評論中便有了這樣的討論：“他臉上的痣位置變了，這一定是AI生成的視頻。”撰稿人托馬斯·杰曼則提到，當他有一天忽然發了一條防詐騙的推文到家庭群，就連他媽媽也開始懷疑他。導致他也開始“反思”自己做事有點不像“自己”，是不是太沖動了？

還有些人則因為AI的語言習慣，開始改變自己的語言習慣。原本的“接住”、“dive into”、 “delve”（深入研究）“meticulous”（細致入微）等詞匯，由于AI聊天機器人的大規模使用，成為了一種判斷AI生成文本的標簽。那我們還要用這些詞嗎？

人們開始對自己接收到的任何信息都持有懷疑態度，這是什么造成的？｜截圖

事實上，這種看似荒誕的討論背后是真實的受害經歷帶來的種種AI焦慮。深度偽造視頻確實已經開始遍布社交媒體，甚至我們真實的生活。根據英國一項防欺詐機構的報告，在2025年一年的時間里，英國消費者就被詐騙了94億英鎊。雖然調查中，80%的人都認為自己能“區分騙子”，但如今詐騙和深度偽造的手段已經遠遠超過大多數消費者的防范范圍。

另外，偽造的成本實在太低。比如視頻，一位醫生親眼看見“自己”在短視頻平臺上推薦保健品的視頻，視頻和音頻太過真實，就連他自己都差點信以為真。又比如AI已經偽造了文本、數據、甚至證據：比如法律專業的學生開始使用深度偽造視頻完成作業，醫療從業者偽造臨床數據。

在這樣的情況下，人們對于真實世界的焦慮也隨著互聯網的傳播而愈演愈烈。一項針對8個國家用戶的大規模調查發現，如果人們曾接觸過“AI假信息”，那么也會更加懷疑之后接觸到的信息的真偽。

調查顯示了8個國家的人們對四種深度偽造技術的感知準確度。研究中，先前遇到過深度偽造技術的人（藍色），比先前沒有看過假消息的人更容易懷疑自己看到的內容是假的。｜參考資料4

“證明”則是另一項嚴重的問題。Schiff等人的一項實驗則發現，如果一段真實的錄音被形容為“不確定真假”，那么，當人們心里認為它是真的或假的，都變得很難解釋。正如上文中關于內塔尼亞胡事件，雖然各領域專家不得不花費巨大的工作量來進行仔細的調查，卻仍然難以具有十足的說服力。

加拿大拉瓦爾大學的教育技術教授Nadia Naffi認為，想要改變現狀，一家公司或機構首先要修復威脅，直視系統的脆弱性，以及珍惜優秀的員工；而行業和社會則需要制定更完善的標準，建設知識共享平臺。

在這篇1983年的文章里， Geary Rummler 指出，“你讓一個優秀的員工對抗一個糟糕的系統，結果永遠是系統獲勝”。｜參考資料8

她也提到，對于我們個人而言，在短期之內，也許需要和家人創建一些特定的暗號或手勢，用來“對答案”。雖然聽起來有些荒謬，但誰也不知道我們會不會真的迎來需要證明“我不是機器人”的那一天。

Nadia Naffi的一篇文章中寫道：

在AI合成的媒體世界里，人工智能素養不僅僅是學會AI工具，而是要在AI主導的現實中生存下去。在這個“現實”中，耳聞和眼見也許不再是事實。

參考資料

[1]https://www.bbc.com/news/videos/cr5lgv34j87o

[2]https://www.bbc.com/news/articles/c0j59vydxj9o

[3]https://edition.cnn.com/2024/02/04/asia/deepfake-cfo-scam-hong-kong-intl-hnk

[4]https://www.tandfonline.com/doi/full/10.1080/08838151.2024.2410783#abstract

[5]https://www.cambridge.org/core/journals/american-political-science-review/article/liars-dividend-can-politicians-claim-misinformation-to-evade-accountability/687FEE54DBD7ED0C96D72B26606AA073

[6]https://www.unesco.org/en/articles/deepfakes-and-crisis-knowing

[8]https://eppicinc.wordpress.com/wp-content/uploads/2018/10/training-still-isnt-enough-training-magazine-1983.pdf

將“把科學帶回家”

不錯過每條有趣科學推文！

原創文章版權歸微信公眾號
“把科學帶回家”所有

轉載請聯系：bd@wanwuweb.com

凡本公眾號轉載、引用的文章 、圖片、音頻、視頻文件等資料的版權歸版權所有人所有，因此產生相關后果，由版權所有人、原始發布者和內容提供者承擔，如有侵權請聯系刪除。