“被嚇到！”AI生圖已經這么逼真了？網友：以后還能信嗎？

近日

社交平臺被一組圖片刷屏了：

千禧年間的小學生在小賣鋪買零食

一張印刷完好的數學試卷

馬斯克在直播間賣瑜伽褲......

你能看出哪張是AI生成的嗎？

答案是——

全部

4月22日，美國人工智能公司OpenAI對外正式推出ChatGPT Images 2.0模型，這是其ChatGPT平臺內圖像生成功能的最新一次升級。

由于其生成的圖片真假難辨，相關話題迅速沖上熱搜，引發網友熱議。

模型發布后，一些用GPT-Image-2生成的AI假圖已經開始在網絡上傳播。比如，“Tim Cook加入小米汽車”的“官宣圖”，粗看分辨不出AI的痕跡。隨后，小米發文辟謠。

網傳圖片

據了解，生成的圖片之所以真假難辨，是因為該大模型解決了以往AI細節粗糙、文字亂碼扭曲的問題。

有網友測試用該模型生成全篇《出師表》，內容工整規范，幾乎零錯漏。

不過，也有眼尖的網友在其它圖片中發現，生圖過程中會偶爾出現少量文字差錯。

另據澎湃新聞，記者實測后發現，GPT-Image-2還存在嚴重的安全漏洞。記者將個人身份證上傳到ChatGPT后，要求把身份證中的人臉換成庫克。Image-2不僅改變了人臉，還替換了人名和出生年月日信息，并同步替換了身份證號碼中的出生年月日信息。

圖源：澎湃新聞

該模型不僅無法識別個人敏感信息，而且也沒有阻攔用戶進行修改、偽造證件的提示詞。

此外，GPT-Image-2的所有直出圖均沒有標注“AI生成”的水印或提示，進一步加大了核實和甄別的難度。

面對該大模型生成的圖片，不少網友感嘆，第一反應是 “被嚇到了”。

還有網友實測，只需簡單輸入一句話，就能一鍵生成精美的商業設計圖，擔心“設計師是不是要失業了”。

許多網友擔憂，未來圖片真假將更難分辨。按照國家相關規定，AI生成內容應強制標注，而面對不斷升級的海外AI工具，大家也呼吁加快完善AI領域的法律法規，進一步加強監管。

更有網友直言，有圖有真相的時代，已經過去了。“以后都要問一句，這是真的嗎？”

對此，你怎么看？

來源：中國青年報（ID：zqbcyol 整理：樊星）、澎湃新聞、網友評論等