“確實(shí)讓我更好看了。”意大利總理梅洛尼近日在社交媒體上轉(zhuǎn)發(fā)她的反對(duì)者所發(fā)的一則帖子，其中有一張人工智能（AI）生成的她的性感照片。兩天之后，歐洲議會(huì)議員和歐盟成員國(guó)就修訂《人工智能法案》達(dá)成共識(shí)，同意禁止AI生成深度偽造的色情內(nèi)容。

歐盟立法明確禁止

以意大利兄弟黨黨首身份上臺(tái)、成為意大利首位女總理以來(lái)，梅洛尼一直推行“意大利優(yōu)先”、保守主義政策和嚴(yán)格的移民政策，被反對(duì)者頻頻使用AI生成的虛假內(nèi)容進(jìn)行攻擊。

與此前一些移花接木的“手動(dòng)P圖”不同，此次有關(guān)梅洛尼的AI合成照片，人物整體協(xié)調(diào)，光影效果自然。哪怕在攝影或繪畫(huà)領(lǐng)域有所造詣的人，也未必分辨得清照片中是否梅洛尼本人，除非與她特別親密者。

梅洛尼在轉(zhuǎn)發(fā)帖子的同時(shí)表示，“我可以為自己辯護(hù)，但許多其他人無(wú)法做到”。有評(píng)論認(rèn)為，梅洛尼這一表態(tài)不僅針對(duì)“個(gè)人攻擊”行為，更上升到對(duì)AI時(shí)代虛假信息泛濫的公共警示。此前她已在意大利推動(dòng)通過(guò)相關(guān)法律，旨在打擊針對(duì)女性的AI深度偽造圖像。

AI聊天機(jī)器人“格羅克”被禁止生成深度偽造的色情圖像。圖源：GJ

兩天之后，歐洲議會(huì)議員和歐盟成員國(guó)以修訂《人工智能法案》的方式，為AI合成內(nèi)容劃定“紅線”。據(jù)新華社報(bào)道，歐洲議會(huì)議員麥克納馬拉在法案修訂后表示，這是歐盟首次通過(guò)立法明確禁止“脫衣?lián)Q臉”類(lèi)應(yīng)用程序，“歐盟今天劃定了‘紅線’，AI絕不能用于羞辱、剝削或危害他人”。

也有評(píng)論認(rèn)為，此次修訂對(duì)已經(jīng)產(chǎn)生的AI亂象的監(jiān)管仍然偏軟，如推遲實(shí)施針對(duì)高風(fēng)險(xiǎn)AI系統(tǒng)的監(jiān)管規(guī)定，令人遺憾。據(jù)原計(jì)劃，針對(duì)獨(dú)立AI系統(tǒng)的監(jiān)管規(guī)定應(yīng)于2026年8月生效，針對(duì)嵌入其他產(chǎn)品的AI工具的監(jiān)管規(guī)定應(yīng)于2027年8月實(shí)施。然而目前來(lái)看，上述生效時(shí)間將分別推遲至2027年12月和2028年8月。

但無(wú)論如何，歐洲確實(shí)在AI監(jiān)管方面又邁出了一小步。歐盟輪值主席國(guó)塞浦路斯的歐洲事務(wù)副部長(zhǎng)勞納表示，《人工智能法案》經(jīng)過(guò)此輪修訂后，“規(guī)則實(shí)施更順暢統(tǒng)一，同時(shí)強(qiáng)化對(duì)兒童的保護(hù)”。

偽造色情照片成災(zāi)

“深度偽造”依賴(lài)于AI深度學(xué)習(xí)技術(shù)，可以把人臉、聲音、動(dòng)作等換到另一個(gè)圖像上，讓它看起來(lái)像是真實(shí)發(fā)生的事情，如讓某人“說(shuō)”他從未說(shuō)過(guò)的話，或者“做”他從未做過(guò)的事。

早在歐洲通過(guò)《人工智能法案》的2024年，AI深度偽造就已出現(xiàn)在全球不少地方。如在韓國(guó)娛樂(lè)行業(yè)，不少女性從業(yè)者發(fā)現(xiàn)自己的形象被不法分子惡搞，甚至制作成色情內(nèi)容，不僅在網(wǎng)絡(luò)傳播，也被用來(lái)勒索。為此，韓國(guó)娛樂(lè)產(chǎn)業(yè)公司與警察局簽署協(xié)議，合作共同打擊AI深度偽造。警方同意加快相關(guān)案件調(diào)查進(jìn)程，設(shè)立舉報(bào)熱線，方便公眾報(bào)告相關(guān)犯罪活動(dòng)。相關(guān)企業(yè)宣布加強(qiáng)對(duì)深度偽造內(nèi)容的監(jiān)控和處理，尤其在色情內(nèi)容方面，將專(zhuān)門(mén)設(shè)立響應(yīng)機(jī)制，一經(jīng)發(fā)現(xiàn)就采取行動(dòng)。

韓國(guó)政府成立跨部門(mén)機(jī)構(gòu)應(yīng)對(duì)數(shù)字性犯罪。圖源：GJ

事實(shí)上，AI深度偽造之害已經(jīng)不囿于娛樂(lè)產(chǎn)業(yè)，也波及社會(huì)層面。2024年8月韓國(guó)某公益組織所發(fā)一組報(bào)告顯示，社交平臺(tái)Telegram的聊天群組中，只需上傳熟人照片，付費(fèi)后5秒鐘內(nèi)就能生成不雅合成圖。令人震驚的是，這個(gè)聊天群組的參與人數(shù)高達(dá)22.7萬(wàn)。當(dāng)時(shí)美國(guó)一家名為“家安英雄”的網(wǎng)絡(luò)安全公司的調(diào)查報(bào)告顯示，在互聯(lián)網(wǎng)所有深度偽造視頻中，幾乎98%為色情視頻；前十個(gè)專(zhuān)門(mén)用于深度偽造色情內(nèi)容的網(wǎng)站上，視頻總訪問(wèn)量超過(guò)3億次，總觀看次數(shù)超過(guò)3000萬(wàn)次。

而此后的情況越發(fā)不容樂(lè)觀。自2025年12月25日至今年1月1日，美國(guó)企業(yè)家馬斯克旗下社交媒體平臺(tái)X的AI聊天機(jī)器人“格羅克”被指以深度偽造方式生成2萬(wàn)張圖像，55%的圖像中人物穿著暴露，其中81%是女性；2%的圖像中人物年齡不足18歲。X平臺(tái)隨后不得不宣布，不再允許“格羅克”生成基于真人的深度偽造的性暴露圖像。

亟待建構(gòu)AI倫理

當(dāng)今在AI領(lǐng)域發(fā)展較快的國(guó)家，美國(guó)是其中之一。在美國(guó)聯(lián)邦調(diào)查局（FBI）公布的“網(wǎng)絡(luò)犯罪報(bào)告2025”中，與深度偽造相關(guān)的犯罪遠(yuǎn)遠(yuǎn)不止虛假色情視頻之泛濫。FBI下屬機(jī)構(gòu)2025年接獲2.2萬(wàn)起AI犯罪案件，涉案總金額超過(guò)8.9億美元，其中深度偽造技術(shù)結(jié)合AI制作釣魚(yú)郵件和語(yǔ)音克隆，大幅提升了詐騙“逼真度”，顯著提高了成功率。

對(duì)沖基金經(jīng)理瓊斯為此憂心忡忡地稱(chēng)，政府部門(mén)應(yīng)該要求在AI生成的內(nèi)容上強(qiáng)制添加水印，以區(qū)分真實(shí)內(nèi)容與深度偽造內(nèi)容。在美國(guó)政府3月發(fā)布全國(guó)性AI政策框架之后，瓊斯參加了一場(chǎng)AI專(zhuān)家與模型開(kāi)發(fā)者會(huì)議。他發(fā)現(xiàn)，與會(huì)者中有約80%支持對(duì)AI技術(shù)進(jìn)行強(qiáng)制監(jiān)管。而在2025年初，哪怕看到歐洲啟動(dòng)《人工智能法案》，與會(huì)者中也只有20%認(rèn)為政府需要介入AI領(lǐng)域。短短一年，與會(huì)者的觀點(diǎn)之所以出現(xiàn)逆轉(zhuǎn)，很大程度上是因?yàn)榇蠹乙庾R(shí)到，AI在個(gè)人安全、隱私及國(guó)家安全層面存在潛在的長(zhǎng)期風(fēng)險(xiǎn)。

在中國(guó)，AI深度偽造問(wèn)題也已經(jīng)引起重視。上海社會(huì)科學(xué)院上海國(guó)際經(jīng)濟(jì)交流中心專(zhuān)家郭進(jìn)分析：“我國(guó)對(duì)濫用AI的現(xiàn)象一貫保持嚴(yán)格監(jiān)管的態(tài)度，也積極采取各種措施嚴(yán)厲打擊網(wǎng)絡(luò)詐騙犯罪。利用人工智能進(jìn)行網(wǎng)絡(luò)詐騙是新情況、新問(wèn)題，需要世界各國(guó)通力合作，共同打擊利用AI換臉、擬聲、智能黑客等網(wǎng)絡(luò)犯罪行為，嚴(yán)格禁止AI武器化。”

郭進(jìn)指出，AI深度偽造有違人類(lèi)社會(huì)“真實(shí)性”的基本倫理，用深度偽造內(nèi)容從事色情、詐騙，不僅有違公序良俗，而且違反法律，涉及犯罪。盡管各國(guó)社會(huì)文化和政治制度迥異，對(duì)AI倫理的理解千差萬(wàn)別，其中還摻雜許多意識(shí)形態(tài)的內(nèi)容和要求，但總體上都認(rèn)同“智能向善”的基本原則。“各國(guó)法律和制度都明令禁止AI干預(yù)政治，比如規(guī)定AI不得煽動(dòng)暴力、不得鼓動(dòng)顛覆政權(quán)等，這是各國(guó)為AI劃定的倫理底線和法律紅線。從維護(hù)公民人格權(quán)、隱私權(quán)、名譽(yù)權(quán)、肖像權(quán)等權(quán)利的角度出發(fā)，換臉、擬聲、算法歧視等都屬于應(yīng)被嚴(yán)格監(jiān)管的行為。”

郭進(jìn)認(rèn)為，歐盟對(duì)AI向來(lái)秉持“嚴(yán)格監(jiān)管”的立場(chǎng)，對(duì)AI治理和規(guī)范的諸多理念得到關(guān)注。歐盟2019年在《可信人工智能倫理準(zhǔn)則》中提出的“人類(lèi)自主權(quán)與監(jiān)督、技術(shù)穩(wěn)健、隱私保護(hù)、透明度、公平性”等準(zhǔn)則，以及2020年《人工智能白皮書(shū)》中提出的對(duì)AI分級(jí)監(jiān)管的思路，至今仍值得各國(guó)借鑒。相信在不久的將來(lái)，全球?qū)I的監(jiān)管將從倫理倡導(dǎo)走向硬性約束，并躍升為制度規(guī)范。

原標(biāo)題：《AI深度偽造：必須防，如何防？》

欄目編輯：王若弦

來(lái)源：作者：姜浩峰