人工智能技術(shù)迅速發(fā)展，隨之而來(lái)是AI換臉技術(shù)濫用問(wèn)題的日益突出，此前有多位名人肖像頻遭盜用，成為主要受害群體。

談及如何應(yīng)對(duì)AI虛假換臉，全國(guó)政協(xié)委員、香港著名演員甄子丹4日下午對(duì)記者表示，“詐騙必須要報(bào)警，我們是法律的國(guó)家，各種違法的東西我們都可以去投訴報(bào)警。”

另?yè)?jù)瀟湘晨報(bào)，全國(guó)政協(xié)委員靳東4日也回應(yīng)了AI換臉亂象，他表示AI換臉技術(shù)不只是用在短劇，很多人也因?yàn)锳I換臉遭遇網(wǎng)絡(luò)詐騙。靳東稱AI正從多方面影響影視創(chuàng)作，自己也正在學(xué)習(xí)AI，不論未來(lái)AI對(duì)行業(yè)產(chǎn)生何種效果，都得主動(dòng)去學(xué)習(xí)，去掌握。

01

多位名人被AI假冒

Hot

利用AI假冒名人來(lái)帶貨等現(xiàn)象已屢見(jiàn)不鮮。

今年2月26日，演員王勁松曾發(fā)文稱自己的形象被AI盜用生成視頻：太可怕了，視頻。聲音，口型完全看不出來(lái)真假。

隨后，他在評(píng)論區(qū)曬出投訴截圖并表示相關(guān)視頻已刪除。

2025年6月，北京市海淀區(qū)市場(chǎng)監(jiān)管局查處了某公司利用AI技術(shù)冒用央視知名主持人名義和形象的虛假?gòu)V告案。

通報(bào)稱，有消費(fèi)者舉報(bào)，北京某公司通過(guò)視頻賬號(hào)宣傳所銷售的“深海多烯魚油”能夠治療多種疾病，涉嫌虛假宣傳。在宣傳的直播中還出現(xiàn)了央視主持人李梓萌的形象。

調(diào)查結(jié)果顯示，該公司銷售的深海多烯魚油產(chǎn)品實(shí)際執(zhí)行標(biāo)準(zhǔn)為糖果，屬于普通食品，不具備疾病治療功能。另一方面，經(jīng)鑒定，視頻中的主持人形象完全是利用AI技術(shù)偽造生成。該公司違反了《中華人民共和國(guó)廣告法》相關(guān)規(guī)定，已接受行政處罰。

演員溫崢嶸也曾自曝深受其害。溫崢嶸在去年4月就發(fā)現(xiàn)自己被AI盜播，同一時(shí)段現(xiàn)身多個(gè)直播間帶貨不同產(chǎn)品，本尊上前質(zhì)問(wèn)竟被秒拉黑，直言“很難證明我是我”。

此后她多次在直播中強(qiáng)調(diào)“自己不是AI”，賬號(hào)主頁(yè)也標(biāo)注“除了本賬號(hào)直播其他賬號(hào)均為假冒”，并呼吁粉絲甄別真?zhèn)巍⒓皶r(shí)投訴舉報(bào)假冒內(nèi)容。

去年4月，演員張馨予發(fā)布微博稱，發(fā)現(xiàn)有品牌用AI復(fù)制聲音的方式，未經(jīng)授權(quán)剪輯投放減肥廣告，偽造出她為某款減肥產(chǎn)品代言的假象。

同年8月，還有博主利用AI克隆奧運(yùn)冠軍全紅嬋的聲音推銷土雞蛋。孫穎莎、王楚欽同樣遭遇了聲音被“克隆”后直播帶貨的境況。

還有商家偽造劉濤、張柏芝、舒淇等多位明星的AI形象，站臺(tái)某品牌面膜，制造“眾星捧場(chǎng)”的虛假營(yíng)銷場(chǎng)面。

02

利用AI換臉等假冒公眾人物牟利

一批賬號(hào)被處置

Hot

就在春節(jié)假期前夕，網(wǎng)信部門曾集中通報(bào)一批網(wǎng)絡(luò)賬號(hào)被處置的消息。

通報(bào)中提到：微信賬號(hào)“浮萍9419”、微博賬號(hào)“乘風(fēng)已歸來(lái)”、快手賬號(hào)“東東情感”等，以AI換臉、聲音克隆等方式，假冒運(yùn)動(dòng)員、演員、主持人、企業(yè)家等公眾人物，發(fā)布不實(shí)言論，借此吸粉引流，或未經(jīng)授權(quán)，售賣AI生成的公眾人物“送祝福”“拜年”等視頻，從中不當(dāng)牟利。相關(guān)賬號(hào)已被依法依約處置。

3月2日，微信珊瑚安全發(fā)布公告：近期，微信平臺(tái)發(fā)現(xiàn)部分違規(guī)賬號(hào)利用AI技術(shù)仿冒名人，通過(guò)偽造其形象、聲音進(jìn)行違規(guī)引流或虛假宣傳。此類行為不僅嚴(yán)重侵害當(dāng)事人合法權(quán)益，也易誤導(dǎo)和欺騙廣大用戶。為進(jìn)一步維護(hù)網(wǎng)絡(luò)空間秩序，保護(hù)用戶與公眾人物合法權(quán)益，平臺(tái)結(jié)合用戶舉報(bào)、日常巡查及技術(shù)識(shí)別，已第一時(shí)間對(duì)相關(guān)違規(guī)內(nèi)容及賬號(hào)進(jìn)行從嚴(yán)處置。近期，微信平臺(tái)累計(jì)處置此類仿冒違規(guī)內(nèi)容1.3萬(wàn)余條，處置違規(guī)賬號(hào)1200余個(gè)。典型案例如下：

AI視頻可能觸犯哪些法條？

北京市康達(dá)律師事務(wù)所合伙人羅娟表示，濫用AI換臉、聲音克隆主要涉及《民法典》第一千零一十八條（肖像權(quán)保護(hù)）、第一千零二十四條（名譽(yù)權(quán)保護(hù)）。未經(jīng)同意商用他人肖像、聲音，直接侵犯肖像權(quán)；若生成內(nèi)容虛假誤導(dǎo)（如虛假代言、不當(dāng)言論），會(huì)損害他人名譽(yù)權(quán)。

03

全國(guó)人大代表談“AI換臉”

怎么才能管控？

Hot

AI換臉技術(shù)現(xiàn)在越來(lái)越厲害，帶來(lái)的風(fēng)險(xiǎn)和問(wèn)題也不少。怎么管好它？幾位人大代表給出了自己的建議。

01

從技術(shù)源頭抓起

一位搞大數(shù)據(jù)的企業(yè)家代表（黃勇）提出，要管好AI換臉，關(guān)鍵得從技術(shù)源頭下手。

他建議國(guó)家趕緊出臺(tái)相關(guān)法規(guī)，強(qiáng)制要求所有圖像、視頻都必須帶上時(shí)間、地點(diǎn)這類“時(shí)空標(biāo)識(shí)”。特別是人臉數(shù)據(jù)，不能隨便亂采亂用。同時(shí)，所有AI換臉工具都得內(nèi)置這種標(biāo)識(shí)碼，再用區(qū)塊鏈技術(shù)把信息存下來(lái)，這樣一旦出了問(wèn)題，就能查到源頭，誰(shuí)干的壞事也跑不掉。

02

法律規(guī)則要更細(xì)致

另一位律師代表（李世亮）覺(jué)得，雖然現(xiàn)有法律對(duì)保護(hù)個(gè)人信息、肖像權(quán)等有規(guī)定，但在實(shí)際打官司時(shí)，經(jīng)常遇到“同案不同判”、證據(jù)難認(rèn)定、責(zé)任分不清等問(wèn)題。

所以他呼吁最高人民法院盡快出個(gè)詳細(xì)的司法解釋，結(jié)合具體案例，把AI換臉侵權(quán)的標(biāo)準(zhǔn)、平臺(tái)該負(fù)什么責(zé)、精神損害怎么賠償?shù)榷贾v清楚，讓法律用起來(lái)更順手。

03

平臺(tái)要方便用戶維權(quán)

還有一位來(lái)自企業(yè)的代表（丁雪梅）發(fā)現(xiàn)，普通人遇到AI換臉侵權(quán)，維權(quán)特別難。

她建議各大網(wǎng)絡(luò)平臺(tái)開(kāi)通“一鍵投訴”功能，專門受理那些用AI換臉造謠、損害別人名譽(yù)和肖像的行為。這樣老百姓投訴有門，處理起來(lái)也快，權(quán)益才能得到保障。

04

大家一起來(lái)管

最后，代表們都強(qiáng)調(diào)，治理AI換臉不是哪一家的事，得靠全社會(huì)一起努力。法院要多公布典型案例，給行業(yè)立規(guī)矩；立法和司法要跟上技術(shù)發(fā)展，及時(shí)補(bǔ)上漏洞；技術(shù)企業(yè)要自覺(jué)，守住底線，管好數(shù)據(jù)和內(nèi)容；網(wǎng)信、公安等部門也要加強(qiáng)監(jiān)管，嚴(yán)厲打擊用AI換臉干的壞事，經(jīng)常清理那些非法的工具和平臺(tái)。

簡(jiǎn)單來(lái)說(shuō)，就是技術(shù)上要打標(biāo)記、法律上要定細(xì)則、平臺(tái)上要開(kāi)通道、全社會(huì)要一起管，這樣才能讓AI換臉技術(shù)在帶來(lái)樂(lè)趣的同時(shí)，不成為傷人的工具。

你有試過(guò)AI換臉嗎？

歡迎在評(píng)論區(qū)留言討論一下

編輯：Selex

圖文來(lái)源：南方日?qǐng)?bào)、河南日?qǐng)?bào)

如有侵權(quán)，請(qǐng)聯(lián)系刪除

廣東最生活出品，轉(zhuǎn)載請(qǐng)聯(lián)系

商務(wù)聯(lián)系：13826064787（微信同號(hào)）