近日，一條視頻火爆全網(wǎng)。視頻中，一處高樓起火，在起火樓層的窗口，一只奶牛貓叼著一只小白貓從樓上跳下，下方有消防人員拉起布穩(wěn)穩(wěn)接住兩只貓。奶牛貓被網(wǎng)友稱為“火場里的黑貓警長”。該視頻被惠州消防、一些媒體轉(zhuǎn)發(fā)。小編發(fā)現(xiàn)，目前視頻已被下架。

記者注意到，惠州消防抖音號發(fā)布視頻的日期是4月15日8時(shí)許，所發(fā)布的視頻下方提示“作者聲明：內(nèi)容來源于網(wǎng)絡(luò)”。該視頻被一些媒體轉(zhuǎn)發(fā)并標(biāo)來源于惠州消防。

4月15日15時(shí)45分，記者聯(lián)系了惠州消防，咨詢其所發(fā)布的視頻是真實(shí)的還是AI視頻，工作人員稱會向領(lǐng)導(dǎo)反饋。16時(shí)36分，工作人員聯(lián)系記者稱，事件發(fā)生于國外。記者詢問如何判斷是發(fā)生在國外以及事件是真實(shí)的還是AI視頻，“網(wǎng)絡(luò)素材，我們其實(shí)也還沒有甄別出來?！庇浾哂衷儐柸绾闻袛嗍窃诎l(fā)生在國外，其稱視頻中消防員服飾是國外的，不是中國的。

記者注意到，惠州消防微信視頻號于15日16時(shí)許再次發(fā)布了該視頻，視頻中注明“視頻來源于網(wǎng)絡(luò) 地點(diǎn)在國外 非本地案例”。

記者注意到，4月1日有網(wǎng)友發(fā)布過這條視頻，視頻下方提示“疑似使用了AI生成技術(shù)，請謹(jǐn)慎甄別”。

15日，記者聯(lián)系了視頻發(fā)布者，其稱視頻是AI制作的?！皠e人拿AI做的，給我傳過來的，有一個(gè)朋友專門就是做這種視頻的。”記者提出想聯(lián)系視頻制作者，其稱會轉(zhuǎn)達(dá)，若其同意采訪會聯(lián)系記者。截至發(fā)稿，暫未有人聯(lián)系記者。

當(dāng)前，“用AI檢測AI”是行業(yè)主流選擇。對于普通用戶，如何能夠達(dá)到“人眼識別”？

某科技公司負(fù)責(zé)人告訴記者，現(xiàn)階段AI視頻生成技術(shù)仍受限于長時(shí)程、高復(fù)雜度片段的制作，視頻時(shí)長與復(fù)雜度越高，生成誤差率越高。通過細(xì)節(jié)觀察可識別AI視頻特征，例如背景區(qū)域、光線反射處常存在細(xì)節(jié)瑕疵，包括無邏輯光斑、非自然扭曲等異常現(xiàn)象。

涉及真人形象的AI視頻，核心可通過面部特征判斷。AI數(shù)字人面部多呈現(xiàn)高度對稱形態(tài)，而自然人面部因生活習(xí)慣等因素存在生理性微差異，屬于正?，F(xiàn)象。肌體動作一致性也是重要判斷依據(jù)。一些直播數(shù)字人，需要有觀眾互動和觀眾記憶，自說自話大部分就是數(shù)字人。此外，一個(gè)比較關(guān)鍵的判斷就是動作是否真實(shí)。若視頻中人物說話時(shí)重復(fù)固定動作，甚至肢體擺動幅度完全一致，大概率為AI生成內(nèi)容。

“遮擋測試是目前最有效的物理鑒定方法?！币晃粚I(yè)人士向記者透露，AI換臉最懼怕“遮擋”——因?yàn)樗惴ㄐ枰掷m(xù)鎖定面部特征點(diǎn)，一旦有物體遮擋臉部，算法就會出現(xiàn)紊亂。在直播間里，你可以要求對方在臉前揮揮手，或是拿杯子喝口水，當(dāng)手指、杯子經(jīng)過面部時(shí)，AI換臉往往會露出破綻，比如面部出現(xiàn)扭曲、閃爍，或是手指邊緣變得模糊、與面部發(fā)生融合。

需要注意的是，AI視頻逼真度正持續(xù)提升，普通用戶區(qū)分AI視頻與真實(shí)視頻的難度顯著增加。?北京航空航天大學(xué)法學(xué)院?副教授趙精武?說，遇到陌生視頻、消息等內(nèi)容時(shí)，切勿急于轉(zhuǎn)發(fā)，應(yīng)優(yōu)先通過主流新聞網(wǎng)站、官方發(fā)布渠道等權(quán)威平臺進(jìn)行交叉驗(yàn)證，有效降低被AI視頻誤導(dǎo)的風(fēng)險(xiǎn)。此外，主動處置不良內(nèi)容。發(fā)現(xiàn)謠言、虛假信息時(shí)，需及時(shí)進(jìn)行投訴舉報(bào)；情節(jié)嚴(yán)重的，可以向公安機(jī)關(guān)尋求幫助。若遭遇侵權(quán)行為，應(yīng)做好證據(jù)留存，及時(shí)維護(hù)自身合法權(quán)益。

以標(biāo)準(zhǔn)與倫理守護(hù)“技術(shù)向善”

針對AI造假問題，我國正出臺多項(xiàng)治理措施。9月1日起施行的《人工智能生成合成內(nèi)容標(biāo)識管理辦法》（以下簡稱《標(biāo)識管理辦法》）要求：AI服務(wù)提供者須在生成內(nèi)容時(shí)自動添加顯性與隱性標(biāo)識——顯性標(biāo)識以文字、音頻或圖形提示的方式幫助用戶直接識別，隱性標(biāo)識則嵌入元數(shù)據(jù)信息，記錄生成來源及服務(wù)提供者編碼，實(shí)現(xiàn)內(nèi)容可識別、可追溯、可核驗(yàn)的全流程管理。

趙精武認(rèn)為，對《標(biāo)識管理辦法》的落實(shí)可進(jìn)一步細(xì)化。一方面，需要繼續(xù)鞏固中央網(wǎng)信辦“清朗·整治AI技術(shù)濫用”專項(xiàng)行動成效，形成周期性、常態(tài)化的AI技術(shù)應(yīng)用巡視機(jī)制；另一方面，公安機(jī)關(guān)等執(zhí)法部門需要對這類AI技術(shù)背后的網(wǎng)絡(luò)黑灰產(chǎn)業(yè)鏈進(jìn)行嚴(yán)厲打擊。未來，針對這類AI技術(shù)濫用情況，應(yīng)建構(gòu)專門的協(xié)同執(zhí)法機(jī)制，徹底切斷違法產(chǎn)業(yè)鏈。同時(shí)，盡可能對標(biāo)識標(biāo)準(zhǔn)進(jìn)行統(tǒng)一，并對平臺加強(qiáng)監(jiān)管，防止因平臺逐利而少標(biāo)識、不標(biāo)識。

“生成式AI的治理絕非簡單的‘禁止’或‘放任’，而是要在保護(hù)創(chuàng)新活力與守住法律底線之間找到平衡點(diǎn)?！蓖躏L(fēng)和說，應(yīng)持續(xù)推進(jìn)技術(shù)標(biāo)準(zhǔn)與法律規(guī)范的協(xié)同創(chuàng)新，完善“標(biāo)準(zhǔn)—檢測—評價(jià)”的閉環(huán)治理機(jī)制，讓生成式AI真正服務(wù)于社會進(jìn)步與公眾福祉，實(shí)現(xiàn)“以人為本、技術(shù)向善”的治理目標(biāo)。

（來源：羊城晚報(bào)綜合瀟湘晨報(bào)、法治日報(bào)）