來源：央視新聞微信公眾號(hào)

烤肉店被顧客用AI偽造的病歷和發(fā)票惡意索賠，漢堡店因一張“漢堡里有毛發(fā)”的照片，被平臺(tái)強(qiáng)制退款……近年來，一些人利用AI工具偽造醫(yī)院診斷證明、收費(fèi)單據(jù)，甚至憑空生成餐品中的異物，索要賠償或退款。面對(duì)這些真假難辨的證據(jù)，商家往往難以自證，常常只能自認(rèn)倒霉。

近日，多家平臺(tái)推出治理工具，用技術(shù)對(duì)抗AI造假，能否遏制惡意索賠行為？

一頓烤肉讓店家賠了2000元

假診斷書露出馬腳

今年上半年，上海楊浦區(qū)一家烤肉店店長(zhǎng)向警方報(bào)案。一名姓楊的顧客稱在店內(nèi)用餐后身體不適，出示了就診記錄和醫(yī)療發(fā)票，要求賠償2000元醫(yī)療費(fèi)，并威脅如果不賠付就持續(xù)投訴、曝光，店家迫于壓力進(jìn)行了賠付。

隨后，該烤肉店店長(zhǎng)與另一家飯店的店長(zhǎng)閑聊時(shí)發(fā)現(xiàn)，兩人遭遇的套路高度相似——投訴人都姓楊，提交的材料除了日期不同，其他內(nèi)容幾乎一模一樣，兩人隨即報(bào)警。

△楊某某使用AI工具生成虛假維權(quán)圖片

上海市公安局楊浦分局民警調(diào)取餐廳公共視頻發(fā)現(xiàn)，楊某某確實(shí)曾在店內(nèi)消費(fèi)，但過程并無異常。民警又聯(lián)系了當(dāng)天同時(shí)在店就餐的其他顧客，均反饋沒有出現(xiàn)腹瀉、腹痛等癥狀。警方將楊某某提交的材料與醫(yī)院真實(shí)的電子票據(jù)進(jìn)行比對(duì)，發(fā)現(xiàn)明顯疑點(diǎn)，偽造的診斷證明上寫有“食用未熟透牛肉細(xì)菌感染”字樣，而醫(yī)生不會(huì)這樣描述；偽造的電子發(fā)票蓋有上海市稅務(wù)局的公章，醫(yī)院根本沒有這種印章。

△楊某某利用AI軟件偽造醫(yī)院診斷證明、收費(fèi)單據(jù)和投訴材料。

經(jīng)醫(yī)院證實(shí)，楊某某從未有過相關(guān)就醫(yī)記錄。審訊中楊某某供述，他偶然在網(wǎng)上看到有人發(fā)布利用“急性腸胃炎”診斷證明獲得賠償?shù)奶樱谑怯檬謾C(jī)AI工具生成了虛假材料，向12345和市場(chǎng)監(jiān)管部門多次投訴舉報(bào)，逼迫商家賠付。去年11月第一次索賠成功后，一個(gè)月內(nèi)他又以同樣方式對(duì)四家餐廳提出索賠，索要金額一次比一次高。

△第一次索賠成功后，楊某某以同樣的方式向四家餐廳提出索賠。

上海市楊浦區(qū)人民法院審理認(rèn)定，楊某某犯敲詐勒索罪，判處拘役四個(gè)月、緩刑四個(gè)月，并處罰金2000元。

漢堡里的“毛發(fā)”一塵不染

僅退款商品圖片竟有AI水印

類似的“AI索賠”并非個(gè)案，河北一家餐廳的老板韓先生也中過招。不久前有顧客發(fā)來一張照片，聲稱漢堡中有一根毛發(fā)，要求賠償。韓先生表示，照片看起來比較真實(shí)，但他對(duì)自家產(chǎn)品的質(zhì)量控制有信心?！懊l(fā)經(jīng)過高溫油炸會(huì)變形，而且肯定會(huì)沾上沙拉醬，不可能那么干凈?！比欢?，顧客通過平臺(tái)客服投訴后，平臺(tái)判定商家責(zé)任，強(qiáng)制退了款。

電商平臺(tái)手機(jī)殼賣家“橘子”的遭遇更離譜。一位買家發(fā)來圖片，稱產(chǎn)品上有污漬，要求退款。橘子仔細(xì)查看圖片后發(fā)現(xiàn)，圖片右下角清晰標(biāo)注了AI生成軟件的水印。盡管她提供了發(fā)貨全程錄像并最終申訴成功，但損失已經(jīng)產(chǎn)生，來回運(yùn)費(fèi)和包裝費(fèi)超過十元，更重要的是，“質(zhì)量問題退款”的記錄影響了店鋪評(píng)分和平臺(tái)流量。為了防范此類風(fēng)險(xiǎn)，她不得不增加錄像設(shè)備和人力檢查成本。

△手機(jī)殼賣家收到的AI造假索賠圖片

據(jù)某外賣平臺(tái)監(jiān)測(cè)，高頻惡意行為中，故意投放異物、差評(píng)威脅、AI敲詐、謊稱未收到餐、職業(yè)索賠是五種最常見的類型 。 對(duì)于中小商家而言，面對(duì)技術(shù)偽造的證據(jù)，往往缺乏鑒別能力和舉證精力，幾乎沒有“還手之力”。

平臺(tái)引入AI風(fēng)控模型

自動(dòng)識(shí)別假圖、標(biāo)記高風(fēng)險(xiǎn)賬號(hào)

針對(duì)AI技術(shù)被濫用的問題，多家互聯(lián)網(wǎng)平臺(tái)正在采取“技術(shù)識(shí)別+風(fēng)控規(guī)則+法律威懾”的組合防御策略。

某外賣平臺(tái)惡意騙賠治理相關(guān)負(fù)責(zé)人介紹，平臺(tái)已上線一套基于億級(jí)真實(shí)訂單和評(píng)價(jià)數(shù)據(jù)訓(xùn)練的AI風(fēng)控模型。該系統(tǒng)整合用戶行為、訂單特征、評(píng)價(jià)語義等多維度信息，能夠自動(dòng)識(shí)別AI偽造的食安憑證、反復(fù)使用的同一張索賠圖片、真假難辨的醫(yī)療票據(jù)。對(duì)于異常高頻的差評(píng)、退賠金額嚴(yán)重不符的訂單，系統(tǒng)可實(shí)現(xiàn)秒級(jí)標(biāo)記。高頻風(fēng)險(xiǎn)賬號(hào)將觸發(fā)審核，向商家預(yù)警。

另一家電商平臺(tái)則在商家端增加了快捷反饋功能。商家發(fā)現(xiàn)已售商品的圖片疑似經(jīng)AI處理或存在明顯失真時(shí)，可右鍵點(diǎn)擊圖片選擇“反饋虛假售后憑證”，一鍵提交對(duì)應(yīng)訂單和場(chǎng)景信息。一旦系統(tǒng)判定為AI假圖，將直接影響售后判決結(jié)果，同時(shí)向商家發(fā)出風(fēng)險(xiǎn)提示。

河北餐廳經(jīng)營(yíng)者韓先生表示，依托平臺(tái)的技術(shù)防控手段，商家的處境已有改善?！艾F(xiàn)在有些顧客會(huì)被平臺(tái)標(biāo)記，商家端會(huì)收到提示，這個(gè)用戶有過歷史不良行為，他想申請(qǐng)退款、保險(xiǎn)理賠或惡意差評(píng)，會(huì)被系統(tǒng)攔截?！?/p>

專家提醒：

單次金額小，跨平臺(tái)也能累計(jì)定罪

中國(guó)政法大學(xué)知識(shí)產(chǎn)權(quán)中心特約研究員趙占領(lǐng)指出，利用AI生成虛假圖片索賠，本質(zhì)就是虛構(gòu)事實(shí)，非法占有財(cái)物。即便單次金額小，只要多次實(shí)施、累計(jì)達(dá)到當(dāng)?shù)卦p騙罪數(shù)額較大標(biāo)準(zhǔn)——通常3000元以上，就構(gòu)成詐騙罪。如果行為人同時(shí)用“曝光”“投訴”來要挾，則涉嫌敲詐勒索罪。

中國(guó)人民大學(xué)法學(xué)院副教授黃尹旭則表示，AI工具大大降低了造假成本，違規(guī)成本極低，公安、市場(chǎng)監(jiān)管等部門和網(wǎng)絡(luò)平臺(tái)要建立更立體的治理體系，增加對(duì)AI造假索賠的懲罰機(jī)制。

（總臺(tái)記者 周益帆 俞翔 ）

本文來源：中央廣電總臺(tái)中國(guó)之聲