北京
“得知你的照片被用來編造如此復(fù)雜的謊言，這讓人心理受創(chuàng)?！被R克的男子告訴《海峽時(shí)報(bào)》。他直到幾個(gè)月前才從姐姐口中得知，一名女子多年來一直在社交媒體上，用AI生成的圖片編織他們戀愛、結(jié)婚、生子的虛構(gòu)人生。
事情的曝光源于一個(gè)意外。盧克姐姐的朋友偶然間看到了那名女子發(fā)布的照片，隨后提醒了她。這些照片顯示的內(nèi)容令人咋舌——盧克與這名女子外出約會(huì)的合影、他抱著一個(gè)新生兒，甚至還有女子懷孕的照片。盧克姐姐隨后在Threads上發(fā)布了一系列帖子，記錄下全家人發(fā)現(xiàn)真相時(shí)的困惑與震驚，這些內(nèi)容迅速傳播開來。
這名跟蹤者似乎把這些AI合成的圖像當(dāng)作了真實(shí)的護(hù)身符。據(jù)盧克姐姐描述，女子聲稱自己從2011年就開始和盧克在一起，還懷了他的孩子。她宣稱兩人已經(jīng)訂婚，計(jì)劃在今年12月結(jié)婚，甚至發(fā)出了婚禮請(qǐng)柬。在帖子引發(fā)熱議后，一家當(dāng)?shù)睾姹旱赀€聯(lián)系了盧克姐姐，說這名女子從店里訂購(gòu)過一個(gè)蛋糕——蛋糕是為那個(gè)根本不存在的虛構(gòu)嬰兒準(zhǔn)備的。
更令人不安的是，盧克和這名女子實(shí)際上并沒有真正的交集。他們15年前曾是校友，但“上學(xué)的時(shí)候，我跟她說過的話不超過兩句，”盧克告訴《海峽時(shí)報(bào)》。一段幾乎為零的同學(xué)關(guān)系，在AI工具的催化下，被單方面發(fā)酵成了一場(chǎng)持續(xù)數(shù)年的妄想。
真正讓事件越界的是，這名女子使用了盧克姐姐孩子的照片。她在Threads上寫道：“想到這個(gè)陌生人手機(jī)里存著我的孩子、侄子和侄女的照片，而且隨時(shí)隨心在網(wǎng)上分享，我們非常擔(dān)憂和害怕。”這種深切的恐慌，使得全家對(duì)在網(wǎng)絡(luò)上發(fā)布任何與孩子有關(guān)的內(nèi)容都變得異常警惕，“現(xiàn)在我們變得非常偏執(zhí)，不敢再發(fā)任何關(guān)于孩子的動(dòng)態(tài)了?！?/p>
這并非孤例。記者泰勒·洛倫茲曾披露，自己遭到一名跟蹤者利用OpenAI的Sora視頻生成應(yīng)用制作視頻，那些視頻被發(fā)布到數(shù)百個(gè)社交賬號(hào)上。在多起訴訟中，也有女性指控她們的跟蹤者受到與ChatGPT對(duì)話的煽動(dòng)和刺激。生成式AI正在為偏執(zhí)妄想提供新的燃料，讓心懷不軌者得以低成本、高效率地將自己的特定幻想具象化、放大。
盧克姐姐在社交媒體上寫道：“我們?nèi)匀粯O度震驚，一個(gè)人竟能在AI的幫助下做到這一切。這恰恰顯示了AI能如何從字面上毀掉一個(gè)人的生活?！彼€補(bǔ)充說：“她簡(jiǎn)直是在瘋狂地濫用AI的力量。我知道，當(dāng)她發(fā)現(xiàn)AI的那一刻，她是世界上最幸福的人，因?yàn)樗K于能干出這些瘋狂的事了。”一起持續(xù)數(shù)年、直到幾個(gè)月前才被戳破的數(shù)碼幻夢(mèng)，暴露出技術(shù)工具在缺乏約束時(shí)，可以如何將一個(gè)人的情感執(zhí)念，鍛造成刺向他人的利刃。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
