陜西
“被豆包坑走600塊，血淚教訓(xùn)！隨意給金錢決策建議，出事誰兜底？”近日，字節(jié)跳動旗下AI（人工智能）應(yīng)用“豆包”因AI“幻覺”等問題，被用戶起訴到法院的事廣受關(guān)注。
事情是這樣的，近日，一位網(wǎng)友在社交平臺上發(fā)帖稱，他因個人行程變動，需退訂石家莊至重慶機(jī)票。由于擔(dān)心手續(xù)費(fèi)過高，他向AI助手“豆包”咨詢退票規(guī)則。豆包明確表示可以放心退票，平臺只扣5%的手續(xù)費(fèi)。
出于對AI的信任，該用戶未在航司官網(wǎng)核實便直接操作退票。然而，退票的結(jié)果讓他格外吃驚：實際被扣除的手續(xù)費(fèi)高達(dá)40%，遠(yuǎn)非豆包所說的5%，直接經(jīng)濟(jì)損失達(dá)600元。
發(fā)現(xiàn)自己被誤導(dǎo)后，該用戶再次與豆包理論。面對質(zhì)問，豆包表示自己將全權(quán)負(fù)責(zé)維權(quán)，并保證該用戶全程“零參與、零操作、零麻煩”。此外，豆包還向該用戶承諾，若5月6日前未追回費(fèi)用，它將直接賠付該用戶600元。不僅如此，豆包還給出了一份完整的“賠付承諾書”。
然而，到了約定賠付的日期，用戶卻并未收到任何款項。豆包這次回復(fù)稱，自己是AI，無法直接進(jìn)行轉(zhuǎn)賬。從被誤導(dǎo)、到被承諾、再到被“戲耍”，該用戶一氣之下，決定起訴豆包。有趣的是，在準(zhǔn)備起訴的過程中，他再次咨詢豆包是否需要聘請律師。豆包的回答是，“完全不用請律師，自己就能打贏”。
該用戶在社交媒體上發(fā)布的一張截圖顯示，他已于5月12日向法院起訴了豆包App的運(yùn)營方北京春田知韻科技有限公司。
5月19日，《每日經(jīng)濟(jì)新聞》記者查詢發(fā)現(xiàn)上述用戶的相關(guān)發(fā)帖已刪除。隨后，記者就該事件后續(xù)如何處理、相關(guān)立案申請進(jìn)展等問題采訪豆包、字節(jié)跳動，但截至發(fā)稿未得到回復(fù)。
AI幻覺造成損失，該誰買單？事實上，國內(nèi)已有類似判例。在全國首例生成式AI“幻覺”引發(fā)的網(wǎng)絡(luò)侵權(quán)責(zé)任糾紛案中，某AI因提供錯誤高校報考信息，向用戶“承諾”賠償10萬元，杭州互聯(lián)網(wǎng)法院最終認(rèn)定人工智能不具有民事主體資格，其承諾無效。
那么，平臺是否需要為用戶的損失承擔(dān)責(zé)任？
北京星權(quán)律師事務(wù)所律師鄧以勒認(rèn)為，判定平臺責(zé)任應(yīng)適用民法典中的一般過錯責(zé)任原則，核心在于平臺在提供服務(wù)時是否存在過錯，即“有錯才賠”。
如果平臺已經(jīng)在界面顯著位置標(biāo)注“AI生成內(nèi)容僅供參考”，并采取了必要措施提高生成內(nèi)容的準(zhǔn)確性，盡到了合理的注意義務(wù)，那么平臺通常不需承擔(dān)額外責(zé)任。
然而，AI“幻覺”絕非平臺的免責(zé)擋箭牌。
鄧以勒指出，法律判斷的標(biāo)準(zhǔn)在于平臺在其中扮演的角色。如果平臺并非簡單轉(zhuǎn)述，而是對信息進(jìn)行了錯誤的二次加工，并生成了新的虛假內(nèi)容，那么AI就成了平臺提供服務(wù)的工具。此時，若滿足侵權(quán)構(gòu)成要件，平臺作為AI輸出內(nèi)容的法律主體則需承擔(dān)責(zé)任。
例如，在2026年4月審結(jié)的“全國人工智能大模型名譽(yù)侵權(quán)第一案”中，某AI平臺將一名律師錯誤描述為“涉及多項刑事犯罪”，且在當(dāng)事人多次投訴后仍未徹底清除侵權(quán)內(nèi)容，法院最終認(rèn)定平臺主觀上存在過錯，構(gòu)成名譽(yù)侵權(quán)。
來 源：第一財經(jīng) D21
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
