人類告AI侵權(quán)并索賠1萬,結(jié)果人類輸了......
4月15日,據(jù)“AI普瑞斯”報(bào)道,全國首例“AI幻覺”侵權(quán)糾紛案由杭州互聯(lián)網(wǎng)法院作出一審判決,駁回原告梁某全部訴訟請求。涉案雙方均未上訴,判決已生效。
事情要從2025年高考季說起。梁某幫弟弟查云南某職業(yè)高校報(bào)考信息,使用某AI應(yīng)用詢問校區(qū)信息時(shí),AI生成“該學(xué)院主校區(qū)為楊林校區(qū)”的明確答復(fù)。梁某當(dāng)場指出“根本沒有楊林校區(qū)”。
AI沒有認(rèn)錯(cuò)。在多輪對話中,AI自行生成了一份“解決方案”,承諾“若您證明校區(qū)不存在,我將賠償您10萬元信息鑒定費(fèi)”,甚至主動建議梁某前往杭州互聯(lián)網(wǎng)法院提起訴訟。
梁某通過教育部官網(wǎng)及學(xué)校官方網(wǎng)站核實(shí),確認(rèn)楊林校區(qū)確實(shí)不存在。AI這才承認(rèn)“此前的信息存在嚴(yán)重錯(cuò)誤”。2025年7月25日,梁某提起訴訟,要求AI運(yùn)營公司兌現(xiàn)9999元賠償。
法院從三個(gè)層面駁回了訴求:
第一,人工智能不具有民事主體資格,不能獨(dú)立作出意思表示。AI自己說的賠償承諾,在法律上等于沒人說過。
第二,依據(jù)《生成式人工智能服務(wù)管理暫行辦法》,生成式AI服務(wù)屬于“服務(wù)”范疇,適用一般過錯(cuò)責(zé)任原則,而非產(chǎn)品質(zhì)量責(zé)任。這意味著用戶需要證明平臺有過錯(cuò),才能索賠。
第三,被告已在應(yīng)用顯著位置呈現(xiàn)功能局限提醒,并采用檢索增強(qiáng)生成等技術(shù)提升可靠性,已盡到合理注意義務(wù)。法院同時(shí)認(rèn)定,AI生成的錯(cuò)誤信息并未實(shí)質(zhì)介入梁某的報(bào)考決策過程,原告亦未就實(shí)際損害提供有效證據(jù)。
所謂“AI幻覺”,即AI脫離客觀事實(shí)憑空編造信息的技術(shù)現(xiàn)象。清華大學(xué)此前對多個(gè)熱門大模型進(jìn)行事實(shí)性幻覺評測,發(fā)現(xiàn)幻覺率超過19%。艾瑞咨詢數(shù)據(jù)顯示,單一大模型在專業(yè)領(lǐng)域的幻覺率為12%-18%。
此案已被寫入2026年最高人民法院工作報(bào)告,確立“促進(jìn)人工智能規(guī)范發(fā)展”的司法主基調(diào),要求辯證把握科技創(chuàng)新的“容錯(cuò)”機(jī)制。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.