AI胡說八道，到底誰負責(zé)？

最近有兩起AI幻覺案件，鬧上了法庭。

這兩起案件，非常有意思，也頗具現(xiàn)實指導(dǎo)意義！

案子一：國內(nèi)AI幻覺第一案

1月份，杭州互聯(lián)網(wǎng)法院判決了一個案子。

事情是這樣的↓

2025年6月，梁某使用某AI應(yīng)用程序查詢高校報考信息，AI給出了不準(zhǔn)確高校信息。

梁某指出錯誤后，AI竟然回復(fù)↓

直到梁某向AI提供該高校的官方招生信息，AI才終于敗下陣來，承認自己生成了不準(zhǔn)確的信息。

梁某遂提起訴訟，認為AI生成不準(zhǔn)確信息對其構(gòu)成誤導(dǎo)，使其遭受侵害，要求這款A(yù)I的運營者賠償9999元。

梁某起訴的理由是：

AI生成的不準(zhǔn)確信息對其構(gòu)成誤導(dǎo)
增加了核實和維權(quán)成本
平臺應(yīng)承擔(dān)侵權(quán)責(zé)任

而被告的AI提供商抗辯邏輯也很直接：

內(nèi)容由模型自動生成，不構(gòu)成平臺的意思表示
平臺已盡到合理注意義務(wù)，無過錯
梁某并未產(chǎn)生實際損失，因而亦不構(gòu)成侵權(quán)

最終，法院一審駁回了原告梁某的訴訟請求。

原、被告均未上訴，判決現(xiàn)已生效。

從該起法院判決來看，AI公司還暫時不用對幻覺承擔(dān)絕對責(zé)任—前提是AI沒有回復(fù)違法有害信息，以及公司采取了一定技術(shù)措施。

案子二：AI侵犯名譽權(quán)案

2月6日，AI 侵犯名譽權(quán)首案開庭，在北京海淀區(qū)人民法院開庭。

原告為一名律師，被告為北京百度網(wǎng)訊科技有限公司。

事情是這樣的↓

原告黃律師在2025年5月檢索百度發(fā)現(xiàn)，百度AI自動生成了幾條關(guān)于他的嚴(yán)重虛假負面信息，包括威脅法官、介紹賄賂、偽造印章、非法吸收公眾存款等刑事犯罪。

有人將百度AI生成的該虛假信息傳播給他正在代理案件的委托人及委托人家屬，給他帶來巨大困擾和損失。

黃律師因此提起訴訟，要求百度公司立即停止名譽權(quán)侵害行為，并發(fā)布澄清和道歉聲明；賠償100萬元職業(yè)信譽損失和5萬元精神損害撫慰金。

據(jù)黃律師透露，該案近日在法院一審開庭，百度在庭審中辯稱人工智能既不是自然人，也不是法人。

百度提供中立技術(shù)服務(wù)，并未發(fā)布誹謗或侮辱信息，不存在任何主觀過錯。

百度還提出AI幻覺不可避免的抗辯理由↓

本案行為是人工智能生成，也包含了原告連續(xù)高頻詞搜索導(dǎo)致AI產(chǎn)生幻覺。

AI幻覺不是百度故意所為，AI幻覺是行業(yè)通行現(xiàn)象，屬于當(dāng)前技術(shù)階段不可避免現(xiàn)象，會通過技術(shù)迭代改善。

兩個案件核心爭議點：AI胡說八道，責(zé)任算誰的？

杭州案的判決，其實回答了一個關(guān)鍵問題：

AI在對話中“說出”的內(nèi)容，算不算平臺的真實意思？

或被視為平臺運營者的意思表示？

這實質(zhì)上涉及人工智能是否具備民事主體資格的問題。

法院的答案克制：

?現(xiàn)行法律下，AI不是民事主體

?也不是平臺的代理人

所以，AI平臺抗辯的理由之一，通常是↓

哪怕AI在對話里說“賠償10萬元”，

那也只是模型生成的語言結(jié)果，

并不自動構(gòu)成法律意義上的承諾或合同關(guān)系。

但是，AI不是擋箭牌，不能成為平臺免責(zé)的托詞。

平臺是否需要承擔(dān)責(zé)任，關(guān)鍵看幾件事——

是否生成了違法或有害信息
是否設(shè)置了明確的風(fēng)險提示
是否采取了合理的技術(shù)防控措施
是否存在明顯過錯或管理疏忽
是否造成了實際損害
是否構(gòu)成侵權(quán)行為

這兩起案子，劃出了一條早期邊界：AI不能獨立承擔(dān)責(zé)任，但平臺也不能完全置身事外！

真正嚴(yán)峻的問題在后面

未來更復(fù)雜的場景一定會出現(xiàn)：

?AI金融計算失誤
?AI醫(yī)療誤導(dǎo)
?AI投資建議失誤
?AI法律意見錯誤
?AI自動生成企業(yè)負面信息
?AI指導(dǎo)核心生產(chǎn)系統(tǒng)錯誤

到那時，“AI沒有主體資格”還夠用嗎？“行業(yè)通行現(xiàn)象”還能站得住嗎？