貴州
這兩天有一個非常魔幻且很火的事情。
整個事件的案情并不復雜，有個河北網友，起初買了三張機票，后來因為時間變動要退機票，就問豆包會不會產生費用，豆包信誓旦旦的說只會扣除5%手續費，還說超出費用由豆包兜底，他不放心就讓豆包寫“如果出了問題全額賠付”的承諾書，豆包也寫了，他就去退改了，結果花了600……
就讓豆包給他轉賬，然后豆包更離譜，不僅認錯，還主動出了一份“賠付承諾書”，說全額承擔600元損失。接著網友就把微信二維碼發給豆包了，豆包說轉了，他說沒收到，豆包說它沒銀行卡，不轉了，現在這個人要去起訴豆包。
豆包給該網友的承諾：
該網友起訴豆包：
整個事情就是，一個AI，先給你報了個假數據，然后在你追責的時候，偽造了一份它根本沒有能力履行的承諾，然后概不負責。
以下是該網友起訴豆包的完整對話經過：
然后很多人也都在討論，說起訴能不能贏，豆包到底有沒有責任。
核心論點就是，AI產生了幻覺，給了你一個錯誤的信息，你信了，你虧錢了，那這個責任到底誰來負責？
依據《民法典》第一百四十八條，以欺詐手段使對方在違背真實意思的情況下實施的民事法律行為，受欺詐方有權請求人民法院予以撤銷。
如果這是一個真人干的事情，很明顯，就是涉嫌欺詐了。
但恰恰這個行為主體是AI……
AI不是民事主體，這點大家都沒爭議，它不能簽合同，不能承擔債務，不能被起訴。
所以這個用戶告的不是豆包，是字節跳動，這點上法律邏輯是對的。
但要這位網友想要讓字節跳動賠錢，需要在法律上需要證明一件事：就是字節跳動作為服務提供者，是否盡到了合理的安全保障和提示義務？
依據《生成式人工智能服務管理暫行辦法》第四條，提供和使用生成式人工智能服務，應當堅持社會主義核心價值觀，不得生成虛假有害信息。
另外，第九條更加具體：提供者應當依法承擔網絡信息內容生產者責任。
這是行政監管層面的義務，沒有問題。
但到了民事賠償層面，法院會更關注一個東西，你有沒有在用戶界面做過顯著提示，告知用戶AI生成內容可能不準確，不構成專業建議?
你打開豆包，底部大概率有一行小字：內容由AI生成，僅供參考。
就是這行字，在司法實踐中，大概率會被認定為“已履行提示義務”。
法院的邏輯可能是，你明知這是AI，AI也告訴你了“僅供參考”，你還拿它的回答當航司官方政策來執行，屬于自身注意義務的缺失。
所以，個人猜測這位網友最終會敗訴。
這事雖然挺抽象的，但是確實也給大家敲響了警鐘：讓AI在日常幫你整理一些文件，寫點東西還是可以，但是要上升到幫你在生活工作中做一些重要決策的時候，一定要多加小心，至少自己要有審核和查驗的過程，反復確認后再做決策。因為AI不負責任的幾句失誤回答如果你真的輕信了，可能會給生活帶來巨大的損失和不便。
賬號簡介：
國內外熱門時事| 案件| 離奇事|大事小事天下事
及時、客觀、真實
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
