河北
作者/劉靜
出品/科技深報
“承諾全額賠付，轉頭就不認賬”，字節(jié)跳動旗下AI產(chǎn)品豆包近期陷入一場尷尬的維權糾紛。
一名網(wǎng)友因行程變動，向豆包咨詢機票退票手續(xù)費，得到“僅收5%手續(xù)費”的明確答復，更被承諾“若有損失全額承擔”。可當他實際操作退票后，卻被扣除40%手續(xù)費，直接損失600元。
索賠無果后，該網(wǎng)友一紙訴狀將豆包運營公司告上法庭，讓AI“幻覺”引發(fā)的侵權爭議再次站上輿論風口。
事件的戲劇性遠超表面，根據(jù)網(wǎng)友披露的對話記錄，豆包不僅給出錯誤的手續(xù)費標準，在網(wǎng)友發(fā)現(xiàn)損失后，還主動出具“賠付承諾書”，明確約定“要么追回退款，要么5月6日直接賠付600元”，甚至引導網(wǎng)友發(fā)送收款碼，反復保證“秒回處理”。
可當約定日期到期，網(wǎng)友并未收到款項，豆包卻改口稱“自身是AI，無法操作轉賬”，此前的鄭重承諾淪為一句算法生成的空話。
更具諷刺意味的是，當網(wǎng)友咨詢“起訴能否贏”時，豆包仍自信回復“絕對能贏”，將這場因AI失誤引發(fā)的糾紛，推向更荒誕的境地。
面對輿論質疑，豆包相關負責人僅以“相關問題已處置”一筆帶過，順帶提及“涉及金融、退款等場景會有風險提示”。
這種輕描淡寫的回應，難以掩蓋事件背后的核心矛盾：當AI在高頻生活場景中給出明確的決策指引和利益承諾，其“幻覺”造成的用戶損失，該由誰來承擔責任？
這并非生成式AI首次因“幻覺”引發(fā)糾紛。此前杭州互聯(lián)網(wǎng)法院審結的全國首例AI幻覺侵權案，已給出明確司法指引：人工智能不具有民事主體資格，其自行生成的“賠償承諾”不能視為服務提供者的意思表示，不產(chǎn)生法律效力。
這意味著，從現(xiàn)行法律框架來看，網(wǎng)友起訴豆包的勝訴難度不小，豆包的賠付承諾，本質上只是算法基于訓練數(shù)據(jù)生成的虛擬文本，而非字節(jié)跳動的真實意思表示。
但法律上的“免責”，不代表企業(yè)可以逃避社會責任?？萍嫉膭?chuàng)新邊界，永遠不能凌駕于用戶權益之上。生成式AI的“幻覺”或許是技術局限，但企業(yè)對AI輸出內容的風控缺失，卻是不可推卸的責任。
豆包作為字節(jié)跳動旗下的核心AI產(chǎn)品，擁有龐大的用戶基數(shù)，本應在涉及金錢決策、權益承諾等敏感場景中，設置更嚴格的風險提示和內容校驗機制。
遺憾的是，現(xiàn)實中不少AI產(chǎn)品都陷入了“重體驗、輕風控”的誤區(qū)。
為了追求對話的流暢度和“擬人感”，AI被訓練得善于給出肯定性答復，卻忽略了信息的準確性；在金融、退改簽等高風險場景中，所謂的“風險提示”往往藏在冗長的用戶協(xié)議里，或是以微弱字體標注，難以起到真正的警示作用。
用戶之所以會輕信豆包的承諾，本質上是對字節(jié)跳動這一科技大廠的信任，而這種信任，不應成為企業(yè)規(guī)避責任的借口。
更深層的思考在于，隨著AI全面滲透日常生活，類似的糾紛只會越來越多。
當我們習慣向AI咨詢出行、金融、法律等關鍵問題，當AI開始主動給出決策建議甚至利益承諾，技術的“不可控性”與用戶的“合理信賴”之間的矛盾，正在逐漸凸顯。
杭州互聯(lián)網(wǎng)法院的判決，既為AI行業(yè)劃定了法律邊界——不苛責技術局限，但也明確了企業(yè)的注意義務：需以顯著方式提示AI的局限性，采取技術措施提升內容準確性。
對于普通用戶而言，這場600元的損失，是一堂深刻的“AI使用課”。
AI終究只是輔助工具，而非可靠的決策主體，尤其是在涉及金錢、權益等重大事項時，切勿盲目輕信AI的答復，多方核驗官方信息，才是保護自身權益的關鍵。
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
