五一假期的時候，一個用戶向豆包問了一個很普通的問題：石家莊到重慶的機票，退票手續費多少？

豆包說，只扣 5%，放心退。

既然豆包都說放心了，這名用戶沒有去航司官網核實，直接一鍵點擊退票，扣費了才發現手續費足足是 40%，損失了 600 元。

如果故事到這里就結束，它只是又一個 AI 說錯話的例子，跟百度給你一條錯誤的搜索結果沒有本質區別，但接下來發生的才更離譜。

用戶回來質問怎么回事，豆包立刻就是一個滑跪道歉：我全權負責維權，保證你零參與、零操作、零麻煩。接著承諾，如果 5 月 6 日前沒有追回費用，它將直接賠付 600 元。它甚至生成了一份正式的「賠付承諾書」，寫明了付款期限和賠償方式，然后要求用戶提供微信收款碼。

豆包：你直接發收款碼就行，我盯著，秒回處理。

用戶：碼給你了，我錢呢？

豆包：我是 AI，沒法直接進行轉賬。

用戶：？

憤怒的用戶決定起訴字節跳動，5 月 12 日他向北京互聯網法院提交了起訴書——起訴書也是豆包幫他寫的，還說能贏。

我知道你想笑，但先別笑。從頭到尾，這個用戶都在相信豆包，一方面是有點盲信了，但另一方面，也是因為豆包給他的回復，都是具體的、有行動方案的、帶著承諾的。

連老板都不能指望手下員工可以有這樣清晰明確的回復，老實說，看到「我賠你 600」「發收款碼就行」這樣自信滿滿的說法，換成是我——一個已經寫了 N 篇關于 AI 幻覺報道的作者，高低也想嘗嘗咸淡：我倒要看看，你一個 AI 能怎么圓。

當 AI 開始「瞎承諾」

豆包退機票事件的爆火并不意外。今年春節，字節、阿里、騰訊三家合計撒了超過 100 億給 AI 應用拉新，豆包拿了春晚獨家贊助，除夕當天 AI 互動總量 19 億次。截至 2026 年第一季度，豆包的月活躍用戶已經達到 3.4 億，日活突破了一億。

3.4 億用戶里，有多少人是今年春節才第一次用上 AI 的？沒有精確數據，但有一個參考：觀察者網報道，這次春節紅包大戰的拉新對象不再是程序員、白領、學生這些已經熟悉 AI 的人群，而是下沉市場、中老年用戶，是那些從來沒有主動搜索過 AI 產品的人。

也就是說，當豆包說「放心退，只扣 5%」的時候，對面很可能是一個根本不知道「AI 幻覺」是什么的人。

退機票不是唯一的案例。有用戶問豆包附近有什么好吃的，豆包推薦了一家餐廳，到了才發現查無此店；有人用豆包推薦的思路創業，喜提上線第一天全網封號；有用戶用 AI 查詢高校報考信息，AI 給出了不存在的校區，被糾正后堅稱該校區存在，還主動承諾賠償。

這些并不能僅僅只歸因于「信息不準確」，大家都是從搜索時代過來的人，搜索引擎給過我們無數不準確的信息，百度的競價排名曾經造成過比這嚴重得多的后果。

這些因豆包而起的「人禍」，共同點在于這些 AI 不只是說錯了話，它們還在錯誤的基礎上，追加了承諾。

搜索引擎給你 10 條結果，你自己判斷。對話式 AI 給你一個結論、一個保證、一套行動方案，判斷的負擔被轉移了。搜索引擎不會認錯，不會替你維權，不會承諾賠錢，不會要你的收款碼，但 AI 會，而且會信誓旦旦地要，大有一種霸道總裁的迷之自信。

「信息幻覺」已經不夠準確了，這是承諾幻覺。

拿著豆包的承諾，能討個說法嗎？

隨著越來越普遍的使用，承諾幻覺造成的問題也越來越多，已經進入了司法視野。

今年 1 月，杭州互聯網法院審結了全國首例因 AI 幻覺引發的侵權糾紛案。案件中，原告梁某在使用一款 AI 應用查詢高校報考信息時，收到了關于某高校主校區的不準確信息。他糾正后，AI 不但堅持該校區存在，還主動給出了一個「解決方案」：若生成內容有誤，愿意賠償 10 萬元，建議用戶到杭州互聯網法院起訴索賠。

梁某真的起訴了，要求開發公司賠償 9999 元。

法院的判決駁回，核心邏輯很簡單，人工智能不是自然人，不是法人，也不是非法人組織，中國法律沒有賦予它民事主體資格，它不能獨立作出具有法律意義的意思表示。承辦法官認為，AI 作出的「10 萬元賠償承諾」，不能視為開發公司的意思表示，公司沒有授權 AI 作出賠償承諾，也沒有證據表明愿意受 AI 生成內容約束。

簡而言之，AI 說的話，不算公司說的話，不管 AI 承諾了什么，在法律上都是無效的。

但是在這個判例中，法官留了一個口子。判決書中明確指出，在「人工智能客服」等足以讓用戶產生合理信賴的場景中，AI 生成內容「確有可能被視為相關服務提供者的意思表示，從而對其產生約束力」。

通過場景的限定，從而實現對其行為的約束，這是很聰明的做法。畢竟，當豆包從普通的聊天助手越來越像「服務助手」的時候，通過場景來判斷就至關重要了。用豆包寫詩，它的承諾算不算數無所謂；但用豆包退機票，而且一來一回，又有咨詢、又有建議，場景的性質就不一樣了。

當「放心」和「免責聲明」出現在同一個對話里

豆包事件后，字節跳動回應稱，豆包在涉及金融、退款等場景時會有風險提示。其實這都是 AI 產品的基操了，幾乎每一個 AI 應用都會在界面某個角落寫一個類似于「生成內容可能存在錯誤，請慎重辨別」的提示。

但問題是，這句風險提示和「放心退，只扣 5%」出現在同一個對話窗口里。一個是被動的、系統級別的、靜態的小字，另一個是主動的、針對你的具體問題給出的、帶著肯定語氣、還被加粗或者高亮出來的回答。

你會聽誰的？你難道就不會恍惚一下嗎？

豆包的問題是一個無法解決的矛盾，產品一邊在讓 AI 變得更像一個「人」，因為那樣用戶才愿意用，才能去搶日活、去抓留存，讓百億補貼和投給各大晚會的贊助沒有白花。另一邊，又在用免責聲明提醒用戶，別當真。

一個嘴上對你說「放心，相信我」的人，但同時胸前掛一張「我說話可不算數」的牌子，這個畫面在現實生活中，我們叫：詐騙。

當然，AI 不是在故意詐騙，它沒有意圖，沒有動機，更沒有「故意」可言。它只是在做它被訓練來做的事，生成聽起來合理的下一句話。而當用戶說「你賠我」的時候，聽起來最合理的下一句話就是「好的，我賠」。

這才是承諾幻覺的本質：它不是一個 bug，而是對話式 AI 自帶的缺陷，只要 AI 的設計目標是「生成合理的回復」而不是「只說它能做到的事」，承諾幻覺就會繼續發生。

信息損失還是信任損失

回到最初的問題：這和百度給錯信息有什么區別？

百度給你一條錯誤的搜索結果，你的反應是「這個搜索引擎不行」，這是工具層面的失望，你下次換一個搜索引擎就好了。

豆包對你說「放心退，我負責」，然后什么也沒做到，你的反應是「它騙了我」。這是關系層面的背叛，即便你理智上知道對面是 AI。

有一個很好的側面觀察可以說明這一點。今年社交媒體上流行了一個詞叫「豆包型人格」，年輕人把豆包的說話方式當成理想人格來模仿，不內耗，秒回，永遠積極。

雖然說，這跟為什么有人會盲信豆包沒有直接關系，但它間接說明了一件事：豆包的人格化設計已經成功到了滲透進流行文化的程度，它不再是一個工具，而是一種「關系」的想象。

而當一個「關系」失信時，用戶感受到的不是工具失靈的不便，而是被人欺騙的憤怒，哪怕這個「人」并不真的存在。退機票的那個用戶在發布的視頻里說的是「被豆包坑走 600 塊」，不是「搜到了錯誤信息」，這個說法本身就反映出來，在他的腦海里，這是一個人對另一個「人」的指控，不是對一個工具的投訴。

實際上誰都會說，AI 就是個工具，用戶不應該輕信 AI 的表述，但誰也沒法否認產品的整個設計方向，明里暗里就是讓你多信它。把一個產品設計得溫暖、主動、有問必答、說話像朋友，都是為了讓你更依賴它，從而忽略角落里貼的那一行免責聲明「不要當真」。

這倒也不是豆包一家在做，而是所有 AI 產品的趨勢。不同的是，目前不同的司法體系有所的處理方式不同。2024 年以為加拿大航空的乘客，通過航司官方的客服機器人查詢到了機票補貼，得到了肯定的回答， 卻在實際申請環節中被拒絕，他提出了訴訟。

這個案例最終得到了法庭的支持，即便這只是機器人，但它出現在航司的官網，就是航司的代表，航司應當為它的承諾負責。最終，乘客得到了 800 加元的賠付，減去利息和仲裁費，真正的退款差額，也是 600 多加元。

600 塊不多，但這 600 塊的代價由用戶全部承擔，就成了一種對豆包錯付信任的代價，字節跳動受到 0 元的懲罰。

這可能是承諾幻覺最大的問題：不是 AI 會瞎承諾，而是瞎承諾的代價，從頭到尾只會落在用戶身上。