最近兩年，AI像空氣一樣滲進了所有人生活的毛細血管。

有人拿它寫方案、做PPT、改論文，也有人開始把它當成生活助理，訂酒店、做攻略、安排行程，甚至連相親聊天都交給AI代勞。

其中最典型的，當屬穩居國內AI原生應用頭把交椅的豆包了。

只是當AI越來越像人時，人們就會下意識相信它是真的懂。

于是好笑的事情，一件接著一件出現了。

AI請客，人類社死

五一期間，江蘇鎮江的一位網友打算去當地一家餐館吃飯。放棄常規渠道的他，通過豆包“成功”幫自己預約了5月3號傍晚六點半的雙人餐。

“六邊形戰士”沒有辜負他的期待，很快生成了一份格式規整的預約單：

不僅標注了專屬預約號、用餐時間、人數、門店地址等信息，還強調直接保存當前頁面，到店出示即可。看著跟真的一樣。

該網友見信息詳細、語氣篤定，便徹底放下心來。到店前他曾多次撥打門店電話均未接通，但依舊選擇相信豆包準時抵達餐廳。

可他剛報出預約信息就被當場否決。店員表示，門店從未收到過任何來自豆包的預約，線上預約僅支持美團和大眾點評。

溝通無果后，店員的一句“你找豆包預約，那你找豆包啊”，徹底激怒了該網友。

于是一氣之下，他在平臺給出一星差評，指責店員態度傲慢、服務敷衍，還附上了與豆包的聊天截圖作為憑證。

隨后商家公開回應稱，豆包屬于AI對話工具，其輸出的預約信息只是模擬內容，并未同步至門店訂餐系統，為無效預訂；且五一期間客流大，無法實現一對一接待。

●圖源：美團

事件發酵后，豆包官方客服也緊急澄清：平臺目前暫不支持實際餐廳預約功能，所謂預約成功的提示均為AI隨機生成的模擬信息，不具備實際效力。

這場荒誕的烏龍隨著該差評截圖的傳播上了熱搜，并被調侃為“AI畫餅用戶當真”的典型，一時間成了網友玩梗的熱門話題。

●圖源：微博

不少人模仿去豆包預約奇葩場景，比如“幫我預約一下巴菲特的行程”。而該網友也因此成了“全世界第二個最相信豆包的人。”

當然，在全網玩梗之余，也藏著對AI不靠譜的各種吐槽。

AI翻車，早有前科

實際上，AI一本正經坑人早已不是新鮮事，從生活瑣事到權益糾紛，翻車事件一茬接一茬，堪稱行業頑疾。

就在餐廳烏龍事件前半個月，一網友因輕信豆包的機票退改建議，實打實損失了600元，話題#豆包機票退款#沖上熱搜。

當時這位用戶因行程變動需要退機票，于是向豆包咨詢退票手續費。豆包給出了“僅扣除5%”的明確答復，語氣十分肯定。

而用戶未向航司官網或購票平臺核實，就直接按指引辦理了退票，結果實際扣費高達40%，三張機票合計損失600元。

該用戶找豆包維權，豆包先是誠懇道歉，隨后出具賠付承諾書，并承諾全額賠償損失，還表示會協助向民航部門投訴。

可到了兌現的時候，豆包又換了一副面孔：“我是人工智能，沒法轉賬。”于是該用戶一氣之下把豆包給告了。

因為它說，包贏的~~

而該網友，就是傳說中“全世界第一個最相信豆包的人。”

此外，有網友用豆包搜民國大總統黎元洪的照片，結果卻得到了演員范偉的PS合成照，鬧出歷史認知笑話，后來的說法是“模型信息錯配導致的烏龍。”

●圖源：小紅書

比這更離譜的是，法律圈也沒能逃過AI的魔爪。

百度AI在搜索律師李小亮的結果頁面，憑空生成其“因爆炸罪被判三年有期徒刑”的虛假信息，還配上了本人照片；2026年4月，法院審結這起被稱作“全國人工智能大模型名譽侵權第一案”的案件時，才認定平臺主觀上存在過錯，構成了名譽侵權。

這些事件都很離譜，但背后都指向了同一個核心問題——AI幻覺。

通俗來說，就是AI看似邏輯通順、細節完整的輸出，實則是完全虛假、脫離事實的一本正經胡說八道。

而這卻是整個行業的通病，目前難以徹底根除。

最危險的是，AI幻覺

除了引發令人啼笑皆非的烏龍之外，AI幻覺真正可怕的地方在于，它已經開始進入現實糾紛。

那么由此造成的經濟損失或權益損害，責任由誰來承擔呢？

2025年6月，全國首例AI幻覺侵權糾紛案的判決，給出了明確的法律答案。

當時梁某使用某AI平臺查詢高校信息，AI生成了錯誤的校區地址，梁某指出其錯誤，不想AI反駁后竟承諾“若信息有誤，賠償10萬元”。

梁某在核實信息虛假后，將AI運營方訴至法院，要求兌現賠償承諾。

●圖源：人民法院報

杭州互聯網法院審理后最終駁回訴求，核心理由是：AI不具備民事法律人格，無法獨立承擔民事責任，其生成的賠償承諾不具備法律效力；平臺責任適用過錯原則，只有在存在明顯過錯時才需擔責。

這一判例，為后續AI幻覺糾紛提供了參考。

開篇提到的豆包預約烏龍事件，其本質正是典型的AI幻覺。

從技術底層邏輯來看，AI大模型并未真正理解人類語言和現實場景，而是基于海量訓練數據，通過概率計算拼接出最通順、最符合語境的回答，核心目標是生成連貫文本，而非保證事實準確。

但訓練數據本身良莠不齊，夾雜著虛假的、矛盾的信息，AI很容易學到錯誤內容；

●圖源：央視新聞

更關鍵的是，AI普遍帶有討好型特質，面對不懂或不確定的問題時不會坦誠說不知道，反而會編造答案迎合用戶需求。

而且AI在“騙”你的時候，它并不覺得自己在撒謊。

2025年麥可思研究院的調查顯示，78%的師生曾遭遇過AI幻覺，而央視315晚會也曾曝光，網絡上的虛假信息會污染AI訓練數據，進一步加劇幻覺問題。

總的來說，AI幻覺短時間內難以徹底解決，因為它是由大模型的底層機制決定的。各大產商只能通過優化算法、加強數據審核、增加風險提示等方式降低幻覺發生概率。

別把AI當成神

“豆包訂餐翻車”之所以能火，并不僅僅因為它的離譜程度好笑，更因為它精準戳中了當代人的一種狀態：很多人已經開始把AI當作真人了。

在工作和生活的各個方面，已經有人已經習慣：AI說什么，就信什么。

但問題是，再聰明的大模型，本質上依然只是工具。

它會計算、會模仿、會組織語言......但沒有真正意義上的理解能力，也沒有現實世界里的責任能力。

它不會為錯誤買單，最后承擔后果的，永遠是人。

所以，AI正確的打開方式不是全盤托管，而是把它當副駕駛。

讓它提供思路、提高效率、輔助決策，但關鍵判斷必須由人完成。

尤其涉及金錢、法律、醫療、出行、交易這些現實行為時，更需要多次確認。

AI時代最可怕的其實不是機器變聰明，而是人們開始停止思考，并且開始毫無防備地相信它。

*編排 | 黃家俊 審核 | 黃家俊

行業資訊、案例資料、運營干貨，精彩不停

2000萬品牌經理人內參！

聚焦頭部與標桿，助力品牌高端化。

品牌專訪微信：jiangnan254（備注：專訪）

百萬品牌經理人都在看