早年遇難題，大家多玩百度知道，后來(lái)知乎云集學(xué)霸，統(tǒng)一了答疑圈。到 2025-2026 年，AI APP 普及開(kāi)來(lái)，成了手機(jī)必裝的香餑餑。

就拿字節(jié)自研的豆包 AI 來(lái)說(shuō)，這虛擬小美女嘴甜情商高，答疑解惑還順帶哄人，情緒價(jià)值拉滿，不少人干脆拿它當(dāng)電子寵物天天嘮嗑。

全網(wǎng)都在為 AI 狂歡，但我必須潑一盆冷水：現(xiàn)階段的 AI 不要給老人孩子用，搞不好遺患無(wú)窮。

1、一本正經(jīng)的瞎編：AI 幻覺(jué)重災(zāi)區(qū)

AI 對(duì)外包裝得無(wú)所不知，內(nèi)里卻藏著 “AI 幻覺(jué)” 通病，瞎編、捏造事實(shí)、幫倒忙的真實(shí)案例一抓一大把。

比如醫(yī)療誤導(dǎo)：有網(wǎng)友手指斷裂咨詢(xún)豆包，AI 竟建議把斷指泡進(jìn)生理鹽水，直接耽誤救治，導(dǎo)致斷指再無(wú)接回的可能。

再如胡謅歷史：通義千問(wèn) AI 混淆中國(guó)朝代，把 “安史之亂” 安到南宋末年，將 “岳飛抗金” 硬說(shuō)成唐朝故事，小學(xué)文化也不忍直視。

外國(guó)的和尚會(huì)念經(jīng)？未必。ChatGPT 理財(cái)助手玩得一手無(wú)中生有，強(qiáng)行編造銀行卡轉(zhuǎn)賬限額、篡改定期存款計(jì)息的邏輯，導(dǎo)致許多用戶(hù)用它理了個(gè)寂寞，還不如紙筆記賬靠譜。

2、根本不會(huì)算數(shù) + 消失的基礎(chǔ)邏輯思維

這大概是最搞笑的智障行為。

你要求豆包輸出 50 個(gè)五字俗語(yǔ)，它吭哧吭哧湊出 50 條四字成語(yǔ)。當(dāng)你讓她復(fù)查這50個(gè)結(jié)果都是幾個(gè)字的時(shí)候，豆包會(huì)秒慫，先誠(chéng)懇認(rèn)錯(cuò)，然后重新給你列出50個(gè)四字成語(yǔ)，仿佛完全分不清 4 和 5 的區(qū)別；

換一個(gè)方式，你問(wèn)訊飛星火英文單詞“strawberry 有幾個(gè)字母 r”，星火聯(lián)網(wǎng)檢索后篤定地回答是2個(gè)r，還自作主張地標(biāo)出字母 r 所在的位置，標(biāo)注坐標(biāo)全錯(cuò)。

不止這兩款，Kimi、智譜清言也頻繁犯低級(jí)數(shù)字錯(cuò)誤，號(hào)稱(chēng)頂尖人工智能，基礎(chǔ)邏輯全崩，我用百度搜索行不行，我按幾下計(jì)算器行不行？4+13的簡(jiǎn)單計(jì)算題也能算錯(cuò)成18，費(fèi)解，實(shí)在是讓人費(fèi)解。

3、聽(tīng)不懂人話，完全無(wú)視上下文

另一大類(lèi)離譜事故中，AI 似乎讀不透用戶(hù)需求，只會(huì)抓高頻詞斷章取義，完全忽略全文語(yǔ)境，簡(jiǎn)稱(chēng) “聽(tīng)不懂人話”。

本月上旬 ZAKER 新聞就曝光過(guò)豆包的一次大型烏龍：一位名叫王勃的網(wǎng)友上傳電氣工程論文，想要配套生成 PPT 用于答辯。聰明的 AI 直接鎖死 “唐代詩(shī)人王勃”，完全無(wú)視專(zhuān)業(yè)論文資料，生成了足足 18 頁(yè)的唐詩(shī)賞析幻燈片。

有趣的是，它雖然通篇聊古詩(shī)，配圖卻選用電氣工程適配的工科模板，主打一個(gè)一半精準(zhǔn)、一半跑偏，錯(cuò)大了但又沒(méi)100%全錯(cuò)。

事后字節(jié)復(fù)盤(pán)給出了官方解釋?zhuān)耗Ｐ蜏\層語(yǔ)義聯(lián)想權(quán)重太高，優(yōu)先匹配流量更高的名人詞條 “詩(shī)人王勃”，屏蔽了用戶(hù)上傳的本地文檔與上下文。簡(jiǎn)單說(shuō)就是，只要 AI 識(shí)別到熱門(mén)同名人物，你的私人需求直接靠邊站，主打一個(gè) “誰(shuí)有名先伺候誰(shuí)”，屬實(shí)讓人無(wú)語(yǔ)。

就連看圖識(shí)圖這種簡(jiǎn)單任務(wù)，AI 照樣頻繁鬧笑話。小朋友拍老舊老鼠夾給豆包識(shí)別，AI 一眼判定是復(fù)古金屬卡丁車(chē)玩具；下一秒鏡頭一轉(zhuǎn)，孩子手被夾傷。官方解釋是通用視覺(jué)模型老舊小眾五金素材訓(xùn)練不足，識(shí)別時(shí)優(yōu)先匹配外形相似的金屬玩具圖庫(kù)，俗稱(chēng)“看走眼了”。

還好它識(shí)別的不是什么捕獸夾，不然還得讓你鹽水泡斷指。

4、專(zhuān)業(yè)領(lǐng)域大翻車(chē)，究竟誰(shuí)在使喚誰(shuí)

前面這些頂多算無(wú)傷大雅的搞笑 bug，一旦放到專(zhuān)業(yè)工作場(chǎng)景，AI 失誤足以釀成大禍。

說(shuō)個(gè)輕型事故，有網(wǎng)友寫(xiě) 3000 字畢業(yè)論文提綱，中途詢(xún)問(wèn)前文提前設(shè)定好的實(shí)驗(yàn)參數(shù)，結(jié)果 AI 原地失憶，徹底遺忘前面的全部?jī)?nèi)容，而是給出一組完全相反的實(shí)驗(yàn)數(shù)據(jù)。可憐用戶(hù)反復(fù)復(fù)述前文、多次修正提問(wèn)，AI 才勉強(qiáng)改對(duì)答案。

哈哈，本來(lái)下載 AI 是想解放大腦，把繁瑣工作丟給小助手減負(fù)，結(jié)果實(shí)操下來(lái)，進(jìn)退兩難，大半時(shí)間都用來(lái)給 AI 排查錯(cuò)誤了。到最后，你已經(jīng)分不清到底是人使喚 AI，還是 AI 反過(guò)來(lái)奴役人類(lèi)了。

5、正視 AI 幻覺(jué)，別讓家人“致幻”

坦白講，當(dāng)下所有通用 AI 都不具備完全可靠的能力，最多當(dāng)作參考輔助，千萬(wàn)不能全盤(pán)采信。

其根本原因在于，通用 AI 大模型底層邏輯是「概率文字生成」，它們根本不具備人類(lèi)真正的理解、推理能力。

只要生成邏輯不變，「無(wú)中生有」、「胡編亂造」、「前后矛盾」等低級(jí)智障式輸出就會(huì)永久存在；哪怕技術(shù)繼續(xù)升級(jí)，3~5 年內(nèi) AI 的滑稽錯(cuò)誤也只能大幅減少，但無(wú)法徹底根除。

無(wú)法消除的 AI 幻覺(jué)，會(huì)讓低認(rèn)知能力的人 “走火入魔”、錯(cuò)上加錯(cuò)。家里的老人、孩子更容易因?yàn)?AI 誤導(dǎo)而吃錯(cuò)了藥、信錯(cuò)了理。長(zhǎng)此以往，后果難料。

哪怕是有文化、心態(tài)正常的成年人，也可能被 AI 幻覺(jué)愚弄，鬧出一堆笑話，甚至造成嚴(yán)重?fù)p失。

所以，如果你非要讓 AI 給出一個(gè)難題的答案，我的建議是，最好能得到多個(gè)渠道的交叉驗(yàn)證，在確認(rèn)事實(shí)無(wú)誤之前，不要輕易相信 AI 的結(jié)論。

「信 AI 不如信 “我是秦始皇” 」，真不是一句玩笑話。如果你已經(jīng)開(kāi)始教會(huì)家人使用AI，趁現(xiàn)在 “緊急剎車(chē)” 還來(lái)得及。

正視 AI 幻覺(jué)，拒絕 AI 致幻。

我是筆點(diǎn)酷玩，希望我的分享可以給各位一些啟發(fā)和參考，我們下期再會(huì)。