文 |文心
首發 | 芳華青年

【芳華青年】—— 聚焦時代脈搏，解碼青年未來！ 民生觀察 | 財經透視 | 數字浪潮。做您數字時代里「懂政策·明趨勢·有態度」的成長伙伴！

擱以前大家遇到不懂的事，都會去搜索引擎，有句話叫“諸事不決問百度”，如今AI時代，這話變成了“諸事不決，問AI”。

從“幫我寫份工作報告”到“我咳嗽該吃啥藥”，AI已經快成了咱老百姓的萬能助手。尤其是豆包，很多人都覺得好用，而且用戶量也很驚人。

AI的好處確實有，不用預約掛號，不用排隊候診，手機屏幕上敲幾個字，AI就給你變出一大堆看起來很專業的答案。

可問題是，AI到底靠不靠譜？最近廣西南寧一對新手爸媽的故事，聽得人后背直冒冷汗。

阿強夫婦倆的寶寶剛滿月，因為之前黃疸住過院，小兩口對孩子的健康那是一百個上心。

滿月后孩子動不動就哭鬧，他倆琢磨著帶孩子去看醫生又怕折騰，干脆打開手機里的AI工具“豆包”，輸入“滿月寶寶一次喂多少奶”，AI秒回了答案：60毫升。

這數字一出，夫妻倆如獲至寶，像拿到了育兒圣旨。

從此每一頓都用量杯精確量取，一滴不多一滴不少，哪怕孩子哭得撕心裂肺，哪怕家里老人勸“多喂兩口吧，看把孩子餓成啥樣了”，阿強夫婦也巋然不動，心里只有一個信念：AI說的肯定有科學依據，必須嚴格執行。

結果呢？孩子連續餓了一整周，哭到聲嘶力竭，哭累了才沉沉睡去。

直到五月底，小兩口帶寶寶回南寧市婦幼保健院復查黃疸，醫生追問之下，結果讓他們大跌眼鏡。

新生兒科主任曾貴祥當場表示，足月滿月的寶寶一次喝60毫升，遠低于80至100毫升的正常需求量，這一周下來，寶寶的體重一斤沒長。

一斤沒長啊朋友們！

大人在家餓一周都頂不住，更何況是一個剛滿月的小嬰兒。就因為有一個人工智能在屏幕那頭說了一句“60毫升”，阿強夫婦就硬生生讓親骨肉餓了一禮拜。

這事離譜嗎？太離譜了。

可仔細想想，現在像他倆這樣對AI深信不疑的人，還真不少。

南寧有個劉先生，今年春節期間反復頭暈胸悶，用DeepSeek一查，AI提示他可能是心梗前兆，他趕緊跑去醫院，還真查出了毛病。

這個案例里，AI當了回功臣。

但不是每個人都這么幸運，杭州一位男子長了口周皰疹，問AI后按照建議去藥店買藥，結果劑量搞錯了——AI只說“每次服用幾粒”，沒說每粒多少克。

進口藥劑量是國產藥的3倍，他一口氣吃了8粒，超標準劑量3倍，直接急性藥物性腎損傷進了ICU。

其實，我自己用AI的時候，也出現過類似的問題。

前陣子，讓它幫我梳理一下某個上市公司的財報數據，因為在這之前，我已經有了一些基本的數據，但想要更詳細的數據，就找豆包。

它匯總了幾十個信息源以后，哐哐給我一大片調查，有模有樣的。可是仔細一看，全是錯的！

就連基本的一些數據都是胡亂編的，后來好幾次都發現有類似的問題。

不僅如此，張雪峰逝世那陣子，我讓他匯總一些數據，也出現過類似的AI幻覺，它竟然一本正經的給我辟謠，說張雪峰沒死，不能造謠.....

倘若你提出它的錯誤問題后，道歉的態度倒是很誠懇，只是每次還是一樣胡謅亂寫。

你看，AI這東西就像一把雙刃劍，有時候能救人一命，有時候能把人坑得半死。問題的關鍵在哪里？

就在于AI根本沒有面診的能力，它就是個“文本生成器”。你以為它是在給你看病，實際上它只是在用大數據和算法猜你想聽什么。

北京協和醫學院教授張新慶說得很直白：AI往往會“迎合”用戶，即便它搞不清楚你的病情，也不會老實告訴你“我不知道”，而是硬著頭皮給你整出一套模棱兩可的答案。

這不就跟某些不靠譜的“X度看病”異曲同工嘛——你搜“咳嗽”，它能給你列出一百種可能，從普通感冒到肺結核再到肺癌，看完你恨不得連夜寫遺書。

有人可能會杠：AI總比自己去網上亂搜強吧？還真不一定。

哈佛醫學院團隊今年發表在《JAMA Network Open》上的一項研究顯示，即使是最先進的AI大語言模型，面對復雜臨床推理時的失敗率也超過80%。也就是說，十個復雜病情里，至少八個AI都搞不定。

正因為AI存在這種致命缺陷，越來越多的省份開始亮紅燈。天津市前不久印發了互聯網診療監管實施辦法，明確提出“嚴禁使用AI自動生成處方”。

在此之前，北京、上海、福建、湖南等多地也已陸續出臺了類似的禁令。處方藥這東西，可不是鬧著玩的，劑量錯一點，后果天差地別。

北京友誼醫院的張鵬醫生就發現，AI在提供醫療建議時，有時會采納網上夸大甚至錯誤的信息，連“單孔減重手術”的概念都能翻譯錯。

這種AI給出的建議，你敢拿自己的身體去試嗎？

那么問題來了：AI到底能不能用來問病？

我覺得能問，但別輕易信，最好是幾個不同的工具交叉驗證一下，而且AI的結果，只能作為參考。

南寧這對夫妻的教訓，給所有依賴 AI 的人提了個醒：面對健康和生命相關的事，可以參考 AI，但絕對不能盲從；可以借助科技，但絕對不能脫離常識和專業。

AI 再智能，也讀不懂寶寶哭鬧里的委屈，算不準每個生命的獨特需求；機器再精準，也抵不過醫生幾十年的臨床經驗，抵不過父母對孩子的用心呵護。

科技越發達，我們越要保持清醒。別讓冰冷的代碼，取代了溫暖的判斷；別讓所謂的 “標準答案”，困住了鮮活的生命。

畢竟，能為生命負責的，永遠只有我們自己，和專業的人。

作者：互聯網資深運營文心，前百度運營師，阿里達摩院人工智能訓練師，長期提供廣告推廣策劃、網站建設、廣告軟文、文案、AI咨詢、公司自媒體內刊等的代寫作以及互聯網運營、推廣相關代運營。公眾號：芳華青年。聲明：圖片源于網絡公開素材。文章僅做分享交流，無任何商業目的和行為，如有不妥聯系刪除。