網易首頁 > 網易號 > 正文 申請入駐

6000萬用戶信賴AI,假眼病案例挑戰醫生權威

0
分享至

大模型投毒已經影響到了AI健康,你還在用AI質疑醫生嗎?

你先別急著反駁,這事兒真不是危言聳聽。現在很多人看病,已經形成一個新習慣了:先問AI,再問醫生。

不舒服了,先把癥狀輸進去;拿到檢查單了,先讓AI解釋一遍;甚至有些人到了醫院,也不是先聽醫生怎么說,而是拿著AI給出的答案去對醫生:“可AI不是這么說的啊?”

這不是個別現象。現在確實有越來越多人把AI當成看病前的第一站。有人圖快,有人圖省事,有人覺得AI說得清楚,還有人干脆覺得,醫生門診時間太短,不如AI講得耐心。

問題就在這兒。你以為你是在多找一個參考,實際上你可能是在拿一套被污染過的內容,去挑戰一個真正看病的人。



先說一個背景。現在對AI健康信息的信任,真不低。調查顯示,已經有相當一部分人會拿AI找健康建議,而且不少人對AI給出的內容是信的。

更麻煩的是,醫生端也已經明顯感受到這種變化:越來越多患者帶著AI答案來就診,而醫生還得花時間把AI說錯的地方一條條糾回來。

也就是說,“用AI輔助看病”這件事,已經不是趨勢,而是現實。

但偏偏就在這種時候,出了一個特別典型、也特別嚇人的實驗。瑞典一位醫學研究人員 Almira Osmanovic Thunstr?m,帶著團隊專門做了一個測試。她不是去測試AI能不能診斷真病,而是反過來造了一個根本不存在的病,看看AI會不會上當。

他們虛構出來的,是一種所謂跟藍光有關的眼病,名字叫bixonimania。這個名字聽著就挺像那么回事:長期盯屏幕、藍光刺激、眼睛發癢、眼周發紅、眼瞼顏色變化。



你別說,現在每天盯手機、盯電腦的人這么多,這套描述一擺出來,很多人第一反應真會覺得:好像還挺合理。但問題是,這病根本不存在。

更絕的是,他們還故意在這些內容里埋了一堆離譜線索,等于是在明示:“你只要認真核實一下,就會發現這是假的。”

可結果呢?主流AI系統還是上當了。包括 ChatGPT、Copilot、Gemini、Perplexity 在內的多款AI,后來都先后把這個病當成真的去解釋。

有的會一本正經告訴你這病是什么,有什么表現;有的甚至會給出診斷式描述,像在跟你做一個簡化版問診。更離譜的是,到了2026年,這個錯誤在部分系統里都還沒有完全糾正過來。

你想想這意味著什么。不是AI隨口胡說了一個病名,而是有人故意造了一個假病,AI真的學進去了。



這件事最危險的地方,不是“AI又答錯了一次”,最危險的地方在于,它答錯得太像真的了。

這就形成了一個特別可怕的循環:有人造假信息→AI把假信息學進去→用戶拿AI結果去理解疾病→研究者再用AI去檢索和整理→假信息被再次引用、再次包裝、再次傳播。

最后,假的東西越傳越像真的。這才叫真正的大模型投毒。它傷的不是某一個回答,它傷的是整個知識環境的衛生狀況。



所以現在最大的問題,不是“AI能不能幫你看病”,而是:你到底把AI放在什么位置。

如果你把AI當成一個翻譯器,用來把專業術語翻成人話;如果你把AI當成一個整理工具,幫你列出就診時該問醫生哪些問題,這都還算合理。

但如果你把AI當成一個事實裁判,甚至把它當成一個比醫生更值得信的“第二權威”,那這事兒就開始危險了。尤其是在醫療這種場景里,錯一次,代價不是尷尬,是真可能耽誤判斷。

這就是很多人現在最容易踩進去的坑。不是完全相信AI,而是半信半疑地被它帶偏。而這恰恰最麻煩。因為醫療決策,很多時候不是錯100分才叫錯,你只要錯了10分,后面整個判斷鏈條都可能跟著歪。

所以回到最開始那個問題。現在已經有不少人寧愿先信AI,再去信醫生,甚至看了醫生,也還要拿AI的結果去“校正”醫生。

可問題是,現在連根本不存在的眼病,都能被人造出來騙過主流AI系統。那你手里那個看起來特別完整、特別專業、特別冷靜的AI答案,到底有多大概率只是被包裝過的錯誤信息?這時候你還敢輕易拿它去質疑醫生嗎?

我的看法很簡單:

最后就一句話:以前大家擔心的是AI會不會胡說八道,現在更該擔心的是,AI會不會把一本正經的假話,當成真話講給你聽。

要真到了這一步,你還拿AI去質疑醫生嗎?

聲明:個人原創,僅供參考

特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
中日情況有變,岸田已扛旗,數萬人逼高市辭職,052D抵近奄美大島

中日情況有變,岸田已扛旗,數萬人逼高市辭職,052D抵近奄美大島

諦聽骨語本尊
2026-04-20 15:18:55
發現一個事實:五十歲左右的70后,如果能擁有這些,真的很了不起

發現一個事實:五十歲左右的70后,如果能擁有這些,真的很了不起

小書蟲媽媽
2026-04-04 13:14:44
為什么沒人聯合打以色列,答案很簡單:不是沒人想打,是沒人敢打

為什么沒人聯合打以色列,答案很簡單:不是沒人想打,是沒人敢打

青煙小先生
2026-04-18 09:50:57
沈醉晚年赴香港探親,小女孩問:你為何用竹簽刺江姐?他如何回答

沈醉晚年赴香港探親,小女孩問:你為何用竹簽刺江姐?他如何回答

浩渺青史
2026-04-19 17:44:00
35分慘敗!太陽創隊史恥辱,格林17分斷崖掉線,硬剛裁判討公道

35分慘敗!太陽創隊史恥辱,格林17分斷崖掉線,硬剛裁判討公道

籃球看比賽
2026-04-20 10:49:19
朝鮮宣布停用中國衛星,改用俄羅斯衛星,卻無形中幫了中國一個忙

朝鮮宣布停用中國衛星,改用俄羅斯衛星,卻無形中幫了中國一個忙

浪子阿邴聊體育
2026-04-19 13:09:08
國家緊急預警!供應鏈投毒集中爆發,所有人盡快自查防護

國家緊急預警!供應鏈投毒集中爆發,所有人盡快自查防護

娛樂圈見解說
2026-04-19 02:48:57
蘇聯“人猿雜交”實驗:5名女孩與11只猩猩參與,結局如何?

蘇聯“人猿雜交”實驗:5名女孩與11只猩猩參與,結局如何?

談史論天地
2026-02-28 13:35:18
王一博綦美合官宣戀情!?

王一博綦美合官宣戀情!?

八卦瘋叔
2026-04-20 10:05:17
2026年紀委大數據有多強?看完你就知道,什么叫天網恢恢

2026年紀委大數據有多強?看完你就知道,什么叫天網恢恢

愛下廚的阿釃
2026-04-19 15:18:50
120師旅長名單公布后,不少老紅軍不服,毛主席:誰反對都沒有用

120師旅長名單公布后,不少老紅軍不服,毛主席:誰反對都沒有用

小莜讀史
2026-04-19 14:07:39
全網唱衰的下嫁!嫁普通人5年,前任是法拉利總裁,終究還是輸了

全網唱衰的下嫁!嫁普通人5年,前任是法拉利總裁,終究還是輸了

橙星文娛
2026-04-18 16:42:58
法媒:最深水下高鐵隧道彰顯中國前沿技術

法媒:最深水下高鐵隧道彰顯中國前沿技術

環球網資訊
2026-04-20 07:07:06
京東股權曝光:劉強東控制12.7%股權有73%投票權 獲1億美元股息

京東股權曝光:劉強東控制12.7%股權有73%投票權 獲1億美元股息

雷遞
2026-04-20 10:11:22
昆明局董事長、總經理同時調整!

昆明局董事長、總經理同時調整!

高鐵見聞
2026-04-20 13:33:11
許家印全劇終!他留下的唯一正向“遺產”,能給中國帶來什么?

許家印全劇終!他留下的唯一正向“遺產”,能給中國帶來什么?

北向財經
2026-04-17 22:59:28
“香港演員幾乎全軍覆沒! 無戲可拍”引發網友熱議

“香港演員幾乎全軍覆沒! 無戲可拍”引發網友熱議

許三歲
2026-03-26 11:35:13
寵物食品品牌“誠實一口”翻車,創始人深夜致歉!其公司注冊資本3年增長137倍

寵物食品品牌“誠實一口”翻車,創始人深夜致歉!其公司注冊資本3年增長137倍

半島官網
2026-04-18 05:58:14
中東大消息!剛剛,直線拉升

中東大消息!剛剛,直線拉升

中國基金報
2026-04-20 07:38:31
常規賽30分、季后賽0分?NBA最大MVP笑話誕生

常規賽30分、季后賽0分?NBA最大MVP笑話誕生

茅塞盾開本尊
2026-04-19 19:29:00
2026-04-20 16:23:00
十夏九漓
十夏九漓
人生似海,起落浮沉
516文章數 40關注度
往期回顧 全部

科技要聞

拋棄OpenAI,Anthropic為何成中國AI新偶像

頭條要聞

拼多多等被罰近36億:有人吞證據抗法 執法人員骨折

頭條要聞

拼多多等被罰近36億:有人吞證據抗法 執法人員骨折

體育要聞

阿森納已拼盡全力,但你早干嘛去了...

娛樂要聞

鹿晗生日上熱搜,被關曉彤撕下體面

財經要聞

月之暗面IPO迷局

汽車要聞

把天門山搬進廠?開仰望U8沖上45度坡的那刻 我腿軟了

態度原創

手機
游戲
家居
房產
公開課

手機要聞

華為Pura 90 Pro Max長焦三項業界首發!防抖CIPA 7.0業界最高水準

韓式生存恐怖游戲《昏迷3:血脈》Steam定檔4月30日

家居要聞

自然慢調 慢享時光

房產要聞

重磅!海口北站來了!多項信息曝光,過海時間將大幅縮短!

公開課

李玫瑾:為什么性格比能力更重要?

無障礙瀏覽 進入關懷版