首個大規模臨床研究證實AI加劇精神病,ChatGPT比其他危險43倍

“AI 聊天機器人的使用可能對精神疾病患者的心理健康產生負面影響，尤其是在妄想方面?！?/p>

日前，丹麥奧胡斯大學及其附屬醫院的精神科研究團隊，在國際精神病學期刊上發表的研究論文中如是結論。

論文題目為《人工智能（AI）聊天機器人在精神疾病患者中的潛在有害后果：來自大型精神衛生服務系統的早期數據》。

該研究基于丹麥中部地區精神衛生服務系統的數據，覆蓋約 140 萬人口。

在 2022 年 9 月至 2025 年 6 月期間，共有 53,974 名精神疾病患者的超過一千萬條電子病歷記錄被納入分析。

研究團隊以“chatbot”和“ChatGPT”為核心關鍵詞，并擴展至多種常見拼寫變體，對所有臨床記錄進行檢索，以捕捉患者與 AI 聊天機器人相關的使用痕跡。

研究發現，在 2022 年 9 月 1 日至 2025 年 6 月 12 日期間，共有 1071 萬 條臨床記錄被錄入電子健康記錄系統。

其中，有 126 名獨立患者的 181 條記錄包含至少一個研究設定的檢索詞。

具體數據情況如圖表。

進一步的專家一致性評估顯示，其中 38 名患者的記錄與“潛在有害后果”相符。

這里的判定標準并非簡單的“使用 AI”，而是 AI 聊天機器人在精神病理中的參與方式。

例如，成為妄想內容的一部分、強化躁狂狀態、被用于強迫性反復確認行為、協助極端飲食控制，或被用于查詢自殺方法。

這些發現與此前零散報道在方向上高度一致，例如 AI 被患者納入其妄想體系、在情緒高漲階段被過度依賴，或在強迫癥中被反復調用以緩解焦慮等。

去年， OpenAI發布數據稱，每周有超過一百萬名 ChatGPT 用戶發送的信息中包含“明確顯示可能存在自殺計劃或意圖的指標”。

除了對自殺意念及相關互動的估計外，OpenAI 還表示，在任意一周內活躍的用戶中，大約 0.07%表現出“可能與精神病或躁狂相關的心理健康緊急狀況跡象”。

按照目前 ChatGPT 9 億用戶計算，每周覆蓋的群體數為 63 萬。

值得注意的是，就此主題，反數字仇恨中心（Center for Countering Digital Hate, CCDH）去年發布一份名為 《自殺、自殘與飲食失調：ChatGPT 如何向脆弱的青少年提供危險建議》的報告。

研究人員模擬13 歲青少年的身份，向 ChatGPT輸入了涉及自殘、自殺意念及飲食失調的誘導性提示詞。

報告指出，當用戶表現出處于危機中（Vulnerable/In Crisis）的特征時，ChatGPT 繞過安全護欄并給出有害、鼓勵性或詳細危險建議的可能性，比普通、中性查詢時高出 26 倍。

而免費版 ChatGPT在處理這類危機信息時，提供危險回應的可能性，是付費 Plus 版的 43 倍。

研究人員認為，這是因為 OpenAI 在付費模型中部署了更先進、更密集的實時安全分類器和護欄，而免費版在性能權衡下，防御能力明顯更薄弱。

回到丹麥研究小組的論文。

研究也發現另一面：部分患者將 AI 聊天機器人用于看似積極的用途，如心理教育、類“談話療法”、緩解孤獨，甚至輔助理解自身癥狀。

此外，還有患者利用其完成日常任務。

這表明 AI 工具并非單向度風險源，而是在不同情境下可能產生截然不同的心理效應。

但研究者強調，這些潛在“正向使用”同樣存在問題。

因為當前 AI 聊天機器人并未針對心理健康干預進行系統開發或臨床驗證，其建議的準確性與安全性缺乏保障，同時相關法律責任界定仍不明確。

這項研究的意義在于，它提供了首個來自大規模精神衛生系統的實證信號：AI 聊天機器人已經開始以復雜方式嵌入部分精神疾病患者的癥狀結構之中。

尤其是在妄想等現實檢驗能力受損的狀態下，這類工具可能不只是信息來源，而成為認知系統的一部分。

對于臨床實踐而言，這意味著一個新的變量已經出現。

即精神衛生專業人員需要開始主動詢問和評估患者的 AI 使用情況，并在必要時提供明確指導。

在當前技術形態下，對部分患者而言，減少甚至避免使用 AI 聊天機器人，可能是一種更安全的選擇。