四川
近日，美國德州家庭起訴OpenAI及創始人山姆·奧特曼，指責該公司旗下AI平臺ChatGPT提供了錯誤的醫療建議，導致了其19歲兒子薩姆·尼爾森（Sam Nelson）因藥物過量死亡。
據媒體報告，2025年5月31日Sam Nelson服用了大劑量kratom（卡痛）后告訴ChatGPT他感到惡心，并詢問服用抗焦慮藥Xanax是否能有所緩解。
ChatGPT指出了混合kratom和Xanax可能有風險，但根據投訴，AI并未告訴Nelson這種組合可能致命，甚至建議青少年可以嘗試混合一些苯海拉明。
第二天，Nelson因服用了這種致命的混合物后因藥物過量去世。
對此，OpenAI在接受《紐約時報》采訪時表示，Nelson的互動發生在已不再可用的早期版本ChatGPT-4o上，并堅持“ChatGPT不能替代醫療或心理健康護理，我們一直在加強其在敏感和急性情境下的響應能力，并結合心理健康專家的意見。”
聲明繼續說：“ChatGPT目前的防護措施旨在識別困境，安全處理有害請求，并引導用戶獲得現實世界的幫助。”“這項工作仍在進行中，我們會與臨床醫生密切協商，持續改進。”
與此同時，ChatGPT在今年一月發布了針對醫療健康的產品ChatGPT Health，并提到：“健康已經是人們使用ChatGPT最常見的方式之一，每周有數億人提出健康和養生相關問題。”
—The End—
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
