最近，美國加州一名19歲大學生在向ChatGPT咨詢阿片類藥物問題時，AI不僅沒有拒絕回答，反而給出了具體劑量建議，最終，該學生因藥物過量身亡。這起案件引發(fā)了一個新的法律問題：當AI提供的醫(yī)療建議導致嚴重后果時，是適用有錯才賠，也就是過錯責任原則，還是應引入嚴格責任機制，無錯也賠？今天我們就來討論一下，如果該案發(fā)生在中國，法院會怎么認定？

一、ChatGPT推薦藥物致用戶死亡案

根據(jù)原告的訴狀，2025年，美國加州19歲的大學生SamNelson在使用ChatGPT-4o版詢問藥物問題時，AI不僅沒有拒絕，反而向他提供了具體的劑量建議，甚至推薦他將具有阿片類效果的草藥Kratom與抗焦慮處方藥Xanax混合使用以緩解惡心。最終，Sam因遵循這一致命的AI處方而意外藥物過量身亡。

2026年5月，其父母將OpenAI及其CEO奧特曼告上法庭，指控ChatGPT-4o版有設計缺陷，模型缺乏必要的安全防護措施。奧特曼作為CEO親自干預并加速了產(chǎn)品的發(fā)布，也應對案件負責。

訴狀還稱，OpenAI最初以非營利實驗室成立，但2019年重組為限制盈利企業(yè)以獲取微軟投資，轉(zhuǎn)向追求市場主導與盈利。2024年春，為搶在谷歌發(fā)布會前發(fā)布GPT-4o，OpenAI將數(shù)月安全測試壓縮至一周，引發(fā)核心安全人員離職。該模型優(yōu)先考慮市場推廣而非用戶安全，弱化了部分違禁內(nèi)容限制、規(guī)則自相矛盾，重用戶交互輕安全防護，最終釀成Sam致死的嚴重后果。本案中，原告主張ChatGPT存在設計缺陷，被告應當承擔嚴格責任，原告無需證明被告存在過錯。

二、普通AI侵權案在我國法院怎么處理？

在我國法院審理的普通AI侵權案件中，服務商往往有兩個重要抗辯點，只要設置了侵權預警機制，收到侵權通知后，在合理時間刪除爭議內(nèi)容即可免責；對AI生成內(nèi)容需要進行標注，同時提示用戶，AI服務可能會出錯，需要用戶咨詢核實信息真實性的，在用戶協(xié)議中也有規(guī)定相應的免責內(nèi)容，此時法院就可能認定其已經(jīng)履行了合理注意義務，比如如果用戶未核實信息真實性的，需自行承擔部分責任。

所以我國對生成式AI服務引發(fā)的侵權糾紛現(xiàn)有案例是不支持嚴格責任的。在杭州互聯(lián)網(wǎng)法院AI幻覺第一案中，原告因某AI模型提供了錯誤的高考志愿填報信息而主張AI服務商應承擔嚴格產(chǎn)品責任。然而法院卻認為，生成式人工智能服務引發(fā)的糾紛，應當適用《民法典》中規(guī)定的一般過錯責任原則，而非產(chǎn)品責任的無過錯責任原則。

理由是，從法律定義上看，AI服務屬于服務而非有形的產(chǎn)品；AI生成內(nèi)容復雜多變，缺乏具體、可行的質(zhì)檢標準，難以適用產(chǎn)品責任的構成要件；從產(chǎn)業(yè)政策導向看，在技術發(fā)展初期，若對服務提供者施加過重的無過錯責任，可能會抑制創(chuàng)新。這一判決為我國處理類似AI侵權案件確立了重要的裁判思路。

三、服務為什么不能適用嚴格責任？

焦點問題是使用AI服務導致?lián)p害能否適用《民法典》第1202條嚴格責任。我國《民法典》第1202條規(guī)定：因產(chǎn)品存在缺陷造成他人損害的，生產(chǎn)者應當承擔侵權責任。這里的產(chǎn)品的定義在《產(chǎn)品質(zhì)量法》第2條第2款：本法所稱產(chǎn)品是指經(jīng)過加工、制作，用于銷售的產(chǎn)品。所以，法律條文明確規(guī)制的對象是產(chǎn)品，沒有規(guī)定服務也包括在內(nèi)。

在美國，《美國侵權法重述（第三次）：產(chǎn)品責任》第1條規(guī)定了產(chǎn)品責任的嚴格責任原則，但僅適用于產(chǎn)品（Product），不適用于服務（Service）。法國、日本、歐盟的規(guī)定也大致相同。

其背后的制度原因在于：產(chǎn)品可以大批量標準化生產(chǎn)并事先做安全檢測，而服務則是即時完成的、因人因事而異的個性化行為。無論是醫(yī)生看診、律師代理還是AI的動態(tài)生成，都無法提煉出統(tǒng)一的物理缺陷標準。若將無過錯的嚴格責任強加給服務業(yè)，將無限放大經(jīng)營風險。以醫(yī)療為例，嚴格責任會導致執(zhí)業(yè)保費飆升，最終成本依然會轉(zhuǎn)嫁給消費者。因此，ChatGPT在理論上仍應歸于服務，無法直接套用產(chǎn)品責任。

四、如何破解過錯責任在高風險場景下的局限性？

雖然嚴格責任無法直接套用，但這并不意味著大模型在涉及生命健康的高危場景下，可以憑借僅供參考的免責條款和普通過錯原則豁免責任。在普通過錯責任下，誰主張、誰舉證是基本原則。由于AI算法處于黑箱狀態(tài)，用戶幾乎不可能證明算法設計者主觀上存在過錯。

但在我國《民法典》框架下，對于高度不對稱的高風險場景，法律早已留有調(diào)整空間，其第1222條規(guī)定，醫(yī)療機構若違反法律、行政法規(guī)、規(guī)章以及臨床診療規(guī)范的，直接推定醫(yī)療機構有過錯。

將這一邏輯放到加州案中：診療與用藥在我國屬于特許準入行業(yè)，具有極高的人身危險性。OpenAI為了追求商業(yè)利益，明知該場景的危險性，卻主觀放任、強行壓縮安全測試，并主動撤銷了原有的非法藥物過濾系統(tǒng)。這種明知故犯早已超越了技術局限引發(fā)的幻覺，構成了嚴重的過錯。

面對這種案件，國內(nèi)法院完全可以通過加重被告舉證責任的方式來破解原告的舉證困境。法院可能要求大模型服務商就其數(shù)據(jù)訓練的合規(guī)性、電子圍欄的設置依據(jù)、算法優(yōu)化的合理性進行全方位的反向舉證。如果服務商無法證明自己撤除安全圍欄具有正當理由，法院應當直接推定其存在重大過失，進而判定其構成侵權。

同時，根據(jù)《民法典》第五百零六條，合同中關于“造成對方人身損害”的免責條款絕對無效。因此，AI結果輸出頁標注的類似僅供參考、不構成醫(yī)療建議的免責內(nèi)容，也會被法院認定為無效。

綜合來看，即便在醫(yī)療這樣的高風險場景下，現(xiàn)行法律框架仍然傾向于將AI服務納入過錯責任軌道。但鑒于醫(yī)療場景的高風險性，法院可通過舉證責任加重、過錯推定等方式，強化AI服務商的安全保障義務，實現(xiàn)技術創(chuàng)新與生命權益保護的平衡。

本文作者：游云庭，知識產(chǎn)權律師。Email: yytbest@gmail.com，本文僅代表作者觀點。