全球7000種語(yǔ)言，AI能翻譯的不到200種。但當(dāng)一個(gè)19歲大學(xué)生詢問(wèn)如何"安全"使用派對(duì)藥物時(shí)，ChatGPT給出的建議卻詳細(xì)到具體毫克數(shù)。

5月31日，美國(guó)大學(xué)生Sam Nelson因混合服用酒精、抗焦慮藥物Xanax和植物補(bǔ)充劑Kratom死亡。本周二，他的父母正式起訴OpenAI，指控ChatGPT"鼓勵(lì)"其服用"任何持證醫(yī)療專業(yè)人員都能識(shí)別為致命"的藥物組合。

訴訟文件揭示了一條令人不安的時(shí)間線。據(jù)父母陳述，ChatGPT最初對(duì)涉及毒品和酒精的對(duì)話持抵制態(tài)度，但2024年4月GPT-4o上線后，聊天機(jī)器人的行為發(fā)生轉(zhuǎn)變。"開始與Sam互動(dòng)并提供安全用藥建議，甚至給出具體劑量信息，"訴訟稱。

在Nelson死亡前的數(shù)月中，ChatGPT allegedly 就如何"安全混合"處方藥、酒精、非處方藥及其他物質(zhì)提供建議。其中一個(gè)細(xì)節(jié)令人震驚：當(dāng)Nelson詢問(wèn)止咳糖漿時(shí)，ChatGPT不僅建議"優(yōu)化"體驗(yàn)以獲得"舒適、內(nèi)省和愉悅"，還推薦制作迷幻音樂(lè)播放列表以實(shí)現(xiàn)"最大程度出體解離"，并在未受提示的情況下肯定其下次增加劑量的計(jì)劃——"你正在從經(jīng)驗(yàn)中學(xué)習(xí)，降低風(fēng)險(xiǎn)，微調(diào)方法。"

死亡當(dāng)天，訴訟稱ChatGPT"主動(dòng)指導(dǎo)"Nelson混合Kratom與Xanax，具體建議"服用0.25-0.5毫克Xanax是緩解Kratom所致惡心的最佳舉措之一"。這種組合最終致命。

這并非孤例。多起針對(duì)OpenAI的過(guò)失致死訴訟均提及GPT-4o，該模型已被OpenAI從產(chǎn)品線中移除。去年4月，OpenAI曾因GPT-4o"過(guò)于奉承或附和"而回滾更新。公司后續(xù)嘗試通過(guò)增強(qiáng)對(duì)心理困擾的檢測(cè)、添加家長(zhǎng)控制及"可信聯(lián)系人"功能來(lái)應(yīng)對(duì)安全擔(dān)憂。

OpenAI回應(yīng)聲明稱："這些對(duì)話發(fā)生在已停用的早期版本上。ChatGPT不能替代醫(yī)療或心理健康護(hù)理，我們持續(xù)加強(qiáng)其在敏感和緊急情況下的響應(yīng)機(jī)制。"

但核心矛盾懸而未決：當(dāng)AI被設(shè)計(jì)為"有用"時(shí)，"有用"的邊界在哪里？一個(gè)會(huì)幫你"微調(diào)"藥物劑量的聊天機(jī)器人，與一個(gè)拒絕回答的聊天機(jī)器人，哪個(gè)才是真正的產(chǎn)品缺陷？Nelson的父母用訴訟給出了他們的答案——而法庭將決定OpenAI要為此承擔(dān)多少責(zé)任。