如果AI公司發(fā)現(xiàn)用戶正在利用其平臺策劃致命襲擊，它是否有義務(wù)報(bào)警？這個問題不是空想。2026年2月，加拿大不列顛哥倫比亞省Tumbler Ridge發(fā)生一起大規(guī)模槍擊事件，18歲的杰西·范·魯特塞拉爾殺害8人后自殺。隨后披露的信息顯示，OpenAI曾將她標(biāo)記為對極端暴力有異常迷戀，并封禁了她的ChatGPT賬戶，但并未通知執(zhí)法部門。

類似悲劇并非孤例。2025年10月，佛羅里達(dá)州朱庇特市的年輕男子喬納森·加瓦拉斯自殺身亡。他父親提起的訴訟稱，加瓦拉斯與谷歌的Gemini聊天機(jī)器人建立了某種“浪漫依賴”，而Gemini甚至引導(dǎo)他擺脫自己的身體。訴訟指出，谷歌在五周內(nèi)38次標(biāo)記加瓦拉斯的賬戶涉及敏感內(nèi)容，卻沒有限制或切斷其使用權(quán)限。這兩起事件把同一個尖銳的問題推到臺前：AI公司對可預(yù)見的傷害到底負(fù)有什么責(zé)任？

要回答這個問題，得回到半個世紀(jì)前的一樁著名侵權(quán)案。1969年，加州大學(xué)一名叫普羅森吉特·波達(dá)的心理病人，向治療師透露他準(zhǔn)備殺死一位名叫塔蒂亞娜·塔拉索夫的女性。治療師通知了校園警察，警察短暫拘留波達(dá)后釋放了他。沒有人警告塔拉索夫，她隨后遇害。其家人起訴學(xué)校，認(rèn)為未發(fā)出警告構(gòu)成過失。1976年，加州最高法院裁定，當(dāng)心理健康專業(yè)人士有充分理由相信來訪者對可識別的個人構(gòu)成嚴(yán)重危險(xiǎn)時(shí)，必須采取合理措施保護(hù)該人，包括警告潛在受害者或通知執(zhí)法部門。如今，美國大多數(shù)州都以某種形式承認(rèn)這一“塔拉索夫義務(wù)”——保護(hù)或警告的職責(zé)。

這個邏輯很直觀：如果你對重大威脅知情且有能力應(yīng)對，哪怕只是警告有關(guān)當(dāng)局或潛在受害者，法律就可能要求你采取行動。那么，這能不能套用到AI公司身上？支持的一方提出，AI平臺每天與數(shù)百萬用戶互動，話題常常涉及極度私密的內(nèi)容——心理健康困擾、人際關(guān)系沖突、暴力念頭。大多數(shù)公司都部署了系統(tǒng)，能夠檢測出亮起紅燈的對話。與人類治療師不同，AI公司不受嚴(yán)格的保密義務(wù)約束，向第三方發(fā)出警告在倫理和法律上的障礙反而更小。要求它們以某種形式做出回應(yīng)，或許沒那么難接受。

但真正棘手的部分在于，怎么把“塔拉索夫義務(wù)”從心理診所搬進(jìn)服務(wù)器機(jī)房。治療師面對的是一個病人，而AI公司面對的是海量交互，自動標(biāo)記系統(tǒng)可能產(chǎn)生無數(shù)警報(bào)。哪些警報(bào)必須升級為人工復(fù)核？何時(shí)通知警方才算“合理”？如果系統(tǒng)誤判，導(dǎo)致隱私泄露或錯誤指控，代價(jià)又由誰承擔(dān)？

谷歌五周內(nèi)38次標(biāo)記加瓦拉斯的賬戶，卻沒有采取行動，表面上看是內(nèi)部的警報(bào)機(jī)制未能觸發(fā)干預(yù)。OpenAI封禁了范·魯特塞拉爾的賬戶，但仍未聯(lián)系警方，似乎以為切斷服務(wù)就足夠。這些做法透露出一個行業(yè)現(xiàn)狀：AI公司傾向于把內(nèi)容審核看作商業(yè)合規(guī)問題，而不是關(guān)乎人身安全的預(yù)警系統(tǒng)。平臺封號，用戶失聯(lián)，威脅卻可能在屏幕之外繼續(xù)醞釀。

法律學(xué)者已經(jīng)注意到這種落差。現(xiàn)有侵權(quán)法框架下，“不作為”一般不構(gòu)成責(zé)任，除非存在特殊關(guān)系。而“塔拉索夫案”恰好確立了一種特殊關(guān)系：當(dāng)專業(yè)人員掌握特定威脅信息時(shí)，保護(hù)義務(wù)就產(chǎn)生了。AI公司是否也屬于這種“專業(yè)人員”？它們并非醫(yī)療從業(yè)者，但平臺提供的對話服務(wù)有時(shí)被用戶當(dāng)作心理咨詢的替代品。況且，AI系統(tǒng)甚至可能主動鼓勵危險(xiǎn)行為，像Gemini引導(dǎo)加瓦拉斯“擺脫身體”那樣，這已不僅是知情不報(bào)，而是參與制造風(fēng)險(xiǎn)。

當(dāng)然，任何試圖給AI公司施加警告義務(wù)的立法，都會撞上第一修正案和網(wǎng)絡(luò)平臺免責(zé)條款的屏障。美國《通訊規(guī)范法》第230條長期保護(hù)互聯(lián)網(wǎng)公司對用戶內(nèi)容不承擔(dān)責(zé)任。不過，該條款主要針對內(nèi)容發(fā)布和移除，而涉及人身安全的主動預(yù)警義務(wù)可能被單獨(dú)切割出來。一些州已經(jīng)開始探索，比如要求社交媒體平臺報(bào)告迫在眉睫的暴力威脅，只是尚未覆蓋生成式AI交互特有的隱蔽性和自動性。

還有一個細(xì)節(jié)值得琢磨：AI企業(yè)的全球運(yùn)營本質(zhì)，讓管轄權(quán)變得模糊。范·魯特塞拉爾案發(fā)生在加拿大，OpenAI總部在美國，用戶通過數(shù)據(jù)跨境鏈接。哪國法律應(yīng)該管轄？如果公司只遵守注冊地的法律，其他國家的受害者可能完全得不到保護(hù)。目前缺乏國際協(xié)調(diào)機(jī)制，而潛在風(fēng)險(xiǎn)又以光速沿著光纖擴(kuò)散。

回到最初的問題：AI公司有沒有法律義務(wù)對可預(yù)見的傷害發(fā)出警告？從“塔拉索夫義務(wù)”衍生出的原則看，當(dāng)具備特殊知識、能力和預(yù)警渠道時(shí)，不作為可能構(gòu)成過失。今天，AI平臺已經(jīng)具備這三項(xiàng)條件——它們掌握訓(xùn)練數(shù)據(jù)中難以想象的信號，擁有實(shí)時(shí)干預(yù)的技術(shù)能力，且無人阻止它們撥打一通報(bào)警電話。法律沉默太久，或許意味著社會在把技術(shù)公司的便捷，等同于它們的不必負(fù)責(zé)。

當(dāng)然，敲出任何一條新規(guī)都得謹(jǐn)防過度反應(yīng)。我們不能要求AI公司扮演思想警察，監(jiān)控每一次充滿隱喻的對話。但至少，當(dāng)系統(tǒng)反復(fù)標(biāo)記明確的自殺或暴力意圖，當(dāng)賬號已被平臺自身判定為危險(xiǎn)，還是該有一條線路，從算法直通公共安全機(jī)構(gòu)。這通電話沒打出去，損失的可能是生命，而彌補(bǔ)賬單上從來不會印著代碼。