【作者】姚佳（法學博士，中國社會科學院法學研究所編審，中國社會科學院大學教授、博士生導師)

【來源】北大法寶法學期刊庫《法學論壇》2026年第3期（文末附本期期刊目錄）。因篇幅較長，已略去原文注釋。

內(nèi)容提要：生成式人工智能服務提供者注意義務的界定，是認定侵權(quán)責任的核心前提。服務提供者因部署具有固有風險（如“幻覺”現(xiàn)象）的人工智能系統(tǒng)而持續(xù)開啟風險，且具備事實上的風險控制能力而應盡相應注意義務，履行該義務應符合行為效益與風險防范負擔之權(quán)衡原則。現(xiàn)行法相關規(guī)定及平臺用戶協(xié)議已設定了覆蓋內(nèi)容標識、內(nèi)容安全管控、算法透明、數(shù)據(jù)質(zhì)量保障、個人信息保護等多維度義務，侵權(quán)法中的交往安全義務在此難覓獨立的適用空間。過失認定仍應堅持以“理性人”標準為基石，但需將注意義務的適用范圍從單純的人類行為合理性拓展至“人機交互系統(tǒng)的整體安全性”，以契合技術特性與風險結(jié)構(gòu)。據(jù)此，服務提供者的注意義務可類型化為技術特性維度的注意義務、提供服務過程中非技術維度的注意義務以及程序性的注意義務。這一分析框架在侵權(quán)法體系內(nèi)為過失認定提供了類型化的判斷基準，有助于合理界定服務提供者的民事責任邊界，實現(xiàn)權(quán)益保障與行為自由的協(xié)調(diào)。

關鍵詞：生成式人工智能；服務提供者；注意義務；“理性人”標準；交往安全義務

目次 一、問題的提出 二、注意義務的產(chǎn)生基礎 三、注意義務的來源 四、注意義務的標準：“理性人”標準抑或新的“合理的人工智能”標準？ 五、注意義務的類型化 結(jié)語

一

問題的提出

生成式人工智能是指具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關技術，旨在通過學習大量數(shù)據(jù)的分布，捕捉數(shù)據(jù)的內(nèi)在特征和模式，在保持數(shù)據(jù)分布一致性的基礎上進行新內(nèi)容的生成。近年來，這一技術從實驗室研究躍升為備受學術界與產(chǎn)業(yè)界高度關注的戰(zhàn)略性前沿議題，以 ChatGPT為代表的大語言模型實現(xiàn)了現(xiàn)象級突破，并在軟件開發(fā)、科學研究、金融和醫(yī)療等多個領域得到廣泛應用。生成式人工智能的技術架構(gòu)主要包括提供算力支撐的計算硬件層、云計算平臺層、涵蓋基礎與精調(diào)模型的模型層以及面向終端用戶的應用層。基于該技術架構(gòu)，相關主體涵蓋提供算力基礎設施的芯片制造商與智算中心運營商、提供分布式計算與存儲服務的云服務商、從事基礎模型研發(fā)與領域精調(diào)的模型開發(fā)方，以及面向終端用戶提供服務的服務提供者（基于商用閉源或開源路徑開展產(chǎn)品創(chuàng)新的應用開發(fā)者與平臺運營方），并延伸至最終用戶、數(shù)據(jù)采集與標注服務商、模型分發(fā)平臺運營方等多元主體。這些主體在基礎設施支持、數(shù)據(jù)治理、模型優(yōu)化、平臺分發(fā)及內(nèi)容應用環(huán)節(jié)面臨差異化的技術風險與法律責任分配。就技術風險而言，如美國《人工智能風險管理框架》Artificial Intelligence Risk Management Framework (AI RMF 1.0)中指出的，與傳統(tǒng)軟件相比，人工智能特有的新發(fā)或增加的風險包括以下內(nèi)容：在數(shù)據(jù)層面，存在質(zhì)量缺陷（不真實、有偏見）、強依賴性、時效性脫節(jié)等情形；在系統(tǒng)層面，存在超大規(guī)模復雜性（數(shù)十億決策點）、透明度與可重復性不足等問題；在模型層面，存在訓練過程敏感擾動、預訓練模型統(tǒng)計不確定性及突發(fā)屬性等問題；在工程層面，存在測試標準缺失、難以規(guī)范記錄與驗證等情形；在運維層面，存在數(shù)據(jù)、模型、概念漂移導致頻繁維護困難；以及存在其他包括隱私泄露、環(huán)境影響和副作用不可預測等衍生風險。就法律責任而言，依“產(chǎn)品—服務”二分法，以及各主體在技術架構(gòu)中的功能定位、風險控制能力、注意義務程度及風險收益配比上的差異，基于責任與風險匹配原則，理論上以及法律適用上能夠形成從嚴格責任到過錯責任的梯度化歸責體系。

近年來域內(nèi)外有關生成式人工智能案例，均聚焦于服務提供者的注意義務。國內(nèi)典型案例如“奧特曼”案、AI 合成聲音侵權(quán)案、AI“幻覺”侵權(quán)案；域外典型案例如美國紐約時報訴微軟公司案（The New York Times Co. v. Microsoft Corp.）、“首例 AI 誹謗案”沃爾特斯訴 OpenAI 公司案（Walters v. OpenAI LLC）、斯塔巴克訴 Google 案（Starbuck v. Google LLC）等等。這些案件都聚焦于服務提供者對于生成內(nèi)容究竟是應盡結(jié)果性義務還是方式性義務，或者從源頭上對數(shù)據(jù)、算法和模型等應盡何種義務，這些問題不僅涉及服務提供者的民事責任，同時也涉及不同主體之間的風險與責任分配。

目前，國內(nèi)有關生成式人工智能服務提供者的注意義務亦形成不同觀點。有論者認為，服務提供者的注意義務，應以平臺技術中立原則為基礎，以行業(yè)通行的技術水平和技術標準為參照，合理設定與其信息交互服務相關以及信息管理能力相適應的注意義務，主要包括數(shù)據(jù)來源的合規(guī)義務、內(nèi)容服務的專業(yè)義務和風險管理義務等。有論者認為，服務提供者的注意義務應按照時序維度下生成式人工智能的運行階段進行設置，包括事前防范規(guī)則，即語料提供者提供語料的安全性審查和模型訓練者訓練模型的安全性審查；事中干預規(guī)則，即對高危用戶的行為的監(jiān)控義務和對生成內(nèi)容的風險提示義務；事后處置規(guī)則，即對人工智能生成內(nèi)容的強制標識和建立對違法不良內(nèi)容的投訴舉報反饋機制。有論者認為，在“采用行業(yè)通行技術措施”和“服務功能與合同目的相一致”認定標準基礎上，結(jié)合注意義務的功能目的，生成式人工智能服務提供者負有服務功能可靠性的基本保障義務、服務功能的顯著提示說明義務和生成內(nèi)容信息來源提示義務等注意義務。在國內(nèi)首例生成式人工智能“幻覺”引發(fā)的侵權(quán)訴訟案件中，法院采用動態(tài)系統(tǒng)論，認為服務提供者應盡三層注意義務：一是對法律禁止的“有毒”、有害、違法信息，負有嚴格審查義務；二是應盡服務功能的顯著提示說明義務；三是應盡功能可靠性的注意義務。還有論者認為，服務提供者對著作權(quán)侵權(quán)的注意義務，應當遵循客觀標準與動態(tài)標準，結(jié)合既有技術水平、侵權(quán)危害程度、內(nèi)容管理能力等因素，包括數(shù)據(jù)來源合法義務、算法優(yōu)化訓練義務和監(jiān)督用戶合規(guī)使用義務。亦有論者提出，服務提供者的注意義務在風險預防層、風險控制層和風險處置層分別具有不同的義務；以及主要應構(gòu)建和落實以生成內(nèi)容的標識義務、使用服務的提示義務以及侵權(quán)投訴為主的注意義務體系等。以上這些理論與實務觀點，均針對生成式人工智能的技術特點、行業(yè)通用水平、風險特征和服務特性設定服務提供者的合理注意義務，較為全面系統(tǒng)，為制度建構(gòu)和司法實踐提供了重要參考，也有助于在鼓勵技術創(chuàng)新與防范潛在風險之間實現(xiàn)平衡。

本文擬在現(xiàn)有理論與司法實踐的基礎上，進一步探討生成式人工智能服務提供者的注意義務。從理論框架而言，服務提供者的注意義務應置于傳統(tǒng)過失法理論和生成式人工智能服務特性的雙重視角下探討。注意義務（duty of care）是英美侵權(quán)法中過失侵權(quán)（negligence）的核心構(gòu)成要件和基石概念。英國上議院阿特金勛爵（Lord Atkin）在 Donoghue v. Stevenson 案（1932）中的經(jīng)典論述，確立了現(xiàn)代過失侵權(quán)法中的“鄰人原則”（Neighbour Principle），即“你不得損害你的鄰人”。在該原則中，確立了注意義務（duty of care）產(chǎn)生的可預見性標準。那么，誰又是生成式人工智能服務提供者的“鄰人”呢？從法益角度而言，任何因使用生成式人工智能服務可能對其權(quán)益造成損害的主體均屬于“鄰人”范疇。具言之，“鄰人”是指可以合理預見到其權(quán)益將因服務提供者的行為而受到不利影響的主體，包括但不限于用戶、相關著作權(quán)人、相關數(shù)據(jù)主體或其他可能受到不利影響的主體等。但是，與傳統(tǒng)的基于物理意義上的鄰人原則（如火車站臺上爆炸物所及范圍、交通安全、職業(yè)或營業(yè)活動以及合同性的保護義務等等）相比，生成式人工智能服務欠缺了一般意義上的物理范疇或者一個法定的在先關系，而是自互聯(lián)網(wǎng)技術出現(xiàn)以來，各類互聯(lián)網(wǎng)服務提供者（包括互聯(lián)網(wǎng)平臺、搜索引擎、人工智能服務提供者等）所提供的服務，均依托于特定發(fā)展階段下具有同質(zhì)性或相似性的通用技術。在同一技術發(fā)展階段（即“現(xiàn)有技術水平”）的前提下，相關主體可能基于法律規(guī)定、監(jiān)管要求、平臺用戶協(xié)議約定，或結(jié)合個案與實際場景，被課以相應的注意義務。故此，這一邏輯鏈條就與傳統(tǒng)的注意義務有所不同，傳統(tǒng)的注意義務呈現(xiàn)為“個案化”特色，在不同個案中會形成不同的注意義務，確定被告是否負有相應注意義務以及注意義務的范圍和邊界。然而，生成式人工智能服務提供者的注意義務卻因技術發(fā)展的階段性表現(xiàn)為相對“標準化”的注意義務，例如事先可預見并設定的標識義務、提示義務、保障基本與適當技術功能的義務以及舉報反饋機制等等，雖然這些義務可能是事后認定，但是其往往是法律規(guī)定、監(jiān)管要求或者行業(yè)通識性做法，而嚴格意義上的基于交往而形成的注意義務較難尋找或者抽象提煉。在此基礎上，本文擬進一步細化討論哪些問題可能會影響服務提供者的注意義務的設定，并影響相應民事責任的承擔。

二

注意義務的產(chǎn)生基礎

之所以產(chǎn)生生成式人工智能服務提供者的注意義務，一方面是因為生成式人工智能技術本身的固有風險，如系統(tǒng)、模型、工程等方面，本身就具有受“現(xiàn)有技術水平”限制所不可克服的風險；另一方面則是因為服務提供者在服務提供過程中可能存在的數(shù)據(jù)、著作權(quán)合規(guī)、生成內(nèi)容等風險。服務提供者向公眾提供該項服務，實質(zhì)上是制造并開啟了一個可能自主生成虛假信息、有害內(nèi)容的特定風險源，作為該風險源的開啟者和維持者，服務提供者也具有相較其他主體而言最強的風險控制能力，故此應承擔相應風險防范等注意義務。囿于技術發(fā)展水平的階段性局限，以及行業(yè)創(chuàng)新發(fā)展所需，應在服務提供者的行為效益與防范負擔之間進行權(quán)衡，以實現(xiàn)各方主體利益的合理平衡與風險的有效分配。

（一）風險開啟

生成式人工智能作為一種技術，其本身具有數(shù)據(jù)偏見、人工智能系統(tǒng)的“黑箱性”、不可解釋和不可控等風險。歐盟《人工智能法》（AI Act）采用風險分級、分類監(jiān)管框架，將人工智能系統(tǒng)按照對人類健康、安全與基本權(quán)利的潛在損害程度，劃分為不可接受風險（禁止）、高風險（嚴格合規(guī)）、有限風險（透明度義務）和最小風險（無額外義務）四級，風險越高，監(jiān)管越嚴格。盡管各界對于法案以風險為依據(jù)進行分類是否科學存在一定批評，但至少“風險進路”是一個重要的理解維度。例如，美國《人工智能風險管理框架》中指出，人工智能系統(tǒng)的最終用戶是指為特定目的使用該系統(tǒng)的個人或群體。這些個人或群體在特定情境下與人工智能系統(tǒng)進行交互。終端用戶的技術能力水平參差不齊，從人工智能專家到初次接觸技術的普通用戶均有涵蓋。面對如此眾多的用戶，無論是技術的風險還是服務可能產(chǎn)生的風險，均可能對用戶和其他相關主體產(chǎn)生不利影響，風險開啟由此而來。

如克雷斯蒂安·馮·巴爾（Christion von Bar）所言，一個被廣泛接受，甚至已被成文法所規(guī)定的法治觀念是：不當行為責任，要么是作為責任要么是不作為責任。這一“兩分體系”的主要目的是避免歸責中的一些問題。概括而言，作為就是指侵權(quán)行為人在受害人的法益上制造了危險；不作為則是指未排除威脅到受害人的危險。再精準一點講就是：在作為行為中被主張權(quán)利者自己啟動了具有法律意義的因果鏈；而在不作為中則是未中斷這一因果鏈。但是，將一個行為歸類到作為或不作為絕非僅是簡單的一對一關系，因為這一歸類直接關系到賠償責任認定中原則與例外的適用。一個人對于沒有他的作用力而發(fā)生在別人身上的事件就無須承擔責任，除非他和受害者之間有特別的緊密關系，或者他對導致?lián)p害發(fā)生的危險源負有特別責任。

“風險開啟說”的理論原型可溯至德國法上的“交往安全義務（Verkehrsspflicht）”中的“危險開啟或支配”理論。交往安全義務的功能在于擴大不作為的侵權(quán)行為，即于法定、契約、先行為義務所發(fā)生的作為義務之外，更使其他開啟或持續(xù)危險之人負有作為義務，使違反安全義務的不作為等同作為而構(gòu)成侵權(quán)行為。德國法上也在嘗試塑造“除以保護他人為目的之法律、法典中（分量較少）的侵權(quán)行為法部分、損害賠償法及根源于法官造法的普通法之‘有名侵權(quán)’以外，各國都有進一步為侵權(quán)行為法所特有的‘規(guī)范發(fā)生器’：一般注意義務”。當然，亦有論者指出，“一般交往安全義務說”非德國法學界的通說。大部分學者不承認交往安全義務可充當一般注意義務，主張唯其類型化后方能確定義務內(nèi)容。后經(jīng)法院通過“枯樹案”等裁判將其類型化為物件型（基于危險源支配）與債因型（基于合同關系擴張）兩種基本義務形態(tài)。二者的區(qū)別也較為明顯：物件型交往安全義務是危險先導，由危險決定交往范圍；而債因型的交往安全義務是交往先導，由交往決定危險范圍。由此可見，交往安全義務更強調(diào)物理意義上的“危險”，并且只能在個案中判斷。但是直至近年來的互聯(lián)網(wǎng)平臺、人工智能領域，物理意義上的危險式微，逐漸以“風險”代之。但是，二者在理論原理上相似，即對于開啟或持續(xù)風險之主體，使其承擔保護他人之義務。此處需強調(diào)的是，本文所討論的注意義務實際上是概括地包括法定、契約、先行為義務和交往安全義務在內(nèi)的服務提供者應負之義務，并非僅僅等同于德國法上的交往安全義務。

基于傳統(tǒng)理論上對風險（危險）開啟的界定以及生成式人工智能的風險特征，服務提供者開啟的風險主要包括以下兩方面：其一，技術自身固有缺陷或局限帶來的風險。作為以生成和輸出內(nèi)容為主要功能的技術，其算法生成技術面對一定“技術黑箱”，故生成過程較難回溯，只能依據(jù)輸出內(nèi)容來判斷。由于生成的內(nèi)容具有概率性和創(chuàng)造性，同一提示詞可能產(chǎn)生截然不同的結(jié)果。實踐中，用戶或開發(fā)者難以理解模型是如何得出某個生成結(jié)果的，這不僅增加了使用的難度，也帶來了安全風險。特別是在生成醫(yī)療、法律或金融等敏感領域的內(nèi)容時，生成式人工智能的不可解釋性可能導致決策失誤。這也就是在前述國內(nèi)和域外的“AI 幻覺”案例中，服務提供者不承擔責任的技術上的根本原因。總之，服務提供者首先開啟并持續(xù)的是由技術自身局限所引致的風險。其二，基于“提供服務”而開啟和持續(xù)的風險。服務提供者除提供模型之外，對于模型語料的使用等可能面臨數(shù)據(jù)治理瑕疵與授權(quán)鏈條缺陷等“軟風險”。此類風險并非技術固有缺陷，而是服務提供者在數(shù)據(jù)采集、處理及內(nèi)容生成過程中違反法定或約定義務，導致侵害他人合法權(quán)益。在數(shù)據(jù)質(zhì)量維度，訓練數(shù)據(jù)的真實性、準確性及完整性缺陷可能導致輸出內(nèi)容不真實，引發(fā)虛假信息傳播風險。在著作權(quán)維度，未經(jīng)授權(quán)使用受版權(quán)保護的作品進行模型訓練，構(gòu)成對權(quán)利人復制權(quán)、改編權(quán)等財產(chǎn)權(quán)益的侵害。在個人信息保護維度，未獲有效同意處理個人信息，或違反目的限制原則、最小必要原則，侵害個人信息權(quán)益。在人格權(quán)維度，生成內(nèi)容可能未經(jīng)許可使用他人肖像、聲音，或生成虛假信息貶損他人名譽，侵害肖像權(quán)、聲音權(quán)、名譽權(quán)等人格權(quán)益。總之，此類風險的特殊性在于，其發(fā)生不依賴于技術故障，而取決于服務提供者是否遵守法律、約定及內(nèi)部治理規(guī)范，諸如是否建立全生命周期的數(shù)據(jù)治理體系和權(quán)利審查機制等。但從風險維度而言，這是基于“提供服務”而開啟和持續(xù)的風險本質(zhì)上仍屬行為風險而非技術風險，即因服務提供者的不當行為或自身疏忽所致，而非算法或模型的固有缺陷引發(fā)。

（二）風險控制能力

在服務提供者開啟風險的基礎上，如何識別風險并增強對風險的控制能力，在邏輯上是融貫的。但是對于“風險”這個前置性概念，仍有必要進一步辨析。在侵權(quán)法上，“風險”是指行為人行為所造成的可預見風險的總體水平。風險的概念必然包含一種可識別的危險，該危險基于對現(xiàn)有事實的某種認知，以及某種傷害可能隨之發(fā)生的合理信念。為此目的，風險可被定義為對處于行為人位置的人而言是明顯的或應當是明顯的危險。行為人的行為必須根據(jù)其在當時明顯可見的可能性來評判，而非通過“事后聰明”而向前審視。該標準是一種行為標準，而非結(jié)果標準。如果風險在行為發(fā)生時并不明顯，那么僅僅因為事后所有人都能看出風險很大是不夠的。鑒于該可識別的風險，該行為若要構(gòu)成過失，必須是不合理的。“可預見的風險是確定過失有無的一個因素。要判斷是否已行使恰當關注，事實裁定者必須對被告實施‘過失’時的可預見風險進行評估。可預見風險的范圍要看案件的具體事實情形，且無法對一整類案件進行有效評估；事實情形稍加變化，可預見的風險就可能發(fā)生巨大變化。因此，……法院應當將該問題留給陪審團裁定，除非理智之人對此絕無分歧。”可預見性判斷的是風險類型而非具體損害。例如，在美國著名的 Palsgraf v. Long Island Railroad Company 案中，鐵路公司雇員協(xié)助乘客時包裹掉落爆炸致原告受傷，初審及上訴庭均判被告賠償，但紐約上訴法院最終以4∶3推翻原判，認定被告對不可預見的損害不承擔責任。該案中，上訴法院多數(shù)法官認為，“應當預防的合理風險界定了應當遵守的義務，而風險意味著關聯(lián)；它是指對他人或在可預見范圍內(nèi)對其他人的風險。”在該案中，多數(shù)法官認為，被告并不負有對原告安全盡到最高程度的注意義務。就上述內(nèi)容，可總結(jié)出“風險”的幾個關鍵要素：風險是可識別、可預見、客觀的、關聯(lián)的，應事前預見而非事后審視，否則其并非法律意義上的風險。

風險控制能力所要討論的問題是有能力控制以及如何控制的問題。一個自然的邏輯推演——注意義務的邊界應當與服務提供者對風險的控制能力相匹配，控制能力越強，注意義務越重；控制能力越弱，注意義務越輕。但果真如此嗎？服務提供者的控制能力是一般性、概括性的還是在“個案”中也依然能對特定侵權(quán)內(nèi)容產(chǎn)生預見而精準控制？顯然，這個問題仍有必要進一步討論。

從技術角度而言，生成式人工智能體現(xiàn)出較強的“涌現(xiàn)能力”。但凡存在復雜系統(tǒng)，涌現(xiàn)現(xiàn)象就可能發(fā)生，其意義在于出現(xiàn)了一個超乎人們想象的現(xiàn)象或結(jié)果。這也意味著，在結(jié)果上，大模型可能產(chǎn)生訓練時未曾預期的輸出，這個結(jié)果可能是好的，也可能是被負面評價的“幻覺”。從上述技術自身固有缺陷或局限帶來的風險而言，服務提供者對風險的控制只能是盡可能地提高技術水平，但是這個技術水平也受到現(xiàn)有科技發(fā)展階段的客觀限制。亦如有論者指出，對于因虛假信息構(gòu)成侵權(quán)的服務提供者，應判斷其是否盡到了現(xiàn)有技術條件下最大的注意義務。可見，控制能力與注意義務之間的關系首先受“現(xiàn)有技術條件”限制。

就基于“提供服務”而開啟和持續(xù)的風險的控制而言，其涉及技術設計、技術運行和技術后果等不同維度風險的控制能力，這些控制能力與上述科技發(fā)展階段的技術水平不同。對于技術設計風險的控制能力，通常指向服務提供者在模型架構(gòu)、訓練數(shù)據(jù)、安全對齊機制等方面的控制能力；技術運行風險的控制能力，則指向服務提供者在內(nèi)容生成過程中的干預能力，包括相應敏感詞等輸入過濾或者隱私、敏感信息或事件方面的輸出審核等；技術后果風險的控制能力，則指向服務提供者在侵權(quán)發(fā)生后的控制能力，也就是通常的“通知—刪除”規(guī)則，如刪除、屏蔽、斷開鏈接等。

以上分析可見，服務提供者有能力控制風險，但是這些風險一方面包括較為概括的由技術發(fā)展水平限制的風險，另一方面則包括對于“軟風險”在內(nèi)的不同維度的風險控制。但是這種風險控制與傳統(tǒng)上注意義務案例中的一系列風險的可預見性不同，其對于特定侵權(quán)內(nèi)容僅具有統(tǒng)計意義上的“一般性預見”，而并非如交通安全、職業(yè)活動中的相對特定性內(nèi)容的預見。當然，控制能力本身具有動態(tài)性，其隨著技術進步，原本不可控的風險可能會變得可控，注意義務的內(nèi)容也應作相應調(diào)整。

（三）行為效益與風險防范負擔之權(quán)衡

服務提供者雖然開啟風險并具有控制風險的能力，但是其負有注意義務并防范風險并非無限度、無條件的，而應在合理范圍內(nèi)與其技術能力、行業(yè)水平及成本收益相適應。美國《侵權(quán)法重述（第三版）》（Restatement of Torts, Third Edition）對“過失”概念進行解析時指出，概念中暗示了一種過失的“風險—利益測試”，“風險”是指行為人行為所造成的可預見風險的總體水平，而“利益”是行為人或其他人因行為人不去采取預防措施而得到的益處。風險與利益的平衡是過失之“權(quán)衡進路”，這一進路基于并表達了一種簡單的理念——如果行為的壞處大于其益處，那么該行為存在過失；反之則否。這里的壞處是指行為所導致的風險程度。行為的“益處”則與風險防范的負擔相關，當行為人拒絕采納某種防范措施時即避免了該負擔。在很多案件中，它是一種經(jīng)濟負擔，最初由行為人承受，隨后又被實質(zhì)性地轉(zhuǎn)移到其顧客身上。這種權(quán)衡更多是在個案中適用，但是其原理和思路同樣可適用于生成式人工智能領域。

生成式人工智能服務提供者從其行為中獲益。具體而言，服務提供者通過模型訓練與數(shù)據(jù)價值挖掘，實現(xiàn)內(nèi)容生成效率躍升，降低信息生產(chǎn)邊際成本，并依托技術輸出、服務訂閱、API 接口調(diào)用等商業(yè)模式獲取直接經(jīng)濟收益；同時，其通過拓展應用場景、提升用戶規(guī)模與市場占有率，強化數(shù)據(jù)優(yōu)勢與算法能力，獲得競爭優(yōu)勢并獲取經(jīng)濟效益。

與獲益相對應，服務提供者需承擔風險防范義務。具體而言，服務提供者對模型具有控制能力，通過調(diào)整模型參數(shù)、訓練數(shù)據(jù)集以及對生成內(nèi)容進行監(jiān)控、篩選等方式有效管控風險，因此有義務采取預防措施防止損害發(fā)生。其風險防范成本包括建立安全審核、數(shù)據(jù)治理及風險預警機制，通過設計相關制度和防范措施，規(guī)制算法偏見、數(shù)據(jù)泄露、內(nèi)容侵權(quán)等潛在風險；同時，其需履行數(shù)據(jù)溯源、獲得合法授權(quán)及生成內(nèi)容標識等義務，防范因數(shù)據(jù)瑕疵或授權(quán)缺陷導致的權(quán)益侵害，以平衡技術創(chuàng)新與法益保護的關系。但同時也應注意的是，其防范成本并非無限制。由于生成式人工智能面向海量用戶提供實時交互服務，要求提供者對所有輸出進行人工審核在經(jīng)濟上不可行，若采用傳統(tǒng)出版者的高強度注意標準，也不符合技術發(fā)展和實際情況，就好比要求其窮盡所有措施而完全不產(chǎn)生“幻覺”并不切實際。

基于行為的社會價值的考量。如普洛瑟（William L. Prosser）曾指出，在每一案件中，都必須將該風險的概率與嚴重性，與所涉行為類型的效用進行權(quán)衡。問題在于“這是否值得”。雖然許多風險是由簡單的粗心大意造成的，但許多其他風險是在社會完全認可的情況下可以被合理地承受的。必須考慮的因素中，最重要的是行為人所追求的利益的社會價值。大模型也能夠產(chǎn)生社會效益。例如，大模型能夠提升信息生產(chǎn)效率與知識獲取的便利性，推動各行業(yè)智能化轉(zhuǎn)型與產(chǎn)業(yè)升級，并且通過技術廣泛應用解決社會復雜問題，如醫(yī)療診斷、科學研究和公共治理等，這些最終都能實現(xiàn)社會整體福利的增進。故此，對于服務提供者，應在其行為效益與風險防范負擔之間進行權(quán)衡，并考量技術進步所帶來的整體社會增益，從而使其風險防范負擔限定于合理范圍，既與其技術能力及發(fā)展階段相適應，又符合成本收益比例原則，而非課以超越現(xiàn)有技術水平或必要成本的不當負擔。

三

注意義務的來源

注意義務的來源是確定注意義務范圍的直接依據(jù)與邏輯前提，不同的義務來源決定了義務內(nèi)容、強度及邊界的認定。注意義務的產(chǎn)生基于誠實信用原則，但是其范圍已經(jīng)超越了該原則的范圍，因為其還具有保護他人的義務。而且這一義務的產(chǎn)生也是社會正常秩序的一般要求，是法的正義價值、秩序價值的具體體現(xiàn)。注意義務的產(chǎn)生依據(jù)在于社會規(guī)則，包括法律規(guī)則和非法律規(guī)則。具體包括制定法、技術性規(guī)范（也包括特定職業(yè)、行業(yè)的操作慣例）、習慣和常理、合同或者委托和先行行為等。根據(jù)生成式人工智能特性和行業(yè)慣例，以下主要討論服務提供者在現(xiàn)行法體系下、用戶協(xié)議約定和交往安全義務等三個主要方面。

（一）現(xiàn)行法

現(xiàn)行法規(guī)范體系下，生成式人工智能服務提供者的注意義務源于法律、行政法規(guī)及部門規(guī)章等多重來源，構(gòu)成其義務邊界與責任認定的規(guī)范基礎。

在法律層面，《民法典》第1165條確立一般侵權(quán)責任，為服務提供者設定不得侵害他人民事權(quán)益的基本注意義務；第1018條、第1024條要求防范生成內(nèi)容對他人肖像權(quán)、名譽權(quán)的侵害；第1034條至第1039條規(guī)定要求訓練數(shù)據(jù)和用戶輸出端防止對個人信息權(quán)益的侵害；第1194條至第1197條關于網(wǎng)絡侵權(quán)責任的規(guī)定，也存在類推適用的空間。《個人信息保護法》第5條至第9條確立合法、正當、必要等處理原則，第13條要求確保個人信息處理具有合法性基礎，其他各條也系統(tǒng)性地規(guī)定了服務提供者作為信息處理者應當遵守相應的義務，也是注意義務的基礎。《著作權(quán)法》第3條、第10條、第52條、第條、第54條等要求服務提供者審查作品來源合法性，保護他人的著作權(quán)。《網(wǎng)絡安全法》第21條、第22條、第40條至第42條分別明確網(wǎng)絡安全等級保護義務、網(wǎng)絡產(chǎn)品與服務的安全保障義務以及要求網(wǎng)絡運營者依法處理并嚴格保護用戶個人信息。《數(shù)據(jù)安全法》第27條、第29條、第30條分別要求數(shù)據(jù)處理者建立健全全流程數(shù)據(jù)安全管理制度、加強風險監(jiān)測與安全事件應急處置，重要數(shù)據(jù)處理者應定期開展風險評估。

《生成式人工智能服務管理暫行辦法》系統(tǒng)構(gòu)建了服務提供者的注意義務體系，貫穿風險預防與過程管控的治理理念與要求。該辦法第4條確立基本原則，要求服務提供者在技術研發(fā)、數(shù)據(jù)訓練、模型優(yōu)化、服務提供等全過程中，采取有效措施防范歧視、虛假有害信息，保障知識產(chǎn)權(quán)與個人信息權(quán)益。第7條明確訓練數(shù)據(jù)合法來源的注意義務，要求使用具有合法來源的數(shù)據(jù)和基礎模型，涉及知識產(chǎn)權(quán)的不得侵害他人權(quán)利，涉及個人信息的應當取得個人同意或符合法定情形。第8條規(guī)定數(shù)據(jù)標注義務，要求規(guī)范標注規(guī)則、開展質(zhì)量評估并加強人員培訓。第9條課以服務提供者作為網(wǎng)絡信息內(nèi)容生產(chǎn)者與個人信息處理者的雙重責任。第10條要求采取措施防范未成年人過度依賴或沉迷生成內(nèi)容。第11條明確使用者信息保護義務，不得收集非必要個人信息，不得非法留存能夠識別使用者身份的相關信息。第12條確立生成內(nèi)容標識義務。第14條規(guī)定內(nèi)容審核與應急處置注意義務，要求發(fā)現(xiàn)違法內(nèi)容時及時采取停止生成、消除等處置措施，并履行報告義務。第15條要求建立投訴、舉報機制。上述規(guī)定共同構(gòu)成服務提供者注意義務的具體內(nèi)容，涵蓋數(shù)據(jù)來源合法性、內(nèi)容安全、用戶權(quán)益保護、應急處置等多個維度。

上述規(guī)范形成了具有層次性的注意義務體系。法律確立一般性、基礎性的注意義務，行政法規(guī)及部門規(guī)章針對生成式人工智能的特殊風險設定具體、可操作的義務。故此，在司法實踐中，認定服務提供者是否盡到注意義務，需綜合考量規(guī)范來源，結(jié)合技術發(fā)展水平、行業(yè)慣例及個案情形，判斷其是否達到服務提供者應有的注意程度。

（二）用戶協(xié)議

服務提供者與用戶之間的關系，與以往各類平臺與用戶之間的關系具有一定相似性，均通過用戶協(xié)議（用戶服務協(xié)議）根據(jù)平臺功能設定彼此之間的權(quán)利義務關系。但因生成式人工智能具有技術特性，其用戶協(xié)議在內(nèi)容上與以往平臺存在差異，除約定服務使用規(guī)則、費用標準、知識產(chǎn)權(quán)歸屬等一般條款外，還會明確服務提供者的注意義務內(nèi)容，包括數(shù)據(jù)安全保護義務、個人信息處理規(guī)則、生成內(nèi)容審核機制、風險提示與告知義務等。用戶協(xié)議作為電子合同，在性質(zhì)上最接近于服務合同，屬于格式條款，服務提供者應遵循公平原則確定雙方權(quán)利義務，并采取合理方式提示用戶注意與其有重大利害關系的條款，確保用戶充分知悉服務風險及自身權(quán)益邊界。

作為服務提供者單方面提供的用戶協(xié)議，其法律性質(zhì)素來存在一定爭議，主要集中在其是否實質(zhì)上取得用戶同意并且體現(xiàn)用戶的意思自治，從而使其可能會被認定為合同或者不屬于傳統(tǒng)的合同。聯(lián)合國國際貿(mào)易法委員會認為，平臺與用戶之間是一種合同關系，至于合同性質(zhì)，取決于平臺與用戶之間的具體關系。數(shù)字平臺是“基于合同的模型”，其核心在于平臺與每個用戶之間的合同。根據(jù)該合同，平臺運營商向用戶提供平臺服務，從而使用戶獲得對數(shù)字平臺的訪問權(quán)限（“平臺—用戶合同”）。這種訪問控制導致數(shù)字平臺被描述為“封閉”環(huán)境。這一合同是典型的附和合同，至于其具體的合同類型，可能屬于或超出現(xiàn)有法律下已確立的合同類型，這在不同司法管轄區(qū)可能有所不同。合同的定性，與平臺與用戶之間關系的定性相關聯(lián)，并可能對雙方的權(quán)利和義務產(chǎn)生影響，包括對當事人自治的限制。然而，萊姆利（Mark A. Lemley）早在2006年就指出，由于用戶協(xié)議實質(zhì)上缺少“同意”要素，因而其并非傳統(tǒng)意義上的合同。萊姆利認為，“使用條款”（terms of use，中文也通常翻譯為“用戶協(xié)議”）這個總稱具有誤導性，其具體可包括拆封許可、點擊許可和瀏覽許可等多種形式。雖然“使用條款”聲稱是合同格式，而且只要在線用戶點擊“我同意”，法院就認為這一“點擊許可”使該合同具有可執(zhí)行性，但是該“使用條款”可能缺乏合同意義上的（能夠代表用戶意思的）“同意”。在現(xiàn)實情況下，司法機構(gòu)卻表現(xiàn)出削弱甚至完全摒棄“同意”這一概念的傾向，這與人們所認為的合同越來越不吻合。亦有論者將在線格式合同定性為“混亂的合同”，認為此類合同存在平臺以低成本、便捷方式擬訂冗長合同，并且不利于消費者閱讀和同意，從而影響消費者的知情權(quán)和自身權(quán)利行使。盡管學界與實務中對用戶協(xié)議的法律性質(zhì)尚存爭議，但各類觀點的共識在于：用戶協(xié)議是以合同形式確立平臺與用戶之間權(quán)利義務關系的法律文件，且在平臺實踐中已被廣泛采用并普遍認可。這意味著，除存在法律規(guī)定的格式條款無效等法定情形外，合法有效的用戶協(xié)議對平臺與用戶均具有法律約束力。

在用戶協(xié)議基本法理的基礎上，本文嘗試對目前國內(nèi)、域外主要大模型用戶服務協(xié)議中有關生成式人工智能服務提供者的注意義務的約定條款等進行梳理和總結(jié)。本文選取了國內(nèi)四個較為主流的大模型的用戶協(xié)議和域外較為主流的兩個大模型的用戶協(xié)議，此處不列舉具體名稱。通過此項梳理，期待從用戶協(xié)議的視角揭示服務提供者注意義務的具體內(nèi)容、履行方式及其與法定注意義務的銜接關系，為司法實踐中注意義務的認定與責任邊界的劃定提供參考。

國內(nèi)主要大模型用戶協(xié)議主要涵蓋五方面義務，具體如下：

一是服務提供者負有風險告知義務。服務提供者在用戶協(xié)議中均以顯著方式提示服務的局限性及潛在風險。各協(xié)議均明確要求：提示生成內(nèi)容可能存在錯誤、遺漏或不準確之處，不得作為專業(yè)建議（醫(yī)療、法律、金融等領域）或決策依據(jù)；提示“聯(lián)網(wǎng)搜索”功能下第三方內(nèi)容的不可控性；提示未成年人需在監(jiān)護人陪同下使用，防范沉迷與過度依賴。此類義務旨在保障用戶知情權(quán)，使其能夠較為理性地認識技術特性與風險邊界。

二是內(nèi)容標識與透明度義務。根據(jù)相關規(guī)定，服務提供者負有顯式與隱式雙重標識義務。顯式標識包括在產(chǎn)品界面添加“AI 生成”提示、在生成圖片邊角位置添加標識、在視頻起始畫面添加提示等；隱式標識則要求在文件元數(shù)據(jù)中添加生成內(nèi)容屬性信息、服務提供者名稱或編碼等制作要素信息。同時，服務提供者需發(fā)布模型原理、算法備案或訓練機制相關說明，對算法機制予以披露，保障用戶與公眾對技術原理的知情權(quán)。

三是審查處置與安全管理義務。服務提供者須建立內(nèi)容審查與風險防控機制，包括采取技術手段或人工手段對輸入和輸出進行審查，建立風險過濾機制與違法內(nèi)容特征庫；對違規(guī)內(nèi)容采取警示、限制功能、暫停使用、關閉賬號、刪除內(nèi)容等處置措施；發(fā)現(xiàn)違法內(nèi)容時及時采取停止生成、停止傳輸、消除等處置措施，并履行報告義務；對涉詐等異常賬號重新核驗，發(fā)現(xiàn)違法犯罪線索依法移送相關部門。

四是信息保護與數(shù)據(jù)安全義務。服務提供者對用戶輸入信息及使用記錄負有保護義務，包括不得收集非必要個人信息，不得非法收集、泄露能夠識別用戶身份的信息；采取加密技術、匿名化處理等措施保障個人信息安全；將境內(nèi)收集的個人信息存儲于境內(nèi)，向境外提供需取得單獨同意或符合法定情形；為用戶提供查閱、復制、更正、刪除個人信息及撤回授權(quán)的權(quán)利；建立賬號安全保護機制，對密碼找回、賬號申訴等情形進行身份核驗。

五是反饋改進與投訴處理義務。服務提供者須建立用戶反饋與投訴處理機制，包括提供便捷的反饋入口（如“聯(lián)系我們”、聯(lián)系郵箱等）；建立侵權(quán)投訴指引，明確投訴路徑、所需材料及處理流程；對用戶的投訴、申訴在合理期限內(nèi)予以反饋；根據(jù)用戶反饋持續(xù)優(yōu)化模型與服務。

域外主要大模型用戶協(xié)議主要涵蓋四方面義務，具體如下：

一是提示義務的層級化。平臺普遍采用“基礎提示+強化提示”雙層結(jié)構(gòu)，基礎提示涵蓋服務更新、費用變更等常規(guī)事項，通常設置14日至30日合理預告期；強化提示針對測試版本、重大功能變更等特殊情形，以顯著形式突出服務可靠性不足、安全審計缺失等核心風險。在人工智能特性風險方面，要求明確披露相關關鍵內(nèi)容，如輸出可能存在重大不準確、行動可能偏離用戶意圖、不應未經(jīng)核實即依賴輸出、信息可能非最新以及非最完整、輸出不代表服務提供者觀點。這種披露義務源于大語言模型概率生成機制的技術本質(zhì)。

二是標識義務的體系化。該義務圍繞三類對象展開：服務形態(tài)標識，以特定標簽區(qū)分測試版本與正式服務；權(quán)屬邊界標識，明確服務本身、用戶輸入、模型輸出三者的知識產(chǎn)權(quán)歸屬；第三方內(nèi)容標識，標明非平臺直接提供內(nèi)容的責任主體。

三是處置義務的梯度化。處置權(quán)配置呈現(xiàn)“階梯式”特征：第一層級為請求處置，針對終端用戶違規(guī)，平臺先要求客戶方自行處理，未及時響應時方得介入；第二層級為直接限制，針對安全緊急情況、法律強制要求等情形，平臺可徑行采取限制或暫停措施，但須受到嚴格限制，事由消除后及時恢復；第三層級為終止處置，對根本違約情形，平臺可終止協(xié)議，同時負有清理數(shù)據(jù)、結(jié)算費用的后合同義務。

四是報告反饋義務。平臺負有審計報告提供、安全措施變更通知等義務，承諾按年度提供獨立第三方審計報告。支持用戶對輸出進行評分與問題上報，建立專門支持中心處理申訴，為內(nèi)容審核與賬號處置提供申訴渠道等，使用戶從被動接受者轉(zhuǎn)化為服務改進的參與主體。

以上關于域內(nèi)外大模型服務提供者注意義務的比較分析，可見二者存在以下異同：

第一，協(xié)議內(nèi)容總體架構(gòu)和出發(fā)點不同。國內(nèi)用戶協(xié)議將風險告知、內(nèi)容標識、審查處置、信息保護、反饋改進等設置為主干內(nèi)容，將治理規(guī)則融入?yún)f(xié)議較充分；域外用戶協(xié)議對于信息保護等多通過援引隱私政策實現(xiàn)，未特別強調(diào)治理，反映傳統(tǒng)合同法理。

第二，義務內(nèi)容場景化和技術機理強調(diào)重點不同。風險告知方面，國內(nèi)呈場景化特征，強制區(qū)分專業(yè)領域并單設未成年人條款；域外呈技術機理化特征，緊扣概率生成機制構(gòu)建標準化披露機制。內(nèi)容標識方面，國內(nèi)屬監(jiān)管合規(guī)型，強制雙重標識及算法備案；域外則屬市場自律型，側(cè)重服務形態(tài)與權(quán)屬邊界標識。

第三，協(xié)議規(guī)則趨同與融合。盡管規(guī)范路徑存在一定差異，但雙方在技術認知與治理工具層面基本趨同，均承認大模型概率生成機制固有的不確定性風險，重視用戶反饋數(shù)據(jù)對模型迭代的優(yōu)化價值，建立針對賬號處置的申訴救濟渠道等等。

（三）交往安全義務

傳統(tǒng)上，交往安全義務屬于除法定、契約、先行為義務所產(chǎn)生的作為義務之外的義務，其內(nèi)容主要指應采取防范危險的措施，須斟酌危險的性質(zhì)、嚴重性、對義務人期待可能性、行為效益、防范費用、被害人的信賴及自我保護可能性，以及法令規(guī)章等因素，就個案加以認定，如創(chuàng)設并維持公共通行環(huán)境（系采廣義，包括多種情形）、從事職業(yè)活動（醫(yī)院、建筑師、旅游營業(yè)人等）等多種情形。交往安全義務在實踐中較為常見。然而，從以上分析可知，對于生成式人工智能服務提供者而言，在法定、用戶協(xié)議約定中，似乎已將幾乎所有與技術特性相關的風險源和風險防范的措施均列舉并規(guī)定，交往安全義務幾無適用空間，那么是否還有必要討論這個問題，仍有待討論。

對于網(wǎng)絡領域的安全保障義務，本就存在較多爭議之處。有學者指出，司法實踐中安全保障義務主體呈現(xiàn)泛化趨勢，其公共性標準已從實體場所擴張至網(wǎng)絡虛擬空間。在有的條件中，法院認定視頻平臺因用戶瀏覽、評論、點贊等行為具有互動性、公共性及群眾性而具有公共場所屬性，故對用戶生命安全負有安全保障義務。我國司法實踐普遍認為場所公共性是產(chǎn)生安全保障義務的真正原因，該觀點亦被學者廣泛接受，在特殊侵權(quán)領域逐漸以安全保障義務概念替代注意義務。但是，網(wǎng)絡服務提供者對網(wǎng)絡用戶的注意義務不能一概認定為安全保障義務，須區(qū)分直接侵權(quán)與間接侵權(quán)：直接侵權(quán)中，其基于物權(quán)特征或合同關系負有保護義務，原則上限于審查、告知、刪除等技術手段；間接侵權(quán)中，其依《民法典》第1195條負有通知后采取措施義務。值得關注的是，實踐中也有時被課以事先審查義務，但是該義務須以承認安全保障義務為前提，且以明知或應知特定危險為條件。兩類義務均限于網(wǎng)絡服務提供者可期待范圍內(nèi)的危險排除措施。換言之，網(wǎng)絡領域的安全保障義務不宜被泛化或任意擴大，仍應限于確實對風險具有支配或控制能力才可以。但是，在當下人工智能領域之中，技術應用極其廣泛，幾乎處于風險敞口狀態(tài)，再討論其風險支配的范圍或者力度，似乎具有較大難度。

人工智能技術廣泛適用背景下的交往安全義務在實踐中仍有討論空間。例如，2026年3月，央視總臺“3·15晚會”曝光了一條產(chǎn)業(yè)鏈：一些機構(gòu)通過批量發(fā)布軟文、編造虛假測評報告、虛構(gòu)專家身份等方式，向大模型的數(shù)據(jù)源“投喂”定制內(nèi)容，讓商業(yè)推廣以“AI 標準答案”的面目呈現(xiàn)在用戶面前，影響大模型的抓取、引用和推薦結(jié)果，這種情形被稱為對 AI 的“投毒”。對于這一事件，在現(xiàn)行法律框架下，服務提供者并不對生成內(nèi)容的真實性負有絕對擔保義務，用戶亦應認識到 AI 回答的固有局限性，自行審慎判斷并承擔相應信賴風險。但是一定程度上，在交往安全義務的層面，仍存在進一步討論與解釋的空間，尤其是在第三方系統(tǒng)性偽造內(nèi)容、定向污染訓練數(shù)據(jù)和檢索數(shù)據(jù)源的場景下，服務提供者是否負有相應的注意與防控義務，在學理與司法適用上仍有探討余地。

四

注意義務的標準：“理性人”標準抑或新的“合理的人工智能”標準？

（一）“理性人”標準

所謂“過失”，是指被告未盡到一個通常謹慎之人在此情形下應盡的注意義務，也就是說，被告本應預見到其行為會給原告的利益造成損害。整個過失理論預設了某種統(tǒng)一的行為標準。然而，可能出現(xiàn)的無限多樣的情形，使得不可能預先為所有可想象的人類行為制定確定的規(guī)則。法院通過創(chuàng)造一個虛構(gòu)的人物來處理這一非常困難的問題，這個人物從未在陸地或海洋上存在過，即“具有通常審慎態(tài)度的合理人”。有時他被描述為一個合理的人，或一個具有通常審慎態(tài)度的人，或一個具有合理審慎態(tài)度的人，或其他某種理性與謹慎的混合體。這一合理的人的行為標準可以通過適用法律、司法判例、立法（直接立法或者參照其他適當行為的要求）等方式確定。

理性人標準是一個客觀標準。即便是可預見性，實際上也是一個客觀標準。可預見性關注“理想化的理性人”能否預見損害，確立注意義務的最低前提（無預見則無義務）。例如，被告可以預見其助推乘客的行為可能導致包裹掉落站臺，但無法預見包裹內(nèi)藏有煙花爆竹并會爆炸傷及遠處的他人；被告可以預見船舶泄漏燃油會造成港口污染損害，但無法預見油膜會在水面上被意外點燃并燒毀整個碼頭；被告作為指導教師可以預見生成式人工智能撰寫的學術論文可能存在參考文獻造假或數(shù)據(jù)錯誤，但無法預見學生會直接提交該論文作為畢業(yè)論文，導致被認定嚴重學術不端并不予通過；被告可以預見生成式人工智能生成的新聞報道可能存在事實性或時間線錯誤，但無法預見權(quán)威媒體未經(jīng)核實直接轉(zhuǎn)載，引發(fā)公眾恐慌并影響上市公司股價下跌。一般而言，在確認本應采取的預防措施時，主張過失的一方無須證明該措施可以完全消除損害風險。相反，該方只需證明，若實施該預防措施則風險可以降低。例如，店主對顧客丟棄垃圾的潛在傷害風險負有注意義務，采取每半小時檢查一次的防范措施即滿足過失標準（無需不間斷檢查），但未能維持該頻率則可能構(gòu)成過失；原告除證明過失外，還須證明因果關系，即按時檢查本應發(fā)現(xiàn)并移除致其受傷的特定垃圾。對于生成式人工智能服務提供者而言，其定期的敏感詞、有毒有害信息過濾、屏蔽等，就屬于降低風險的預防措施。

以上可見，理性人標準并非僵化的抽象教條，而是一個結(jié)合具體情形確定被告有無過失而進行客觀解釋的標準。這一標準具有一定開放性和適應性，能夠隨著社會發(fā)展、技術演進而不斷吸納新的考量維度。在生成式人工智能領域，通過確立“理性人”的基本標準，經(jīng)由該標準進行解釋，正是其從抽象標準走向具體適用、實現(xiàn)風險合理分配的具體體現(xiàn)。

（二）合理的人工智能：一個新的過失標準？

面對快速發(fā)展的人工智能，諸多新情形的出現(xiàn)，使得傳統(tǒng)的“理性人”標準受到一定挑戰(zhàn)與批評。有論者提出，理性人標準根植于人類行為邏輯與可預見性，而 AI 決策機制、錯誤類型均與人類存在本質(zhì)差異，既可能超越人類水平，也會犯下理性人絕不會犯的錯誤，套用該標準會導致認定失衡、違背可操作性與進步性要求。人工智能改變了侵權(quán)法，因為人類不再是唯一的行為主體，傳統(tǒng)以人類行為為基準的理性人標準無法直接適用于算法，因為人工智能既超越人類表現(xiàn)，又可能犯下任何合理人都不會犯的“愚蠢錯誤”。故此，應設立一個新的過失標準——合理的人工智能。以“可管理性、創(chuàng)新性、安全性、進步性”四項標準衡量，目前三類主流責任方案都存在缺陷：一是嚴格責任或推定過失，可能過度壓制技術創(chuàng)新和阻礙安全人工智能的發(fā)展；二是設計流程框架（如歐盟高風險 AI 的程序要求），以事前程序合規(guī)替代風險結(jié)果判斷，可能脫離 AI 實際安全表現(xiàn)，其僵化且無法適應技術發(fā)展；三是相對安全框架（僅以人類表現(xiàn)為基準），僅將AI 與人類對比，標準僵化且無法適配技術迭代，可能早期阻礙安全 AI、后期縱容危險 AI。作者以自動駕駛汽車為例展開實證論證，通過事故率數(shù)據(jù)對比證明該標準可操作性強，同時滿足可管理性、創(chuàng)新性、安全性與進步性四項準則。該方案既保留過失法平衡風險與創(chuàng)新的核心功能，又動態(tài)適配 AI 技術演進，實現(xiàn)對受害者的救濟與對企業(yè)合理激勵的統(tǒng)一，為 AI 侵權(quán)責任提供了兼具法理與實踐價值的新路徑。

構(gòu)建新的“混合基準的人工智能過失標準”。有論者認為，判斷 AI 是否存在過失，不再以理性人或其他 AI 為單一參照，而是以人類與 AI 共同從事同類行為的加權(quán)平均損害率為客觀基準。若 AI 的單位損害率低于該整體平均值，則認定為合理、無過失；反之則構(gòu)成過失。這一過失標準雖與理性人標準形式不同，但符合侵權(quán)法為特殊被告群體定制門檻的傳統(tǒng)（如專業(yè)過失）。人工智能過失標準與我們所熟知的理性人標準之間，相似性遠大于差異性。過失法所保護的基本道德利益，是當他人決定應當盡到何種程度的注意時，我們有權(quán)獲得充分的審慎對待。就企業(yè)人工智能而言，“充分考量”意味著僅部署那些能夠提升我們安全性的自動化系統(tǒng)。若某企業(yè)的人工智能使我們面臨更高危險，則未能履行該義務。一旦損害發(fā)生，正義即要求提供救濟，既為彌補我們的損失，也為重申我們的價值。

這一標準的提出，從形式上看，對于確立百余年的“理性人”標準有所沖擊。然而，究其實質(zhì)，其到底是設立了一個新的標準還是對理性人標準進行新解釋，仍有討論的余地。此前的理性人標準僅以“人”為參照物，而“混合基準的人工智能過失標準”引入了人工智能參與，使得注意義務的判斷從人的行為合理性拓展至人機交互系統(tǒng)的整體安全性。筆者認為，這種轉(zhuǎn)變并非顛覆傳統(tǒng)標準，而是將其適用場域從“純粹人類行為”延伸至“人類設計、部署 AI 系統(tǒng)”的行為，核心仍在于判斷被告（企業(yè)或開發(fā)者）是否盡到了合理的技術管控與風險防范義務。換言之，人工智能過失標準并未創(chuàng)造出超越理性人標準的新型道德基準，而是在人工智能這一特殊領域和特殊情形下，對“保護他人免受不合理風險”的具體化與情境化重述。若將人工智能視為人類能力的延伸而非獨立主體，則所謂的“人工智能的過失”本質(zhì)上仍是人類過失，其歸責邏輯最終仍需回溯至理性開發(fā)者、服務提供者等諸多主體在特定技術條件下應盡的注意義務，將人工智能風險納入既有侵權(quán)法的解釋框架之內(nèi)。故此，與其說這一標準的提出是在侵權(quán)法框架內(nèi)創(chuàng)設了一個新的注意義務標準，不如說這一標準是對理性人標準在人工智能時代的新解釋，二者殊途同歸。

（三）“理性人”標準的分層化適用

“理性人”標準的適用不能停留于抽象概念，而需結(jié)合技術特性進行層次化建構(gòu)。具體而言，可從技術水平、行業(yè)基準與成本效益以及特殊場景等三個維度展開，形成對可預見性、關聯(lián)性以及公平、公正、合理（政策考量）進行整體判斷的體系。

第一，技術水平維度。理性人標準首先關注的是服務提供者在現(xiàn)有技術條件下，對服務潛在風險的認知與管控能力。具體而言，需考察服務提供者是否明知或應知所部署模型在特定應用場景下存在“幻覺”、偏見或有毒有害內(nèi)容生成傾向，是否具備足夠的技術手段進行輸入過濾和輸出審核。例如，對于可通過提示詞工程、內(nèi)容審核或攔截避免的高概率風險，尤其是法律、行政法規(guī)規(guī)定的禁止輸出的內(nèi)容，服務提供者若未采取合理措施，則可能構(gòu)成過失。盡管大型平臺與小型或初創(chuàng)企業(yè)的技術能力會存在差異，但他們均應達到同類型服務提供者的普遍技術水平。技術水平維度確立的是服務提供者在技術部署層面的主觀上的可預見性與客觀上的風險防范義務。

第二，行業(yè)基準與成本效益的平衡。這一層次是服務提供者在提供服務過程中的注意義務標準。例如，服務提供者通常采取何種風險管理措施，如是否建立了用戶舉報機制、內(nèi)容審核周期、風險提示規(guī)范及緊急處置流程。若行業(yè)已形成針對特定風險（如醫(yī)療建議、惡意代碼生成）的通行防范標準，未采納者則可能構(gòu)成過失。同時，應進行成本效益權(quán)衡，對于可通過較低運營成本，如增加審核頻次、完善用戶協(xié)議、設置顯著風險提示等方式可避免的損害，服務提供者應采取相應措施；反之，若預防成本過高而損害發(fā)生概率極低，則可適當降低注意義務。此層次的“理性人”應遵循行業(yè)慣例等通行標準、符合經(jīng)濟利益和基本道德。但行業(yè)慣例等僅具有參考意義，不能成為注意義務的最低標準，否則可能導致“逐底競爭”。

第三，特殊場景下的特別提示義務。在過失法中，一般專業(yè)人士以及從事任何需要特殊技能工作的人，不僅被要求在其工作中盡合理注意，而且還被要求具備最低限度的專業(yè)知識和能力。服務提供者雖然無法也不應就人工智能生成的所有內(nèi)容承擔絕對擔保責任，但在專業(yè)應用場景下，不得僅以一般性免責聲明替代針對該領域特有風險的顯著提示義務。亦有論者認為，在人們向大模型咨詢醫(yī)療問題的情形下，服務提供者應當有更高的注意義務，采取一定的干預措施避免幻覺答案的出現(xiàn)，或者以明顯的方式提醒用戶，其提供的答案并不能代替醫(yī)生的專業(yè)意見。在此種場景下，服務提供者不能僅限于一般性的“AI 可能不準確”的籠統(tǒng)提示，而應當針對特定專業(yè)領域的固有風險，提供明確、具體且顯著的警示或提示。例如，在醫(yī)療咨詢場景中，服務提供者應以顯著方式提示 AI 生成內(nèi)容不構(gòu)成醫(yī)療建議、不能替代專業(yè)診斷，并明確告知用戶應咨詢執(zhí)業(yè)醫(yī)師；在金融投資建議場景中，則應以顯著方式提示 AI 分析可能基于過時數(shù)據(jù)或算法偏差，不構(gòu)成投資建議等。

五

注意義務的類型化

服務提供者的注意義務仍以“理性人”標準為基礎，在此基礎上，結(jié)合生成式人工智能的技術特征，可進一步類型化。在1990年 Caparo Industries Plc. v Dickman 案中，上議院提出了可預見性、關聯(lián)性和政策考量的三個要素作為識別注意義務的適當決策標準。其中，鄰近性（關聯(lián)性）要素則聚焦原告與被告之間的“法律關聯(lián)性”（非物理距離），需通過具體結(jié)構(gòu)性特征（如控制關系、請求行為、相對技能、實際知曉等）證明，是判定注意義務的核心。生成式人工智能的技術特性決定了服務提供者注意義務的類型與邊界，并主要包括技術特性維度的注意義務、服務提供過程中非技術特性維度的注意義務以及程序性的注意義務等內(nèi)容。

（一）技術特性維度的注意義務

一是內(nèi)容準確性提示義務。生成式人工智能存在固有的“幻覺”風險，這也是生成式人工智能技術所具有的典型風險。無論是用戶的一般認知還是服務協(xié)議約定，服務提供者均會向用戶事先聲明生成信息的不準確性等內(nèi)容，服務提供者負有向用戶提示該風險的義務。在前述國內(nèi) AI 幻覺案中，法院也認為，服務提供者并不負有結(jié)果性義務，而僅為方式性義務。此外，針對醫(yī)療健康、金融等涉及生命安全、心理健康、資金安全等特定領域，服務提供者還應盡到更高標準的提示義務，明確告知用戶生成內(nèi)容的專業(yè)局限性，建議用戶尋求專業(yè)人士的幫助。

二是內(nèi)容標識義務。為區(qū)分 AI 生成內(nèi)容與真實信息，防止公眾混淆誤認，服務提供者負有對生成內(nèi)容進行顯著標識的義務。根據(jù)《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》第16條及《生成式人工智能服務管理暫行辦法》第12條，服務提供者應當對圖片、視頻等視覺類生成內(nèi)容進行顯著標識。這一義務的技術實現(xiàn)方式包括添加數(shù)字水印、元數(shù)據(jù)標記等，確保標識具有持久性和可追溯性。

三是內(nèi)容安全管控義務。服務提供者應建立有效的內(nèi)容過濾機制，尤其是對于法律、行政法規(guī)所禁止的違法、有毒有害信息。義務具體包括：在輸入端建立關鍵詞過濾機制，對用戶輸入的違法、不良指令進行識別和攔截；在輸出端對生成內(nèi)容進行合規(guī)性審查，防止輸出虛假信息、歧視性內(nèi)容、暴力恐怖信息、侵害個人隱私以及違反公序良俗的內(nèi)容。當發(fā)現(xiàn)違法內(nèi)容時，服務提供者應當及時采取停止生成、停止傳輸、消除等處置措施，并通過模型優(yōu)化訓練等方式進行整改，同時向有關主管部門報告。

四是算法透明度義務。服務提供者應當以適當方式向用戶說明算法的基本原理、目的意圖和主要運行機制，保障用戶的知情權(quán)。根據(jù)《生成式人工智能服務管理暫行辦法》相關規(guī)定，服務提供者應當提供影響用戶信任與選擇的必要信息，包括預訓練和優(yōu)化訓練數(shù)據(jù)的來源、規(guī)模、類型、質(zhì)量，人工標注規(guī)則及算法機制機理等內(nèi)容。該義務以保障用戶知情權(quán)、理解決策邏輯為目的，不要求披露核心商業(yè)秘密。《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》第16條規(guī)范了算法推薦服務的告知與選擇權(quán)。服務提供者應當顯著告知用戶算法推薦服務情況，提供關閉算法推薦或非個性化推薦的便捷選項，以及用戶特征標簽的選擇、刪除功能，并在用戶關閉后立即停止相關服務。

（二）提供服務過程中非技術維度的注意義務

與前述技術帶來的風險以及“提供服務”開啟風險的二分思路一脈相承，服務提供者除內(nèi)容生成技術本身外，其在數(shù)據(jù)訓練、模型運營過程中還負有數(shù)據(jù)合規(guī)與權(quán)益保護的注意義務，這些義務不直接源于生成技術，而是源于服務提供過程中的合規(guī)與保護他人的基本要求。

一是訓練數(shù)據(jù)質(zhì)量保障義務。訓練數(shù)據(jù)的質(zhì)量直接決定生成內(nèi)容的準確性與安全性。服務提供者應當依法開展預訓練、優(yōu)化訓練等訓練數(shù)據(jù)處理活動，根據(jù)相關規(guī)定，負有以下義務：使用具有合法來源的數(shù)據(jù)和基礎模型；涉及知識產(chǎn)權(quán)的，不得侵害他人依法享有的知識產(chǎn)權(quán)；涉及個人信息的，應當取得個人同意或者符合法律、行政法規(guī)規(guī)定的其他情形；采取有效措施提高訓練數(shù)據(jù)質(zhì)量，增強訓練數(shù)據(jù)的真實性、準確性、客觀性、多樣性。在采集和獲取數(shù)據(jù)過程中，對于應獲得授權(quán)的，應取得權(quán)利人的授權(quán)；基于市場交易取得的，應要求出售方提供數(shù)據(jù)合法合規(guī)安全承諾和來源合法證明。

二是數(shù)據(jù)標注合規(guī)義務。生成式人工智能技術研發(fā)過程中進行數(shù)據(jù)標注的，服務提供者應當制定清晰、具體、可操作的標注規(guī)則，開展數(shù)據(jù)標注質(zhì)量評估，抽樣核驗標注內(nèi)容的準確性。標注規(guī)則的制定應當符合法律法規(guī)要求，標注內(nèi)容的準確性直接影響模型輸出的質(zhì)量，服務提供者對此負有質(zhì)量把控義務。

三是個人信息保護義務。服務提供者應當依法承擔個人信息處理者責任，履行個人信息保護義務。這是服務提供者負有的重要義務之一。具體包括：對用戶的輸入信息和使用記錄履行保護義務，不得收集非必要個人信息，不得非法留存能夠識別用戶身份的輸入信息和使用記錄，不得非法向他人提供用戶的輸入信息和使用記錄；依法及時受理和處理個人關于查閱、復制、更正、補充、刪除其個人信息等請求。在模型訓練、服務提供、用戶交互的全過程中，服務提供者均應遵循最小必要原則，采取加密、訪問控制等技術措施保障數(shù)據(jù)安全。

四是著作權(quán)合規(guī)義務。服務提供者在訓練數(shù)據(jù)準備、模型生成內(nèi)容輸出兩個環(huán)節(jié)均可能涉及著作權(quán)問題。在輸入端，應確保訓練數(shù)據(jù)來源合法，不侵害他人依法享有的知識產(chǎn)權(quán)，建立相應機制防止使用侵權(quán)作品進行訓練；在輸出端，應建立著作權(quán)投訴處理機制，根據(jù)權(quán)利人的合格通知采取必要措施，防止侵權(quán)生成物的持續(xù)產(chǎn)生。

（三）程序性注意義務

程序性的注意義務是確保前述實體義務實現(xiàn)的保障性義務，具體包括：

一是安全評估與算法備案義務。根據(jù)《生成式人工智能服務管理暫行辦法》第17條，提供具有輿論屬性或者社會動員能力的生成式人工智能服務的，應當按照國家有關規(guī)定開展安全評估，并按照《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。安全評估應當依據(jù)國家有關規(guī)定及《生成式人工智能服務安全基本要求》，對語料安全、生成內(nèi)容安全、模型安全、安全措施等進行全面評估，形成安全評估報告。算法備案則要求服務提供者向監(jiān)管部門報送算法的基本信息、主要功能、服務對象、使用范圍等，接受監(jiān)管部門的監(jiān)督管理。

二是用戶協(xié)議與告知義務。服務提供者應當與注冊其服務的生成式人工智能服務使用者（用戶）訂立用戶（服務）協(xié)議，明確雙方權(quán)利義務。服務協(xié)議應當包含服務內(nèi)容、使用限制、風險提示、知識產(chǎn)權(quán)歸屬、隱私政策、違約責任等條款，確保用戶在充分知情的基礎上作出選擇。

三是投訴舉報和反饋機制建立義務。服務提供者應當建立健全投訴、舉報機制，設置便捷的投訴、舉報入口，公布處理流程和反饋時限，及時受理、處理公眾投訴舉報并反饋處理結(jié)果。服務提供者應當確保投訴舉報渠道暢通、有效、便捷，及時處理權(quán)利人的侵權(quán)通知和用戶的權(quán)益訴求。

四是應急處置與報告義務。服務提供者發(fā)現(xiàn)違法內(nèi)容的，應當及時采取停止生成、停止傳輸、消除等處置措施，采取模型優(yōu)化訓練等措施進行整改，并向有關主管部門報告。發(fā)現(xiàn)使用者利用生成式人工智能服務從事違法活動的，應當依法依約采取警示、限制功能、暫停或者終止提供服務等處置措施，保存有關記錄，并向有關主管部門報告。該義務要求服務提供者建立應急響應機制，對突發(fā)安全事件能夠快速反應、有效處置。

五是未成年人保護義務。服務提供者對未成年人負有保護義務，應采取有效措施防范未成年人用戶過度依賴或者沉迷生成式人工智能服務。根據(jù)相關規(guī)定，具體措施包括：建立用戶身份識別機制，對未成年人用戶采取特殊保護措施；設置使用時長限制、內(nèi)容過濾等功能；建立家長監(jiān)護機制，允許家長對未成年人的使用行為進行監(jiān)督和管理。這一義務體現(xiàn)了對未成年人群體的特殊保護，要求服務提供者在產(chǎn)品設計和服務提供中充分考慮未成年人的身心特點。

在適用關系上，上述三類義務相互補充、相互強化。例如，內(nèi)容標識義務（技術特性）的有效履行，有助于權(quán)利人及時發(fā)現(xiàn)侵權(quán)內(nèi)容并發(fā)出通知，從而觸發(fā)投訴舉報處理義務（程序性）的履行；訓練數(shù)據(jù)質(zhì)量保障義務（非技術特性）的履行，能夠從根本上減少生成內(nèi)容的違法風險，減輕內(nèi)容安全管控義務（技術特性）的壓力。故此，三者的區(qū)分既符合生成式人工智能的技術特性，同時又符合傳統(tǒng)上對于注意義務設定的原理，更具有客觀性和科學性。

結(jié)語

在侵權(quán)法理論中，過失僅僅是一種行為方式。但是，一項基于過失成立的、能夠從中產(chǎn)生責任的訴因，所要求的不僅僅是行為。構(gòu)成此類訴因所必需的要素的傳統(tǒng)公式可簡要表述如下：一是法律所認可的一項義務或責任，要求該人符合特定的行為標準，以保護他人免受不合理的風險。二是該人未能符合所要求的標準，即對義務的違反。這兩個要素共同構(gòu)成了法院通常所稱的過失。生成式人工智能服務提供者的侵權(quán)責任認定，仍需回歸這一基礎框架，但在技術語境下呈現(xiàn)出了一些新特征與新問題：其一，生成式人工智能技術的固有風險十分顯著，使得治理和行業(yè)自律層面已比較充分地預見到這些風險，法定義務與約定義務幾乎覆蓋了從提示、標識到內(nèi)容管控等多方面義務，傳統(tǒng)侵權(quán)法中的交往安全義務似難覓蹤影，這反映出技術風險規(guī)制與民事責任體系之間互嵌但尚存間隙；其二，“理性人”標準仍應作為過失判斷的基石。盡管目前對于注意義務的標準提出個別新理論，諸如“混合基準的人工智能過失標準”，但是這些新理論并未脫離理性人標準的本質(zhì)內(nèi)核，而是對該標準在技術語境下的具體化與情境化適用。這些新標準仍然是通過擴張“理性人”標準的內(nèi)涵，通過納入人工智能參與、人機交互系統(tǒng)的整體安全性等考量因素，使其更符合人工智能時代的歸責需求，保持了法律原則的解釋力和適應性；其三，注意義務的類型化建構(gòu)并未脫離傳統(tǒng)分析范式，而是從技術維度的注意義務（可預見的技術風險）、提供服務過程中非技術維度的注意義務（可預見的非技術風險的“軟風險”）以及程序性的注意義務三個層面展開，形成類型化、層次分明的義務體系。

-向上滑動，查看完整目錄-

《法學論壇》2026年第3期目錄

【特別策劃·生成式人工智能侵權(quán)責任研究】

1.生成式人工智能侵害肖像權(quán)的侵權(quán)責任

程嘯（5）

2.生成式人工智能服務提供者的注意義務

姚佳（17）

3.生成式人工智能中的個人信息保護

李西泠（32）

【學術視點】

4.論風險行政的參與程序

王貴松（46）

5.標準必要專利芯片級許可的合理性問題

易繼明（56）

6.成年意定監(jiān)護協(xié)議的適用銜接

王雷（71）

【熱點聚焦】

7.論刑事涉案財物審判程序的優(yōu)化路徑

趙恒（83）

8.刑事涉案虛擬貨幣集中處置論

袁義康（95）

9.信息網(wǎng)絡犯罪案件管轄“犯罪地”確定的難題與破解

奚哲涵（108）

【法治前沿】

10.論違約消極獲益的區(qū)分定性

張平華、毛仙鵬（119）

11.論傳染病防治信息使用目的

滿洪杰、劉珺瑋（131）

12.數(shù)字紀檢監(jiān)察的邏輯起點與法治化治理的體系化展開

李智偉（140）

13.比例原則視角下家庭教育指導令的制度完善

李雪（153）

【青年論壇】

14.論商品房消費者的司法判斷標準

王懋祺（164）

《法學論壇》由山東省法學會主管主辦，以“繁榮法學研究，推進依法治國”為宗旨，遵循“傳播新思想、探討新問題、交流新成果、宣傳新法律、介紹新知識”的辦刊思路，立足法學研究前沿，堅持法學基礎理論研究與法學應用理論研究相合，刊登法學研究的最新成果，積極為推進依法治國，建設社會主義法治國家提供理論支持和智力服務。《法學論壇》是CSSCl來源期刊、中文核心期刊、中國人文社會科學核心期刊、山東省優(yōu)秀期刊、華東地區(qū)優(yōu)秀期刊。

點擊進入下方小程序

獲取專屬解決方案~

責任編輯 | 郭晴晴

審核人員 | 張文碩 韓爽

本文聲明 | 本文章僅限學習交流使用，如遇侵權(quán)，我們會及時刪除。本文章不代表北大法律信息網(wǎng)（北大法寶）和北京北大英華科技有限公司的法律意見或?qū)ο嚓P法規(guī)/案件/事件等的解讀。