原文發(fā)表于《科技導(dǎo)報》2026 年第5 期 《 中國人工智能治理政策的結(jié)構(gòu)特征與優(yōu)化路徑 》

新一輪科技革命和產(chǎn)業(yè)變革的背景下，人工智能已經(jīng)成為核心驅(qū)動力，正在對世界經(jīng)濟、社會治理和人民生活產(chǎn)生極其深刻的影響。同時，也引發(fā)了對人工智能發(fā)展的諸多擔(dān)憂。《科技導(dǎo)報》邀請中國科學(xué)院大學(xué)楊國梁研究員團隊撰寫文章，選取了中國2017—2024年有關(guān)部門發(fā)布的規(guī)劃意見、法律法規(guī)、標(biāo)準(zhǔn)規(guī)范、原則倡議4類政策文本，聚焦數(shù)據(jù)、算法、算力等人工智能治理關(guān)鍵要素進(jìn)行政策文本量化分析。針對中國人工智能治理面臨的挑戰(zhàn)提出具體對策。

人工智能（AI）概念的提出，最早出現(xiàn)于1950年計算機科學(xué)與人工智能之父——圖靈發(fā)表的《計算機器與智能》一文中。1956年，在美國達(dá)特茅斯會議上，麥卡錫（John McCarthy）首次提出了人工智能這一概念。當(dāng)下，人工智能已經(jīng)成為新一輪科技革命和產(chǎn)業(yè)變革的核心驅(qū)動力，正在對世界經(jīng)濟、社會治理和人民生活產(chǎn)生越來越深刻的影響。然而，人工智能也帶來了技術(shù)失控風(fēng)險、社會倫理挑戰(zhàn)等問題，由此引起了人們對人工智能治理的思考。

為此，我們的研究在數(shù)據(jù)、算法、算力等人工智能倫理關(guān)鍵治理要素的框架下，遵循“治理主體、治理議題、治理工具”的三維治理框架，運用政策文本量化分析方法揭示出當(dāng)前中國人工智能倫理治理現(xiàn)狀及挑戰(zhàn)，并嘗試提出符合中國特色的未來人工智能治理路徑。

01

中國人工智能治理的現(xiàn)狀

1.1

數(shù)據(jù)保護

隨著人工智能技術(shù)的廣泛應(yīng)用，數(shù)據(jù)作為關(guān)鍵要素，其重要性愈發(fā)凸顯。同時，數(shù)據(jù)安全及隱私保護問題也逐漸成為全球各國關(guān)注的焦點。歐盟采取“自上而下的規(guī)則監(jiān)管”模式，通過設(shè)定法律法規(guī)來對數(shù)據(jù)進(jìn)行監(jiān)管。美國秉持“州級自立與分領(lǐng)域監(jiān)管并存”模式。一方面，以州和地方政府制定符合自身情況的相關(guān)政策并成立治理機構(gòu)；另一方面，針對金融、醫(yī)療、兒童隱私等領(lǐng)域主體出臺相應(yīng)法案。

中國強調(diào)“國家安全為導(dǎo)向”的制度構(gòu)建策略，持續(xù)強化對數(shù)據(jù)安全及隱私保護的監(jiān)管力度，從頂層設(shè)計到具體實施細(xì)則，出臺了一系列政策文件，特別是在跨境數(shù)據(jù)治理中，采取的是“屬地原則”的“數(shù)據(jù)本地化”政策，強調(diào)國家數(shù)據(jù)主權(quán)和數(shù)據(jù)控制權(quán)來滿足自身安全需要?！秱€人信息保護法》與《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》共同形成了中國數(shù)據(jù)安全領(lǐng)域法律體系的“三駕馬車”，以推動中國數(shù)據(jù)要素市場的法治化建設(shè)。

1.2

算法安全

當(dāng)前，信息繭房、大數(shù)據(jù)殺熟、算法歧視等應(yīng)用亂象層出不窮。美國將算法作為直接監(jiān)管對象，采取外部問責(zé)和政府風(fēng)險監(jiān)管并重的治理方式，反對算法歧視、追求決策公平。歐盟重點規(guī)制互聯(lián)網(wǎng)巨頭，解決算法安全問題，防止其濫用市場支配地位。

近年來，中國逐步將數(shù)據(jù)安全治理的重心向算法安全治理傾斜，2021年9月，9個部門聯(lián)合發(fā)布《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》，創(chuàng)新性地形成了算法備案、算法監(jiān)督檢查、算法風(fēng)險監(jiān)測、算法安全評估等多維一體的監(jiān)管舉措。2022年3月1日，由國家網(wǎng)信辦等4個部門聯(lián)合發(fā)布的中國首部專門以“算法”為名的規(guī)定——《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》正式實施。自此，中國也有了針對算法黑箱、算法歧視、信息繭房、輿論操控、不正當(dāng)競爭等算法侵害的規(guī)范。

1.3

算力規(guī)范

算力已成為人工智能時代的核心生產(chǎn)力，同時國際上關(guān)于算力規(guī)范的政策與研究正圍繞人工智能的技術(shù)演進(jìn)與社會影響展開，各國形成了差異化的治理框架。歐盟傾向風(fēng)險導(dǎo)向的算力監(jiān)管，將算力使用與風(fēng)險等級掛鉤。美國則支持算力競爭與安全并重，一方面通過《芯片和科學(xué)法案》來提升其算力基礎(chǔ)設(shè)施水平和創(chuàng)新能力，另一方面通過《人工智能風(fēng)險管理框架》等政策要求算力使用符合公平性、安全性原則。

為應(yīng)對挑戰(zhàn)，中國出臺了2項相關(guān)政策。2023年10月，工業(yè)和信息化部發(fā)布的《算力基礎(chǔ)設(shè)施高質(zhì)量發(fā)展行動計劃》，從提升算力綜合供給、強化運力高效承載、增強算力應(yīng)用賦能等多方面發(fā)力，為算力安全發(fā)展提供了總體方向。2023年12月，國家發(fā)展和改革委員會發(fā)布的《深入實施“東數(shù)西算”工程加快構(gòu)建全國一體化算力網(wǎng)的實施意見》明確提出要統(tǒng)籌算力發(fā)展與安全保障一體化推進(jìn)，要完善算網(wǎng)安全保障體系，構(gòu)建促發(fā)展保安全機制。

1.4

綜合治理

在綜合治理方面，美歐均相繼出臺較為權(quán)威的人工智能治理政策。歐盟堅持“以人為本，倫理優(yōu)先”的治理原則，已生效的《人工智能法案》主張構(gòu)建協(xié)作治理結(jié)構(gòu)。美國秉持“美國優(yōu)先，創(chuàng)新優(yōu)先”策略，拜登政府2023年發(fā)布《安全、可靠和可信賴的人工智能開發(fā)和使用行政命令》，要求AI開發(fā)者在發(fā)布前提交安全測試結(jié)果，并對高風(fēng)險模型實施監(jiān)管。2025年1月特朗普政府簽署行政令廢除該行政命令，采取“輕監(jiān)管”模式，強調(diào)減少對企業(yè)創(chuàng)新的干預(yù)。

中國已在數(shù)據(jù)保護、算法安全、算力規(guī)范層面作出了不少探索，同時也在人工智能綜合治理層面也提出了系列倡議、原則、指南及管理辦法。2019年初，科技部成立新一代人工智能治理專業(yè)委員會，同年6月發(fā)布《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》，提出8條人工智能治理原則。2020年7月，國家標(biāo)準(zhǔn)化管理委員會等部門聯(lián)合印發(fā)《國家新一代人工智能標(biāo)準(zhǔn)體系建設(shè)指南》，在安全及倫理標(biāo)準(zhǔn)部分，提出6個部分重點開展標(biāo)準(zhǔn)體系建設(shè)。2021年9月，新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能倫理規(guī)范》，提出了6項基本倫理要求。2023年7月10日，國家網(wǎng)信辦等7個部門聯(lián)合發(fā)布出臺了《生成式人工智能服務(wù)管理暫行辦法》，重點監(jiān)管利用生成式人工智能技術(shù)向中華人民共和國境內(nèi)公眾提供生成文本、圖片、音頻、視頻等內(nèi)容的服務(wù)主體。

02

中國人工智能治理的政策文本量化分析

2.1

政策分析框架構(gòu)建

治理主體指的是治理的“相關(guān)者網(wǎng)絡(luò)”，是參與治理過程的各類行為主體。治理議題指的是治理的“問題導(dǎo)向”，是治理活動所針對的具體問題或領(lǐng)域。治理工具指的是治理的“手段工具箱”，是為實現(xiàn)治理目標(biāo)而采用的政策工具、機制或方式。通過“治理主體?治理議題?治理工具”的三維分析框架，運用政策文本量化分析法，深入剖析其在單維度、雙維度的政策特征，進(jìn)而提出中國人工智能治理的針對性建議，如圖1所示。

圖1 中國人工智能治理的量化分析框架

2.1.1 治理議題（X維度）

在治理議題的X維度，分別從綜合治理和精細(xì)治理維度提出了系列政策措施，既包含通識性、系統(tǒng)化人工智能綜合治理政策，也包含數(shù)據(jù)保護、算法安全、算力規(guī)范的分環(huán)節(jié)治理政策，如表1所示。

表1 人工智能治理過程維度（X維度）指標(biāo)及其描述

2.1.2 治理主體（Y維度）

在治理主體的Y維度，中國制定的人工智能治理政策實現(xiàn)了全周期覆蓋，包括管理主體、研發(fā)主體、供應(yīng)主體和使用主體4類主體，如表2所示。

表2 人工智能治理過程維度（Y維度）指標(biāo)及其描述

2.1.3 治理工具（Z維度）

在治理工具的Z維度，從“硬性法律”到“軟性原則”進(jìn)行了全范圍的覆蓋，主要涉及規(guī)劃意見、法律法規(guī)、標(biāo)準(zhǔn)規(guī)范、原則倡議等4類，如表3所示。

表3 人工智能治理過程維度（Z維度）指標(biāo)及其描述

2.2

研究樣本及編碼

2.2.1 研究樣本檢索與選取

關(guān)于政策選取時間，2017年7月，國務(wù)院正式印發(fā)《新一代人工智能發(fā)展規(guī)劃》，確立了新一代人工智能發(fā)展“三步走”戰(zhàn)略目標(biāo)，人工智能的發(fā)展至此上升到國家戰(zhàn)略層面，推動中國人工智能步入新階段。因此，我們選取政策時間自2017年1月—2024年4月。

關(guān)于政策檢索原則，我們的研究基于“治理主體?治理議題?治理工具”的三維分析框架遴選政策文本，研究重點從中國共產(chǎn)黨中央委員會、國務(wù)院、工業(yè)和信息化部、科學(xué)技術(shù)部、教育部、國家網(wǎng)信辦、國家標(biāo)準(zhǔn)化管理委員會等官方網(wǎng)站，遴選出42份關(guān)聯(lián)度強的政策文本。通過該圖可以看出，自2021至今中國人工智能治理政策密集出臺，對其重視程度達(dá)到高點，如圖2所示。

圖2 2017—2024年中國人工智能治理政策數(shù)量的時間變化態(tài)勢

2.2.2 研究樣本使用與編碼

關(guān)于政策編碼方法，參考NVivo軟件中文本標(biāo)注方法對已經(jīng)選定的42份政策進(jìn)行節(jié)點標(biāo)注。具體地，對分別符合“治理主體–治理議題–治理工具”三維框架下的任何一個維度，包括治理議題（數(shù)據(jù)、算法、算力、綜合治理）、治理主體（管理、研發(fā)、供應(yīng)、使用）、治理工具（規(guī)劃意見、法律法規(guī)、標(biāo)準(zhǔn)規(guī)范、原則倡議）的相關(guān)章節(jié)有且僅標(biāo)注1次，均標(biāo)注為1個節(jié)點。

03

基于“治理主體?治理議題?治理工具”三維框架的中國人工智能治理的政策文本量化分析

3.1

基于三維分析框架的中國人工智能治理政策單維度分析

3.1.1 治理議題維度（X維度）

通過統(tǒng)計發(fā)現(xiàn)，數(shù)據(jù)保護維度（X1）占據(jù)主導(dǎo)地位，其次是算法安全維度（X2），再次是綜合治理維度（X4），最后是算力規(guī)范維度（X3）。這一結(jié)構(gòu)反映出當(dāng)前中國治理框架的階段性特征與潛在優(yōu)化空間。

這種“前端重、中后端輕”的治理格局，與人工智能技術(shù)發(fā)展的現(xiàn)實邏輯高度相關(guān)?！稊?shù)據(jù)安全法》《個人信息保護法》等頂層設(shè)計的落地，形成以數(shù)據(jù)合規(guī)為核心的“防護墻”。算法安全維度的23.44%占比，則體現(xiàn)了對算法透明性、可解釋性及公平性的制度探索。綜合治理維度的18.75%占比，說明治理層已開始關(guān)注技術(shù)應(yīng)用的社會影響。然而，算力規(guī)范維度的顯著薄弱暴露出治理體系的結(jié)構(gòu)性短板。這種“重數(shù)據(jù)輕算力”的治理偏向，與人工智能“數(shù)據(jù)?算法?算力”三位一體的技術(shù)邏輯存在內(nèi)在張力，亟待從全生命周期治理視角進(jìn)行優(yōu)化（圖3）。

圖3 基于治理議題維度的政策量化分析結(jié)果

3.1.2 治理主體維度（Y維度）

通過統(tǒng)計發(fā)現(xiàn)，管理主體維度（Y1）占比32.17%；研發(fā)主體維度（Y2）占比29.57%；供應(yīng)主體維度（Y3）占比29.57%；使用主體維度（Y4）占比8.69%。這一量化統(tǒng)計反映出中國治理體系呈現(xiàn)出顯著的“主體結(jié)構(gòu)偏向性”特征。

管理主體的高占比本質(zhì)上是治理體系“頂層設(shè)計優(yōu)先”原則的體現(xiàn)。研發(fā)主體（Y2）與供應(yīng)主體（Y3）的高占比，反映出研發(fā)與供應(yīng)主體的協(xié)同治理，即政策對技術(shù)創(chuàng)新鏈與產(chǎn)業(yè)鏈的雙重關(guān)注。使用主體維度（Y4）的低占比，暴露出治理體系對“人工智能技術(shù)應(yīng)用場景”的關(guān)注不足，造成終端風(fēng)險防控的“最后一公里”缺失。一是權(quán)益保障的缺口。二是公眾參與缺位。例如，歐盟《人工智能法案》明確要求高風(fēng)險系統(tǒng)需進(jìn)行“社會影響評估”，而中國相關(guān)政策中用戶反饋機制仍待完善（圖4）。

圖4 基于治理主體維度的政策量化分析結(jié)果

3.1.3 治理工具維度（Z維度）

從政策工具維度觀察中國人工智能治理體系，呈現(xiàn)出“硬法規(guī)制主導(dǎo)、軟約束不足”的顯著特征。在總計42個治理節(jié)點中，法律法規(guī)維度（Z2）52.38%的絕對優(yōu)勢位居首位，戰(zhàn)略規(guī)劃維度（Z1）占比21.43%，標(biāo)準(zhǔn)指南維度（Z3）占14.29%，而原則倡議維度（Z4）僅占11.90%。這一結(jié)構(gòu)既體現(xiàn)了治理體系的制度建構(gòu)邏輯，也揭示出從“剛性管控”向“剛?cè)岵鞭D(zhuǎn)型的必要性。

52.38%的法律法規(guī)占比，本質(zhì)上是對人工智能技術(shù)“強滲透性風(fēng)險”的制度回應(yīng)。但是，標(biāo)準(zhǔn)指南維度（Z3）和原則倡議維度（Z4）分別僅占14.29%和11.90%，反映出治理體系對技術(shù)落地的“規(guī)則銜接”不足，也反映出治理體系對“技術(shù)倫理柔性治理”的重視不足?？傮w上，當(dāng)前政策工具呈現(xiàn)“法律—規(guī)劃—標(biāo)準(zhǔn)—倡議”的單向傳導(dǎo)鏈條，但缺乏“硬法授權(quán)軟法、軟法補充硬法”的互動機制（圖5）。

圖5 基于治理工具維度的政策量化分析結(jié)果

3.2

三維分析框架下的中國人工智能治理政策雙維度分析

3.2.1 治理議題（X）—治理主體（Y）維度分析

通過治理議題（X）—治理主體（Y）二維量化分析發(fā)現(xiàn)，在數(shù)據(jù)保護、算法安全、綜合治理3大核心議題中，管理主體（政府）、研發(fā)主體（企業(yè)/科研機構(gòu)）、供應(yīng)主體（產(chǎn)業(yè)鏈上下游）的政策參與度均維持在20%~30%的高位區(qū)間，形成“治理鐵三角”結(jié)構(gòu)。然而，使用主體（終端用戶）在3大議題中的參與度均低于10%，形成治理結(jié)構(gòu)的“斷裂帶”。此外，算力規(guī)范維度相關(guān)政策發(fā)布數(shù)量較少，且均集中在管理規(guī)范上。

人工智能技術(shù)的“規(guī)劃—開發(fā)—生產(chǎn)—使用”本應(yīng)形成完整治理鏈條，但當(dāng)前人工智能治理體系呈現(xiàn)出“重上游、輕下游”的結(jié)構(gòu)，可能導(dǎo)致以下問題：

• 一是造成風(fēng)險傳導(dǎo)效應(yīng)，研發(fā)與供應(yīng)環(huán)節(jié)的合規(guī)性，可能因使用環(huán)節(jié)的失控而失效；

• 二是產(chǎn)業(yè)生態(tài)的“供需錯配”，供給側(cè)治理政策的過度聚焦，導(dǎo)致人工智能技術(shù)停滯，而需求側(cè)培育機制（如用戶數(shù)字素養(yǎng)教育、公眾參與式倫理審查）嚴(yán)重缺位（圖6）。

圖6 基于治理議題（X）—治理主體（Y）維度的量化分析結(jié)果

3.2.2 治理議題（X）—治理工具（Z）維度分析

通過量化分析發(fā)現(xiàn)，治理議題中數(shù)據(jù)保護、算法安全聚焦法律法規(guī)類文本，形成“硬法優(yōu)先”的治理模式。但過度剛性的規(guī)制可能引發(fā)“寒蟬效應(yīng)” ，降低企業(yè)創(chuàng)新活力。綜合治理則聚焦于規(guī)劃意見類文本，呈現(xiàn)“軟法主導(dǎo)”特征。軟法的靈活性雖能快速響應(yīng)技術(shù)變化，但缺乏法律強制力，難以形成穩(wěn)定的預(yù)期制度環(huán)境（圖7）。

圖7 治理議題（X）—治理工具（Z）維度的量化分析結(jié)果

04

中國人工智能治理建議

中國在人工智能治理上有別于美國、歐盟的“創(chuàng)新優(yōu)先”和“倫理優(yōu)先”治理模式，而是將“堅持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合”作為人工智能治理的基本原則，推進(jìn)人工智能健康發(fā)展。

一是治理議題上的平衡。建議建立算力資源分類分級管理制度，將綠色算力、安全算力納入政策支持范疇。

二是治理主體間的協(xié)同。建議強化使用主體的“場景化治理”，針對高風(fēng)險場景（如金融科技、公共安全），建立強制性用戶操作標(biāo)準(zhǔn)；探索建立“算法用戶委員會”，賦予用戶對自動化決策的異議權(quán)；推動企業(yè)承擔(dān)使用端治理責(zé)任，通過“生產(chǎn)者責(zé)任延伸制度”，要求研發(fā)與供應(yīng)主體向用戶提供安全培訓(xùn)、風(fēng)險預(yù)警等服務(wù)。

三是治理工具上的協(xié)調(diào)。建議優(yōu)化政策工具組合，推進(jìn)硬法托底與軟法協(xié)同。在高風(fēng)險領(lǐng)域強化硬法剛性，針對生物識別、公共監(jiān)控等涉及基本權(quán)利的場景，加快出臺《人工智能法》等專門立法，明確數(shù)據(jù)濫用、算法歧視的刑事責(zé)任；在創(chuàng)新活躍領(lǐng)域擴大軟法空間，例如生成式人工智能、量子計算等前沿領(lǐng)域，推行“監(jiān)管沙盒+行業(yè)自律”模式。

本文作者：劉肖肖、楊國梁

作者簡介：劉肖肖，中國標(biāo)準(zhǔn)化研究院、中國科學(xué)院科技戰(zhàn)略咨詢研究院，助理研究員，研究方向為科技規(guī)劃與管理、標(biāo)準(zhǔn)化原理與方法；楊國梁（通信作者），中國科學(xué)院科技戰(zhàn)略咨詢研究院、中國科學(xué)院大學(xué)，研究員，研究方向為科技規(guī)劃與管理、決策理論與方法。

文章來 源 ： 劉肖肖, 楊國梁. 中國人工智能治理政策的結(jié)構(gòu)特征與優(yōu)化路徑[J]. 科技導(dǎo)報, 2026, 44(5): 112?119 .

本文有刪改，

內(nèi)容為【科技導(dǎo)報】公眾號原創(chuàng)，歡迎轉(zhuǎn)載
白名單回復(fù)后臺「轉(zhuǎn)載」

《科技導(dǎo)報》創(chuàng)刊于1980年，中國科協(xié)學(xué)術(shù)會刊，主要刊登科學(xué)前沿和技術(shù)熱點領(lǐng)域突破性的研究成果、權(quán)威性的科學(xué)評論、引領(lǐng)性的高端綜述，發(fā)表促進(jìn)經(jīng)濟社會發(fā)展、完善科技管理、優(yōu)化科研環(huán)境、培育科學(xué)文化、促進(jìn)科技創(chuàng)新和科技成果轉(zhuǎn)化的決策咨詢建議。常設(shè)欄目有院士卷首語、科技新聞、科技評論、本刊專稿、特色專題、研究論文、政策建議、科技人文等。