內容來源：全國網安標委

《指引》專家解讀：筑牢智能向善的倫理安全基石

作者：張凌寒

中國政法大學人工智能法研究院院長、教授

近日，全國網絡安全標準化技術委員會公布《人工智能應用倫理安全指引1.0》（以下簡稱《指引》），標志著我國在人工智能應用治理領域邁出了重要一步。在當前生成式人工智能、智能體等新技術快速迭代、應用場景不斷拓展的背景下，《指引》的制定旨在平衡技術創新與風險防范，確保人工智能發展始終服務于國家經濟社會發展和人民福祉。

一、深刻認識人工智能應用帶來的倫理安全影響

開展有效治理的前提是精準識別技術發展帶來的潛在風險。《指引》詳盡歸納了人工智能技術應用可能帶來的六大結構性影響。縱觀全球，警惕并規制這些影響，已成為當前世界各國的普遍共識。

一是可能影響人類主導地位與生態可持續性。隨著系統自主性的提升，人工智能的行為可能超出人類所預設與可控的范圍。若關鍵決策節點缺乏有效監督，人類在社會運行中的主導地位將受到實質性沖擊。同時，不合理的技術路線與算力擴張也可能帶來系統性生態壓力，影響人與自然的和諧發展。防范模型失控、確保人類主導地位以及推動綠色智能已成為全球核心關切。例如，聯合國教科文組織《人工智能倫理建議書》等全球性倫理文件，也均將“人類主導和監督”以及“環境可持續性”作為核心原則。

二是可能影響社會基礎秩序，加劇結構性分化。人工智能深度介入社會運行，在技術演進快于社會適應的錯位下，可能沖擊既有行為規范與市場秩序，削弱維系社會運轉的基本信任機制。此外，海量自動化決策可能對不同群體產生差異化影響，放大固有偏見與歧視，造成結構性不利后果。維護社會公平秩序已成為多國監管焦點，如美國發布《人工智能風險管理框架》以應對算法偏見。我國近年來在算法推薦、深度合成等領域積累的專項治理經驗，也為此次通過倫理安全指引進一步防范技術帶來的歧視性影響，奠定了扎實的工作基礎。

三是可能異化個體認知，對公民權益造成威脅。人工智能普遍應用形成的新環境極易對個體認知與價值體系造成沖擊，導致過度依賴或脫離現實社會交往。同時，隱蔽的數據處理與全新的應用方式，潛藏著侵害自然人生命健康、人格尊嚴、隱私財產及組織合法權益的隱患。縱觀世界多國對人工智能的治理實踐，保護個體免受智能異化與權益侵害是一項通行做法，如意大利數據保護局曾因情感干預與隱私風險緊急叫停某AI伴侶應用。《指引》對微觀權益與認知風險的精準把控，為我國的防范治理指明了方向。

二、彰顯以人為本與智能向善的中國特色

在全球探尋人工智能治理共識的當下，世界主要經濟體均在加速構建符合自身價值觀的監管框架。《指引》深刻洞察這一國際趨勢，將社會主義核心價值觀貫穿于技術應用規范的始終，深刻體現了技術發展造福人類、服務社會的中國特色與人文關懷。

一是細化落實頂層設計，貫通從倫理原則到應用場景的實踐路徑。近年來，我國人工智能倫理治理體系日益完善，通過《人工智能科技倫理審查與服務辦法（試行）》《人工智能安全治理框架》等文件的出臺，已初步構建起從倫理原則到程序規范的架構。在此背景下，此次出臺的《指引》則進一步向下延伸，切實填補了從宏觀倫理規范向具體產業應用場景過渡的規則細化空間。指引不僅從理念層面提出引導，更通過詳實的通用指引、應用開發指引、服務提供指引和應用使用指引，將宏觀的審查要求轉化為微觀應用層面的具體操作規范。這種從前沿科研向具體場景落地的制度安排，形成了原則、辦法與指引的一脈相承，使得人工智能倫理安全治理真正實現了從實驗室到應用場的落地見效。

二是貫通銜接法律規章，構建強制約束與柔性引導相結合的治理體系。近年來，我國堅持敏捷治理，在部門規章層面形成了清晰的演進邏輯。從《互聯網信息服務算法推薦管理規定》規范算法分發，到《互聯網信息服務深度合成管理規定》強調內容真實性，再到《生成式人工智能服務管理暫行辦法》統籌全鏈條安全，《人工智能生成合成內容標識辦法》明確標識要求，以及《人工智能擬人化互動服務管理暫行辦法》規制擬人化行為，隨著配套規定的不斷完善，我國已建立起以算法備案、安全評估、內容標識等要求為核心的人工智能制度規范。在此脈絡中，《指引》與上述法律規范互為補充，法律規范負責劃定制度紅線并解決違法懲戒問題；《指引》則確立倫理錨點，通過更詳細的操作建議引導技術向善，確保技術演進契合人類共同福祉。這種法律規范與倫理安全指引雙輪驅動的模式，既保持了監管的穩定性，又賦予了治理體系應對前沿技術不確定性的靈活性。

三是堅守以人為本，彰顯科技向善與人文關懷底色。《指引》在倫理安全原則中明確了“增進人類福祉”與“尊重生命權利”的安全底線，堅持人工智能的主導權應歸屬人類。其中極具中國特色的一點是，《指引》高度關注個人勞動就業權利的保護，明確提出事先評估并防范人工智能應用可能引發的就業替代或失業風險，著力引導技術發展促進提高生產生活水平。同時，人文關懷貫穿了文件的各個部分。例如，在通用指引和服務提供指引中，均重點強調了對未成年人、老年人、殘障人士等易受影響群體的保護，倡導在應用開發和部署階段切實提升便利性，避免造成使用機會的不公平。此外，“普惠共享”原則倡導構建合作共生、收益共享的人工智能生態，充分彰顯了我國科技發展堅持消除偏見歧視、保障機會均等的社會責任感。

四是深化國際規則銜接，貢獻人工智能治理的中國智慧。當前，全球人工智能治理面臨著技術壁壘森嚴、規則碎片化以及數據鴻溝加劇等嚴峻挑戰。指引在“敏捷共治”原則中，前瞻性地提出加強安全互認，推動治理規則、技術標準、安全基準等方面的國際銜接，以全面提升敏捷治理水平。這表明我國在筑牢國內應用安全底線的同時，始終秉持開放包容的大國態度。結合“普惠共享”原則的要求，《指引》鼓勵技術開源，倡導共享人工智能知識成果、最佳實踐與安全治理經驗。這些倡議舉措體現了我國堅持開放合作、共治共享的治理理念，為構建全球人工智能倫理安全治理體系提供了具有建設性的中國方案，有助于進一步增強我國在全球前沿技術治理領域的話語權與影響力。

三、構建全鏈條、全生命周期的倫理安全治理體系

人工智能治理是一項復雜的系統工程，單一環節的規制難以應對跨邊界的技術風險。《指引》立足人工智能發展應用實踐，按照參與主體的角色劃分，對應用開發、服務提供和應用使用三個關鍵環節進行了分類引導，并結合不同垂直領域的特征，構筑了一套權責清晰、協同聯動的指引體系。

一是在前端落實應用開發者主體責任，強化安全管理。開發者是決定技術演進方向的第一道關口。《指引》針對應用開發階段提出了明確指引，核心在于將安全可控、公平公正、隱私保護等倫理要求作為應用設計的默認設置。在具體研發流程中，引導開發者在數據選擇、目標設定、算法設計等核心環節高度關注潛在的偏見歧視影響，從技術源頭保障機會均等。同時，為防范技術黑箱帶來的失控風險，《指引》強調設置事故信息追溯機制，保留與風險事件相關的必要信息，確保在發生爭議或損害時能夠復盤分析并支撐責任追溯，從而保障技術底層的透明與可信。

二是在中端規范服務提供者運營行為，完善風險控制機制。服務提供者是連接技術與使用者的橋梁，其運營規范程度直接關系到風險控制的成效。《指引》著重對服務提供者的管理責任作出指引，特別是在關鍵領域場景進行重要決策時，若使用不可解釋的人工智能，將其限定為僅承擔輔助決策作用、不提供直接決策依據，并設置人工復核機制，防止算法替代人類做出核心判斷。此外，《指引》充分尊重使用者的自主選擇權，提出以清楚明確的方式向使用者提供拒絕、干預及停止使用的選項，并引導設置包含人工緊急干預、中止應用等在內的事故應急處置機制，確保在面臨突發倫理安全風險時能夠及時熔斷止損。

三是在后端加強對應用使用者宣教引導，明確合理合規的使用導向。應用方不僅是技術的使用者，也是數字生態的重要共建者。《指引》專設了應用使用指引，倡導積極提升人工智能使用素養，形成理性、審慎的使用習慣。在內容生產與傳播方面，《指引》劃定了清晰的行為底線，提出在使用人工智能生成內容并對外發布時，履行主動聲明及標識義務，不利用技術偽造他人身份或仿冒權威主體開展活動。同時，提醒審慎分享涉及個人或他人的敏感信息，防范因不當輸入造成權益受損。

四是聚焦典型垂直場景特點，落實分類精細化治理指引。由于人工智能在不同領域的應用風險存在顯著差異，一刀切的管理模式難以奏效。《指引》在通用指引中對多類典型垂直場景，前瞻性地給出了差異化的操作導向。例如，在涉及生命健康與人身安全的場景，明確了安全優先、審慎適用的底線思維；在涉及社會治理與公共服務的場景，強調公共利益優先與公平公正，保障技術應用不削弱公共服務的普惠性；在涉及信息資訊與傳播的場景，則堅持真實可信與清朗生態導向，強化對生成與推薦的風險治理。這種分類施策的精細化指引，為各類場景下的合規落地提供了重要參考。

《指引》的出臺，不僅是應對人工智能倫理安全風險的技術性指引，更是統籌高質量發展與高水平安全、構建人工智能長效治理體系的戰略性舉措。展望未來，在規范引導下，我國人工智能產業將加速邁向更加穩健、成熟的發展階段。一個權責清晰、合作共生、普惠共享的智能新生態正在逐步形成，人工智能將深度賦能社會進步，成為增進人民福祉和助力可持續發展的積極力量。同時，中國在人工智能應用倫理安全領域積極探索與實踐，也將持續為全球數字治理體系提供參考借鑒。我們將與國際社會一道，共同迎接智能時代的安全、公平與繁榮。

??

Serving national strategies, focusing on university research and the transformation of scientific and technological achievements