作者 簡 介 ： 張文祥，仰恩大學法學院。本文 系 福建省社會科學基金項目“自動化行政的技術邏輯與法律規制研究”（項目批準號：FJ2025C062）階段性成果；中國僑聯課題（課題編號：24AZQK202）階段性成果。 文 章來源：《 成都理工大學學報（社會科學版） 》 2025年9月 29日網絡首發。注釋及參考文獻已略， 引用請以原 文為準。

摘要

近年來人工智能發展迅猛，自動化行政對行政活動產生了極大沖擊。已有的國內研究成果中，主要涉及法律風險、程序權利、治理范式、立法等內容，較少運用實證數據和跨學科分析方法。人工智能時代自動化輔助行政、部分自動化行政、完全自動化行政三個發展階段存在不同的風險樣態，在提取司法裁判現狀和實踐案例后，其風險樣態可以歸納為權力黑箱、治理偏見、權力異化、權力惰性、私權侵害五個基本范疇。本文旨在針對自動化行政的現實風險提出規制路徑，如明確可解釋性規則、凝聚治理共識、承認社會權力、確立以人為本的理念、落實最小損害原則。探索人工智能運用于各類行政行為的可能性和規制路徑，能豐富自動化行政發展的研究范式，預防規制失靈。

一、問題提出及文獻綜述

人工智能催生了新技術、新產業、新模式，在立法和行業規則尚未完善的背景下，人工智能發展速度已經逐漸超出社會規則所能規范的范疇，由此產生了“時空壓縮”現象。為此，黨的二十屆三中全會明確提出“完善生成式人工智能發展和管理機制”“加強網絡安全體制建設，建立人工智能安全監管制度”。從自動化輔助行政到完全自動化行政的發展過程中，探索人工智能時代自動化行政的規制路徑意義重大。

國內學者早期研究聚焦于電子政務和數字化行政，隨著人工智能技術的發展，逐漸關注“自動化行政”這一范疇。如部分學者從算法權力角度，提出算法治理和算法霸權問題。針對自動化行政的法律風險，學者們分別提出侵犯公民權利、程序權利懸置、算法解釋困難、裁量負外部效應等概念界定。針對自動化行政的法律規制，學者們分別提出實施敏捷治理、引入解釋權、立法適度照顧公眾的感知風險、分級分類治理范式、運用軟法規范等規制措施?？梢姡延械膰鴥妊芯砍晒?，主要涉及法律風險、程序權利、治理范式、立法等內容，極少結合自動化行政的技術邏輯和實證經驗，規范政府使用人工智能技術。本文將從司法裁判現狀和實踐案例切入，運用跨學科思維，探討規制路徑。

國外學者早期關注技術性正當程序和算法決策，近期轉向研究人工智能技術的運用問題。如學者們分別對加拿大、英國、瑞典、美國和歐盟的運用現狀進行研究。研究表明，加拿大行政部門根據指令披露了他們對算法系統的使用情況，但無法確認所披露的信息是否詳盡。英國政府擔心會降低政府決策的透明度和公平性，算法可能從格式糟糕的數據集中繼承人類的偏見。在瑞典，因立法者希望法律保持技術中立，法律沒有明確規定何時允許自動決策，良好行政和法治等核心民主理想也很少被關注。美國和歐盟都承認，如果人工智能技術不以負責任的方式開發和部署，就會存在與之相關的風險，并肯定了“以人為本”的方法。針對自動化行政的法律風險，學者從行政裁量權和程序公平性角度，探究人工智能時代問責機制和法治價值問題。Grimme likhuijsen & Meijer認為，算法政府的特點是復雜性、不透明性和相互依賴性，這些特征改變了政府決策的性質，并產生了一系列對政府合法性的威脅。Kanitz et al.指出，用生成式人工智能工具加強變革活動時，必須保持謹慎和批判性思維?？梢?，域外學者們認為，人工智能存在不透明、偏見、認知錯誤與偏差、數據安全、合法性等問題。人工智能時代自動化行政的發展，也會不可避免地產生類似問題，需要我國政府部門予以重視。同時，域外學者注重運用實證數據和跨學科分析方法，這也是本文要突破的重點方向。

二、人工智能時代自動化行政的發展階段

本文采用案例研究方法探討人工智能時代自動化行政的發展階段，運用司法判例和行政機關實踐樣本勾勒自動化行政的發展樣態。人工智能時代的自動化行政，根據不同程度的人為干預，可分為輔助、部分和全自動化三個階段，本部分將探討上述三個階段中自動化行政的發展狀況。

（一）強人工干預的 自動 化輔助行政

輔助狀態下，自動化系統只能發揮協助人類完成某項工作的作用，無法單獨承擔一部分任務，即識別、分析、決定的權力仍然全部掌握在行政機關工作人員手上。自動化輔助行政類型眾多，以交通執法領域的處罰為代表。因交通違法行為具有瞬時性和證據標準化特征，在采用自動化系統后，必須輔助人工干預，以保障實體公正和行政相對人的程序權益。下文將探討實務案例中，自動化輔助行政存在的實體或者程序問題。

從上述五起案件中，能發現作為輔助角色的電子警察，在取證環節經常會出現完整性、真實性問題，并且出現程序問題。如案例1和案例2當中，當事人同樣對電子眼形成的證據提出了質疑，不同地區有不同的判決結果。案例3、案例4、案例5當中，針對程序問題，不同法院的觀點有所區別，部分法院認為不影響行政相對人的權利，不影響行政行為的效力；也有法院認為，這是程序上的不合法行為，依法應當撤銷?？梢?，不同法院在自動化輔助行政的程序正當問題上，存在不一樣的認定標準。

實務判例中，司法機關一般會認定運用電子警察設備執法符合法律規定，并且主張有限審查，即只審查電子設備投入過程、是否明顯不科學和產生大量的異議。在“寧伯學、保定市公安局交通警察支隊、保定市公安局行政處罰再審審查與審判監督”一案中，寧伯學主張行政機關沒有提交電子警察設備的執法手續、技術檢驗合格手續、技術規范或相應規定；再審法院審查后認為，要求提供電子警察設備相關手續及檢驗結果，沒有法律依據?！昂蝿P、上海市公安局黃浦分局交警支隊行政處罰案”中，司法機關認為法庭審查技術性問題的標準是法定審查，即審查系統是否經過充分論證和測試、是否明顯違反邏輯和科學或難以解釋、是否存在重大反對意見或科學合理的懷疑；并指出從專業視角否認該裝置的科學性，可能會對非法鳴笛的治理造成負面影響，影響行政機構在未來執法活動中利用高科技手段懲治交通違法行為的能力。當前多數地區采用技術手段實施交通執法行為，其中佛山廣臺高速的“天價罰單”引發了熱議。在該地區一段道路上啟動電子警察后，一年內記錄了1.8萬多起交通違法行為，但交通事故總數和事故受傷人數同比大幅度下降；面對處罰，眾多車主積極申請行政復議維權，部分處罰行為被復議機關撤銷?？梢?，以電子警察為代表的自動化輔助行政是把雙刃劍，一方面它提高了行政效能，減少了交通事故的發生；另一方面它增加了執法密集度，引發了新的行政爭議，致使維權數量增多，進而讓復議機關和司法機關的工作量增大。

（二）弱人工干預的部分自動化行政

部分自動化狀態下，自動化系統能夠獨立完成某項任務，此任務無需人為干涉。在生成式人工智能背景下，自動化系統可以預先設定算法，在收集和挖掘海量數據之后，通過機器學習的方式形成自主決定的內容。交通執法領域存在眾多的部分自動化行政，如在中國的智能交通中，通過運行基于深度學習的計算機視覺算法來生成結構化數據，如目標行人的位置、行駛速度、方向等，并進一步解決農村道路建設檢查監督中的資源浪費和缺乏直觀結果等問題。四川省交通行政審批業務處理系統是為該省各級交通審批人員提供在線審批工作的服務系統，該系統提供在線審批、自動文件生成、證書打印管理等功能，它還可以在整個過程中與其他管理系統和數據庫共享經批準的數據資源。新加坡在城市地區建立了ERP高速公路電子收費系統，該系統取代了限制區域和高速公路的手動收費系統，它已經在一些擁堵的城市成功應用，但也引發了人們對隱私和社會公平的擔憂。

域外方面，美國存在許多部分自動化行政的推行經驗，如自動決策系統（ADS）管理著美國的社會福利項目，橫跨地方、州和聯邦政府，比如失業和殘疾福利領域。引發擔憂是ADS可能大幅提高效率，但它們也很有可能加劇基于階級和種族的現狀不平等；并且這些系統的使用不透明，往往使個人在作出決定后沒有辦法行使追索權，個人甚至可能不知道ADS在決策過程中發揮了作用。對此，美國學者提出建議，聯邦政府應立即采取行動，增加自動決策制度的透明度和責任追究力度；各機構必須建立內部技術能力以及以透明度、問責制和公平性為中心的數據文化；美國政府應要求使用ADS的機構采取通知和評論程序，向公眾披露有關這些系統的信息；立法機關通過全面立法，實施單一的國家標準，規范跨部門和用例使用ADS。在部分自動化行政流程中，一些程序性步驟由技術系統獨立接管，不能自動化的個別步驟由人工處理；人工生成的結果被轉移到技術系統進行進一步處理，并可能自動做出決策。人工智能系統沒有義務檢查人類執行的部分步驟的結果，總體責任仍由人類承擔；部分自動化的類似變體是通過自動檢查法律相關事實來準備決策，從而由人類做出最終決策。

（三）無人工干預的完全自動化行政

完全自動行政中，由自動化系統單獨實施某類行政行為的全部環節，不需要人工干預。從廣義上講，即使一項決定在形式上分配給了某個人，但如果此人在正式做出決定之前沒有主動審核處理結果，該決定仍被視為自動化處理。雖然完全自動化決策是通過技術手段獨立作出，但是公共機構須確保決策監督具有實質性。在挪威，若能提前確定所有法律要求和條件，相關法律規則即可執行，從而實現自動化執行。挪威的法律規則可通過決策樹（一種層次結構的預測分類模型）實現，若人類對法定條件的評估無裁量空間，則決策可完全自動化。

近年來，中國深圳市通過政府大數據平臺建設，實施了無需人為干預審批流程的自動審批，實現了秒報秒批的效果。為了實現這一目標，深圳市政府運用的技術有“人工智能”“大數據”“區塊鏈”等。深圳構建了一個統一的全市政府信息資源分享平臺，集中了電子證書、公共信貸等數據資源；通過為所有類型的數據庫創建共享和重用渠道，該平臺促進跨區域的數據共享和互操作。與此同時，上海正在推進無需人工干預的自動許可證變更業務，通過利用人工智能等技術，建立一種新的模式，以實現審批自動化、多樣化渠道和便捷審批服務；一旦在線申請成功，處理結果將在30秒內可用，如果獲得批準，企業負責人可通過免費郵寄方式獲取許可證，或在現場等待領取證書。

三、人工智能時代自動化行政風險樣態

自動化輔助行政、部分自動化行政、完全自動化行政三個發展階段存在不同的風險樣態，但是也存在共性之處，如對行政相對人程序權益的侵害，致使程序正義理念難以得到實現。本文無法窮盡自動化行政的全部風險類型，在提取司法裁判現狀和實踐案例的相關內容后，將人工智能時代自動化行政風險樣態歸納為“權力黑箱、治理偏見、權力異化、權力惰性、私權侵害”五類范疇。

（一）“算法黑箱”形成“權力黑箱”

算法黑箱現象出現在數據輸入、計算過程和結果輸出三個階段。由于公共利益原因，知情同意規則被豁免，導致數據采集過程不透明；出于保護商業秘密的考慮，算法的決策流程也不對外公開；此外，數據分析結果與決策之間的轉換過程同樣未公開披露。自動化行政的算法缺乏透明度和可解釋性，在某些情況下可能會產生有爭議或不公平的決策，并且由于其不透明性，人們無法理解為何會出現這些結果。算法黑箱引發了不透明、陌生性、不可預測性和合理性等問題，對自動化決策構成了挑戰。如新加坡的ERP高速公路電子收費系統和美國的自動決策系統，因算法決策缺乏公開決策過程，行政相對人很難認同決策內容，進而影響決策的執行效果。

同時，算法黑箱使政府決策高度保密，決策動機、程序、結果的復雜性加劇了黑箱屬性，形成了“權力黑箱”。人工智能技術融入政府決策過程中，算法不可預測性、難以解釋等特征也傳導到了公共決策，由此也引發了“權力黑箱”；并為權利的實現制造了障礙，公民無法理解、參與和監督政府權力的行使。在算法技術的運行過程中，存在黑箱風險，普通群眾可能難以接受算法技術與權力融合。“權力黑箱”反映了算法時代的悖論，即數據以驚人的速度傳播，但具有重大影響的信息只有內部人員才能訪問?，F有數據資源和算法技術是有限的，行政相對人基于算法黑箱推薦的服務內容，必然存在相應的算法風險或其他風險。如ChatGPT的大模型對公眾來說就是一個黑箱，很少有人能真正理解其背后的操作邏輯和知識架構，因為該模型利用強化學習與深度學習方法、學習模式和訓練模型，使ChatGPT背后的偏見問題更加隱蔽和難以檢測。

（二）“算法歧視”激化“治理偏見”

算法歧視來自于數據，不公平的數據集是根源。倘若訓練數據有傾向性或固有偏見，潛在偏見可能會無意中嵌入到算法中，此時的決策會放大和強化已有的歧視和偏見。特別是在無人工干預的完全自動化行政中，行政相對人可能不知道自己正在遭受算法歧視，并且也難以知道自己是因哪些特征而被歧視。同時，政府治理過程中可能會延續陳規定型觀念和歧視性做法，影響個人和邊緣化群體，缺乏人工監督和干預也將導致錯誤和意想不到的后果。算法歧視的事先預防和理論探索不容忽視，算法歧視的確定和問責也是良好治理的關鍵環節，倘若缺乏問責機制，很難評估算法治理的有效性。

針對算法歧視，目前法律治理產生了兩方面的問題，一是治理目標的普遍性，即算法歧視監管范圍太廣；二是治理手段的碎片化，即算法歧視監管工具的混亂。算法歧視的內涵中包括“算法偏見”，它對應于語義表達中法律層面的歧視；同時包括“算法不平等”，它對應于語義表達中道德維度的歧視。適用公法—私法規范所描述的“算法偏見”的情況主要在公法領域，同時部分涉及公民福祉的私法領域；“算法不平等”情景則是私法領域的其余部分。從人工系統向機器學習系統的轉變，提供了克服治理偏見的機會。但因自然語言的歧義性特點，有偏見的文化在不知不覺中不依附于語言的靜態符號，智能應用產生的敘事可以再現新的偏見。生成式人工智能的獨立學習與決策能力，可能產生偏見、歧視和不公平的結果。如果算法系統不加思考地依賴于海量數據，機器學習也會提高治理偏見的可能性。

（三）“技術權力”致使“權力異化”

技術權力是技術要素和政治結構相互作用的產物，反映了技術的權力關系和政治效果，技術權力源于一國的國家創新能力，是國家權力的組成部分。它兼具軟權力和資源權力的特質，通過迎合偏好、撫慰情緒來吸引、引導他人做其想做的事，從而實現操控目的。與傳統的強制權力不同，它通過本能、無意識的方式，表現為一種基于理解的權力。人工智能算法的技術權力是看似客觀的權力譜系，由數據的設計、構建、調節、操作和處理形成，但根據技術本身的效率原理和效果原理，具有明顯的技術理性特征。人工智能算法通過機器優勢爭奪人類的決策權，并基于優勢構建人類的認知和行為模型，極速擴展其影響，塑造社會運作。數據和算法正成為人工智能時代新的權力要素，任何擁有更完整、更高質量數據并掌握更先進算法的人都可以擁有更多的權力。新的權力生產要素的出現預示著權力技術轉移機制的激活，技術優勢將轉化為權力或權力優勢，并且技術權力開始向治理權力流動。以強勢組織為中心的權力關系集中結構將被分散，直到下一個強勢組織的出現。值得注意的是，新技術可能導致權力的意識形態風險指數逐漸放大，與公共權力合謀，產生權力異化狀態。

社會主體作為人工智能技術的研發者，往往也是人工智能技術的傳播主體，該主體比其他主體擁有更多關于人工智能技術的信息，這使他可能掩蓋主體身份并濫用社會權力。國家作為行使人工智能技術的另一主角，盡管也擁有大量的技術信息，但其時間滯后于社會主體，導致信息不對稱。如“何凱、上海市公安局黃浦分局交警支隊行政處罰”案中，司法機關為了避免對非法鳴笛的治理產生負面影響，認為不能從專業視角否認電子監控設備的科學性，進而將設備科學性的審查權力交給了行政機關和社會主體。該觀點明確了法定審查標準，但也可能導致行政機關推諉諉責任、放棄技術權力，或者社會主體侵越權力的現象發生。作為社會治理中的關鍵作用，行政機關具有強大的自主性，應當依法依規行使權力。

（四）“技術依賴”催化“權力惰性”

在自動化行政中，技術依賴主要體現為對高質量數據以及自動化行政系統的訓練、測試和改進的依賴。權力和技術以依賴路徑的方式相互作用，其中權力結構影響技術的采用和實施，而技術反過來又影響權力關系。技術進步推動的開創性變革會破壞現有的權力結構，并導致組織內部的權力集中。隨著權力集中于中央機構，技術依賴可能會催化權力惰性。人們傾向于依賴人工智能，這在很大程度上是因為人們只知道人工智能可以做出比人類更好的決定，但不知道為什么人工智能可以做出這樣的決定；這使得人類無法從人工智能中學習，但更依賴人工智能，最終被掌握在人工智能的技術力量之下。自動化行政增強了行政任務的完成效率，但也可能致使執法人員嚴重依賴算法。

人工智能時代的技術依賴，在某種意義上是國家對社會權力的依賴。社會權力及其運行狀態是技術依賴產生的關鍵變量，技術力量社會化失控，集中在兩種相互結合的過程形式中，即權力的技術邏輯和技術的權力慣性。技術權力的慣性體現為由權力驅動的技術理性逐漸支配甚至取代人類理性的基本邏輯。隨著人工智能等技術的不斷發展，一方面，完成了技術理性向意識形態和絕對正確性的蛻變；另一方面，也實現了人類理性向技術理性的轉變。值得注意的是，技術依賴可能導致自動化系統缺乏可控制性和可預見性，人類難以保持對具有自主權的編程機器的控制。同時，限制了行政機關在控制力、安全性、透明度、錯誤識別及系統操作理解方面的能力。

（五）“公權擴張”引發“私權侵害”

自動化行政可能通過操縱或審查信息來影響言論自由和個人信息權益；通過傳播虛假信息或宣傳，影響公眾輿論并限制獲得不同觀點的機會。個人數據的商品化容易威脅到隱私權，人工智能對數據的過度取用引發了嚴重的隱私擔憂。自動化行政也加劇了透明度和問責制的缺陷，因為使用算法進行決策可能缺乏透明度，并且很難追究平臺對其行為的責任；擴大平臺權限以監管在線言論時，對平臺本身的監督和檢查有限，可能會影響到用戶的私權。

人工智能時代的私權侵害不同于以往的侵權形態。首先，侵權范圍擴大，侵權損害后果更加嚴重。佛山廣臺高速的“天價罰單”案件顯示，行政主體反復運用電子監控設備聚合個人違法信息，可能因違反法定程序要求，嚴重侵害個人的合法權益。而隨著人工智能的運用變多，侵犯不特定群體權益的可能性也會增加。其次，產生了新的侵權方式，人工智能的自學習和自決策能力引起了人們對潛在侵權行為的擔憂，如自學習能力的發展可能導致人工智能在沒有人為意圖或不知情的情況下侵犯知識產權。并且人工智能支持更復雜的訪問和利用個人信息的方法，這使得發現和防止侵權行為變得更加困難。最后，追究侵權者的責任更加困難。傳統侵權案件中，責任一般可以被追溯到具體的個人或實體。但在人工智能系統中，責任可能分散到多個層面，包括開發者、數據提供者、訓練數據、算法本身等。如數據經紀人和數據生產者等各種實體參與數據產業鏈，形成了復雜的責任網絡，使得追究侵犯隱私行為的責任變得困難。并且人工智能系統的工作原理十分復雜，有時甚至開發者也無法準確解釋其內部決策過程，更難以區分清楚不同主體的責任大小問題。同時，隨著生成式人工智能的興起，法律和監管機構難以及時跟上技術變革的步伐，這可能導致侵害行為的監管和問責滯后于技術應用。

四、人工智能時代自動化行政的規制路徑

2023年8月，國務院辦公室發布了政府服務效率標準化機制的意見，匯集了57個地方部門提高政府服務效率的典型實例，其中，泉州數字政府的實踐涉及了人民的身邊事，促進了“無處不在”的政府服務，是全國推廣的案例之一。通過實施公共服務標準化，泉州市某中心將全部政務流程納入一體化體系當中，此經驗做法已被評為提升政務服務效能的典型案例。該機構的經驗具有一定的啟發意義，可以讓其他行政機構在探索自動化行政路徑時找到一些共同的屬性。因此，本文選取泉州市某中心運用自動化行政的現實樣貌，作為探索自動化行政的樣本。泉州市某中心的行政活動具有數字化、技術性、人工智能與人工審核等特征，通過關注該中心自動化行政的運行狀態，能探討理想運行模式。同時深入探索行政活動背后的理論邏輯，能揭示新興信息技術在行政活動領域的應用樣態。下文將結合泉州市某中心辦事群眾、窗口工作人員、進駐領導的訪談記錄，提出規制路徑。

（一）明確算法系統的可解釋性規則

人工智能時代，算法系統影響下的自動化行政容易產生黑箱機制，該機制致使算法結構及其決策過程的不透明度，并形成黑箱力量。黑箱力量通過限制透明度和對決策方式的理解來提高算法管理的有效性，個人在算法系統中的有限代理權可能進一步增強黑箱力量，因為他們對算法的行為幾乎沒有控制權或洞察力，這種缺乏透明度的狀況引發了人們對問責制以及算法決策中可能出現偏見或歧視的擔憂。泉州市某中心的受訪員工指出，“自動化行政中的黑箱力量可能導致機構內部缺乏對決策過程的理解，算法結構可解釋性的缺乏還會限制機關工作人員的能動性，并降低工作人員影響決策的能力”。缺乏可解釋性也使算法系統本身產生了一種力量感，因為它們會監測自己的行為，并以預見的方式順從地行事。具體應對措施包括：針對不同算法黑箱模型，滿足算法系統的可解釋性需求；解釋標準應側重于理解和信任等心理因素；測試提供解釋的各種方法，并根據現有問題制定有關可解釋性的法律規則，以應對公共活動中自動化決策的挑戰。如英國信息專員辦公室（ICO）發布了人工智能決策解釋指南，根據算法本身是否為黑箱算法，并考慮到其無法解釋和神秘的性質，對算法進行分類；當存在其他非黑箱算法時，優先適用這些算法，如線性回歸、決策樹、k近鄰、廣義加性模型等。此外，應當依法核實政府及其部門的權力和責任清單，避免“權力黑箱”出現，消除腐敗空間，保證權力公開透明、有序運行。

（二）凝聚利益相關者的治理共識

法律規則作為約束措施，可以對算法決策進行優化。實務中產生的問題與歷史上的制度歧視類似，能通過凝聚共識方式來解決。算法歧視不是自動化決策問責制的必備因素，不同群體充分地表達利益訴求能解決治理偏見問題。運用法律規則解決算法歧視和治理偏見過程中，需要注意利益相關者的多元性。技術系統涉及多個利益相關者，包括編譯算法程序代碼的開發參與者、為算法操作提供必要數據的供應參與者、使用數據執行算法模型的培訓參與者、制造人工智能系統的生產參與者和部署可操作人工智能系統應用的參與者，這些利益相關者的行為可能導致算法侵權；如算法程序代碼開發主體的疏忽，導致算法程序操作中的錯誤，或者數據提供主體所提供數據中的偏見，導致算法決策結果中的歧視性影響等。泉州市某中心受訪負責人坦言，“就中立性而言，技術本身沒有價值，但算法設計者有可能帶來價值傾向；自動化行政過程中，可能缺乏陳述申辯、救濟的環節，算法歧視、算法偏見的現象層出不窮”。具體的對策是：首先，當利益相關者借助算法力量形成自己的意見時，行政機關應當注重推動共治的形成。其次，算法作為爭搶權力的關鍵點，本身包含著一種價值判斷，應當注意避免算法出現歧視或者不公的現象。最后，為了解決自動化行政系統的主觀偏差，應當使用第三方評估監控機制來消除治理偏見的風險。

（三）承認技術力量持有者的權力

技術和權力這兩類要素并不相互獨立，技術權力是基于基礎技術占據技術優勢，并對其他主體施加控制力或約束力。技術自主性深刻地改變了傳統的權力運作方式和行動機制，統治通過技術擴大了影響力，并為權力提供了足夠的合法性。人工智能的技術力量主要由傳統的公共權力和社會權力驅動，即通過人工智能技術掌握控制他人的權力。泉州市某中心受訪員工也提出了疑慮，“人工智能技術力量的持有者有可能濫用權力，利用人工智能的黑箱屬性作為盾牌，將個人價值判斷納入自動化決策過程，侵犯普通群眾的權利，逃避法律監管”。技術權力異化為治理權力過程中，產生了兩難選擇。一方面，作為社會權力持有者（如人工智能的設計師、制造商）有能力超越國家權力，處置他人的合法權利，這是國家權力無法接受的；另一方面，國家權力的過度參與可能會阻礙人工智能的發展，這也是社會權力持有者無法接受的。具體應對措施包括：首先，承認社會技術力量的存在。人工智能算法有自己的工作邏輯，它通過高技術性、復雜性和不透明性隱藏了自己的強制性特征，也為算法技術力量的隱含功能提供了條件。其次，有條件地承認社會權力持有者的技術權力。人工智能算法的工作機制產生了社會的隱性技術力量，應當通過重構社會權力，將符合國家價值理念的內容擴展到現實空間。最后，平衡國家權力和社會權力的關系。自主技術能夠行使國家和社會賦予的部分權力，特別是通過承接從國家（政府）轉移而來的權力，將其施加于權力對象。人工智能技術滲透到權力運行的過程中，應當平衡國家權力與社會權力之間的關系。

（四）確立以人為本的理念

行政組織對人工智能和自動化系統的使用表明，辦事人員越來越依賴技術來實現各種目的，包括公共服務的提供、分析、監測和監管研究。泉州市某中心受訪負責人指出，“自動化行政系統提供了可以幫助甚至替代人類行為的新功能，可能會導致相關部門工作人員在決策過程中產生惰性思維”。人工智能在公共領域的運用可能會出現錯誤或不準確，對人工智能的日益依賴會導致決策內容與其所承擔的價值觀（如公開、透明、解釋、監督）發生沖突。而將以人為本理念整合到自動化行政實施中，能解決技術依賴和價值觀偏差問題。具體措施包括：首先，由數據科學家、人工智能專家、領域專家和其他利益相關者參與協作開發，讓普通群眾理解數據，實現適當的功能和有效評估自動化系統。其次，技術對公民權利和公共利益帶來了重大影響，應當確保人工智能仍然是輔助工具，發揮人類的主體作用，不扭曲立法程序或威脅民主。再次，現實的復雜性以及對更精確和技術性立法的需求，為完善人工智能的適用創造了機遇，但必須謹慎行事，以保持技術和民主原則、權利保障之間的平衡。最后，盡管機器學習系統可能比傳統的統計技術更具自主性，但它們仍然需要人類創造者和監督者指定目標、命令和后果。因機器學習算法缺乏謀求私利的意圖，人類應當保留對算法規格及其輸出轉化的監管行動的最終控制權，并由授權的政府官員設置目標，以此有效地避免歧視或者偏見。

（五）“落實最小損害原則”

人工智能在社會中的日益普及，引發了人們對人工智能系統放大現有偏見和不平等的擔憂。泉州市某中心受訪辦事群眾認為，“隨著自動化行政系統收集、處理和分析大量個人信息，個人越來越容易受到數據利用和監控，職權部門需要加強對個人數據和隱私權的保護”。人工智能時代下，行政機關運用自動化行政手段不斷擴展公權力，會引發私權利侵害問題。如稅務部門通過自動化系統訪問到大量數據，可能對私權構成嚴重威脅；尤其是在收集數據環節，未經授權的訪問或濫用私人數據會引發嚴重的侵權現象。具體措施包括：首先，行政主體應當關注私權保護問題，特別注意有偏見的歷史數據的運用可能使歧視永久化，并導致行政給付、行政處罰等領域產生不公平決策。其次，當自動化行政不可避免地侵入私權領域時，應當區分對不同權利的限制程度。有些權利，如生命權、不受酷刑的權利、不被奴役的權利是絕對的；而有些權利則不是，例如，在公共緊急狀態下，國家有權克減大多數人權；其他權利，如隱私權和言論自由，則受到限制，但是對這些權利的任何限制都應是例外，并應基于合法目的。最后，必須強調的是，任何權利的限制都必須符合法律，并且是必要的和相稱的，符合最小損害原則。

結語

依托算法和算力的快速發展，人工智能時代的自動化行政為提高行政效率、減少主觀偏差提供了技術可能。但伴隨著自動化行政由強人工干預邁向無人工干預，更深層次的治理風險也隨之浮現。構建與各類自動化行政相適應的有效規制框架，是行政機關運用人工智能技術履行公共職責的關鍵所在。本研究通過實證分析，嘗試對自動化行政的規制路徑作出初步探索。然而，受限于實際案例與訪談樣本的不足，當前研究尚未能完全涵蓋人工智能時代下自動化行政的全部規制路徑。自動化行政融合了法律、計算機科學與管理學等多學科知識，適宜采用跨學科研究方法。未來研究將繼續依托這一方法，深入探尋其規制路徑。