湖南
全國網(wǎng)絡安全標準化技術委員會正式發(fā)布了《人工智能應用倫理安全指引1.0》，也就是這個《指引》，這件事其實挺關鍵的——因為它算是我國第一個專門盯著AI應用倫理安全來的系統(tǒng)性規(guī)范文件。它一落地，意思也很明確：國內(nèi)AI行業(yè)，從之前那種有點“野蠻生長”的狀態(tài)，開始往更規(guī)范的發(fā)展階段走了。說白了，就是給各種智能技術怎么用、能用到哪、哪些地方不能碰，先把倫理和安全邊界劃出來了。
一、《指引》的核心定位與核心原則
《指引》的定位也比較清楚，它是給全行業(yè)參考的規(guī)范性文件，而且不是只盯某一個環(huán)節(jié)，而是站在AI整個應用流程上去看的。里面把幾個核心原則說得很直白：以人為本，這個是放在前面的；大眾權益、信息安全，也都被擺到了很重要的位置。再換個說法，它提倡AI應用要公平公正、要透明、要能追溯，不能黑箱一開就完事；用戶隱私數(shù)據(jù)這塊，也要求嚴格保護。還有一個很關鍵的點，就是所有智能系統(tǒng)都得保留人工管控權限，不能徹底放飛給機器。這么做其實就是提前堵風險，像算法偏見、隱私泄露這些問題，盡量從源頭去壓住，把技術使用的倫理底線先守住。
AI 倫理安全指引 1.0 發(fā)布
二、分行業(yè)差異化規(guī)范：聚焦高風險、民生相關領域
然后，《指引》也不是一刀切——它考慮了不同行業(yè)的差別，做的是差異化規(guī)范，重點看的是那些風險高、又和民生關系特別近的領域，比如醫(yī)療和金融，這兩個地方的要求就更嚴格一些。
醫(yī)療領域里，智能診療輔助工具不能自己單獨做診療決策，這個說得很明白，必須有人來復核，畢竟看病這個事，出一點偏差都不是小事，所以人工把關不能少。金融這邊，則重點防算法歧視，要保證用戶能平等享受金融服務，不能因為模型怎么算，就把某些人群悄悄排除掉；像智能信貸、風控系統(tǒng)這些，也得把決策依據(jù)說清楚，不能一句“系統(tǒng)判定”就結束。
除了這些重點行業(yè)，公共服務、網(wǎng)絡內(nèi)容創(chuàng)作這些領域，也被納進來了。它主要是要防一些亂象，尤其是AI生成虛假信息、偽造內(nèi)容這種事——這個問題現(xiàn)在挺現(xiàn)實的（說真的，大家都見過一點），如果不管，后面會越來越亂。所以它的目標也很直接，就是別讓技術把行業(yè)環(huán)境帶偏了，要保障行業(yè)能健康發(fā)展。
三、明確產(chǎn)業(yè)鏈各主體責任，筑牢合規(guī)防線
再往下看，《指引》對產(chǎn)業(yè)鏈里不同主體的責任，也分得比較細。研發(fā)者要在產(chǎn)品一開始的時候，就把倫理安全理念放進去，不是出問題了再補；還得做好風險測評，以及追溯體系搭建，出了事要能查，不能找不到責任點。
服務提供者這邊，要把高風險場景管控做好，同時也得明確告訴用戶，這個東西能用在哪、風險是什么、邊界在哪；另外還要搭反饋渠道，讓用戶遇到問題能說、能報、能被處理。至于使用者，也不是說拿來就隨便用，一樣得合規(guī)使用這些智能工具，違規(guī)操作肯定不行。
四、行業(yè)影響及個人觀點：合規(guī)與創(chuàng)新并行發(fā)展
從行業(yè)影響上看，這個《指引》出來，時機算是比較對的。現(xiàn)在AI技術擴得很快，但倫理缺失、安全隱患這些問題，也確實越來越明顯。之前有些企業(yè)，只顧著追求落地速度，合規(guī)反而顧不上，結果既傷用戶權益，也把行業(yè)秩序弄亂了。所以這次的《指引》，其實不是來卡創(chuàng)新的，更像是在立一個標尺，讓大家知道，創(chuàng)新可以繼續(xù)，但安全和合規(guī)不能被甩開。
從長遠看，規(guī)范化環(huán)境反而更有利于真正有實力的AI企業(yè)成長，同時也能讓普通人更放心地使用智能產(chǎn)品。對企業(yè)來說，主動對標《指引》，盡快把合規(guī)布局做好，已經(jīng)不是可選項了，更像是當下發(fā)展必須補上的一課。
總的來說，這次《指引》的推行，等于把國內(nèi)AI產(chǎn)業(yè)治理體系又往前補了一塊，它會推動整個行業(yè)朝著安全、合規(guī)、向善的方向穩(wěn)穩(wěn)往前走，也給后續(xù)智能技術更有序地落地，先把基礎打牢了。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
