![]()
新規(guī)不是對技術本身的發(fā)展予以限制,而是防止技術過早被用于侵蝕未成年人的情感結構和關系網(wǎng)絡。
![]()
▲7月15日,《人工智能擬人化互動服務管理暫行辦法》將正式施行。新京報制圖
新京報社論
平時我們刷手機遇到的AI陪伴助手、虛擬情感好友,甚至給老人孩子提供陪伴的智能互動產(chǎn)品,今后將有明確的“行為規(guī)范”了。據(jù)央視新聞報道,今年7月15日,《人工智能擬人化互動服務管理暫行辦法》(以下簡稱《辦法》)將正式施行。
針對未成年人保護,《辦法》作出明確規(guī)定:嚴禁向未成年人提供虛擬親屬、虛擬伴侶等虛擬親密關系服務;向不滿十四周歲未成年人提供其他擬人化互動服務的,應當取得未成年人的父母或者其他監(jiān)護人的同意;要求建立未成年人模式,支持監(jiān)護人管控使用行為、限制充值消費等。
《辦法》的施行,無疑具有標志性的意義,清晰和堅定地向AI應用劃出了紅線:必須謹慎介入關系、社交,尤其要堅決貫徹未成年人保護各項機制原則。
近年來,在AI應用加速普及的同時,部分AI產(chǎn)品也開始嘗試介入人的社交關系和精神世界,由此也引發(fā)了倫理爭議。壓力之下,企業(yè)“被動糾偏”,多個企業(yè)宣布限制未成年人使用開放式聊天功能等。但從《新京報》等媒體報道看,出于流量和商業(yè)回報需求,多款產(chǎn)品的未成年人保護和防沉迷機制淪為擺設。
僅靠企業(yè)被動糾偏、輿論呼吁,難以建起真正的未成年人保護共識和機制。因此,政府從行業(yè)領域樹立監(jiān)管原則已迫在眉睫。
從現(xiàn)實案例看,AI擬人類應用帶來的挑戰(zhàn),已從單一工具使用風險問題,升級為介入關系和精神領域的結構性危機。
與工具、內容等場景不同,虛擬伴侶的核心機制,是通過持續(xù)對話與情緒反饋,模擬一個“始終在線、始終理解、始終回應”的關系對象。這種關系因為消除了現(xiàn)實摩擦而具備了成癮性,但也因為缺少現(xiàn)實摩擦,極易形成極端風險。
當一個尚未完成社會化的未成年人,把主要情感、關系建立在不會拒絕、不會沖突、不斷迎合的“虛擬伴侶”之上,其結果是現(xiàn)實關系和情感認知被重塑。現(xiàn)實中的不確定、摩擦與責任,反而變得難以承受。
這正是《辦法》禁止虛擬伴侶面向未成年人的底層價值。新規(guī)不是對技術本身的發(fā)展予以限制,而是防止技術過早被用于侵蝕未成年人的情感結構和關系網(wǎng)絡。
從治理細則看,這一《辦法》也做了具體的規(guī)定和約束。對于為未成年人提供親密關系服務的高風險場景,劃定紅線直接禁止,而對于其他類型產(chǎn)品,則需要完整建設年齡識別、監(jiān)護人同意、使用時長管理、情緒干預等機制,構建分層保護體系,形成緩沖地帶,保護創(chuàng)新。
可見,《辦法》出臺只是起點,未來不僅需要進一步從監(jiān)管要求落實到產(chǎn)品應用,還要根據(jù)技術的進步,不斷細化、調整。
AI可以輔助情感,但不能替代情感,更不能越界侵入情感和關系。尤其對于未成年人而言,其成長本質是在真實關系和社會互動中完成社會化。理解差異、處理沖突、承擔責任,這些都無法在“完美回應”的虛擬關系中獲得。
因此,新規(guī)落地,關鍵在執(zhí)行,責任更在相關企業(yè)。距離《辦法》施行已進入倒計時,相關AI企業(yè)應主動扛起主體責任,將未成年人保護內嵌到產(chǎn)品設計、算法邏輯與運營全流程。技術向善從來不是一句口號,而是企業(yè)必須堅守的倫理底線與市場準則。
唯有放棄短視的流量思維與逐利沖動,在技術創(chuàng)新與社會責任之間找到平衡,才能讓AI真正成為成長的助力而非隱患,從而實現(xiàn)可持續(xù)發(fā)展。
編輯 / 徐秋穎
校對 / 吳興發(fā)
歡迎投稿:
新京報評論,歡迎讀者朋友投稿。投稿郵箱:xjbpl2009@sina.com
評論選題須是機構媒體當天報道的新聞。來稿將擇優(yōu)發(fā)表,有稿酬。
投稿請在郵件主題欄寫明文章標題,并在文末按照我們的發(fā)稿規(guī)范,附上作者署名、身份職業(yè)、身份證號碼、電話號碼以及銀行賬戶(包括戶名、開戶行支行名稱)等信息,如用筆名,則需要備注真實姓名,以便發(fā)表后支付稿酬。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.