人工智能（AI）正在從“工具”走向“伙伴”。相關調研顯示，超七成用戶與AI建立起情感聯結，甚至產生過依賴感。從日常工作學習到聊天輔助，從情感傾訴到虛擬陪伴，當AI扮演起“社交避風港”“情緒止痛藥”等角色時，其背后的價值觀引導、虛擬情感成癮等潛在風險不容忽視。

日前，國家網信辦等五部門聯合公布《人工智能擬人化互動服務管理暫行辦法》（以下簡稱《辦法》），將于7月15日起施行。《辦法》鼓勵擬人化互動服務創新發展，對擬人化互動服務實行包容審慎和分類分級監管，也規定了擬人化互動服務提供者的未成年人、老年人權益保護和個人信息保護等義務。AI擬人化互動產業進入了有規可依的新發展階段。

中國政法大學人工智能法研究院院長、教授張凌寒分析，不同于傳統的AI信息發布或檢索服務，擬人化互動服務具有主動性、個性化和情感化特征，通過模擬人類的語言、表情、行為方式等，能夠與用戶建立類似人際關系的互動模式，其影響力和滲透性遠超傳統互聯網服務。“這種高度擬人化的交互模式所產生的風險，與一般AI應用存在本質差異，表現為情感依賴與社交異化、認知操縱與價值觀引導，以及心理健康與安全風險等?！?/p>

騰訊研究院一項針對2903名18歲至40歲中國青年網民的調查顯示，AI社交已近乎全面滲透，94.4%的調研對象至少聽說過一種AI社交產品或功能，其中98.8%的人有過實際使用經驗。AI社交輔助類工具的使用率最高，達到62.5%。當產生“難以對人說出口”的想法時，選擇向AI傾訴的比例（56.0%）是選擇向真人傾訴（14.4%）的近4倍。

“大語言模型技術已經從單純的認知智能向情感智能躍遷?！辟惖项檰柸斯ぶ悄芘c大數據研究中心研究分析師白潤軒觀察到，2025年以來，AI社交互動的用戶黏性極高，部分應用人均使用頻次甚至超過了短視頻和游戲?！斑@種深度的情感鏈接雖然帶來了巨大的商業價值，但也伴生了深度沉迷、倫理邊界模糊等風險?！?/p>

特別是對于未成年人，長期的AI擬人化情感互動帶來持續的情感反饋與情緒刺激，促使多巴胺反復分泌并強化心理愉悅感，逐步形成行為渴求與依賴慣性，“成癮”可能性更大。此次《辦法》的出臺旨在把隱性風險顯性化、標準化，降低長期不確定性。不過，合規發展并非“一刀切”，而是分類分級、風險匹配。例如，《辦法》要求服務提供者建立情感邊界引導、心理健康保護等安全能力，設置防沉迷提醒，對長時間、高強度的互動進行干預，規定用戶連續使用超過2個小時，就將以彈窗等方式提醒用戶。

“AI擬人化互動帶來的無摩擦式情感陪伴，確實容易擠占未成年人現實社交空間，弱化其線下交往能力與社會適應能力?！睆埩韬硎荆軜I態發展階段、技術適配性以及行業現實等多重因素制約，《辦法》目前只是確立了原則性、框架性規則。她建議，在后續落地實施中，需結合風險等級、應用場景、群體差異進行分層細化，建立更具量化標準、可落地執行的法律判定閾值，實現精細化治理。

白潤軒認為，此次《辦法》并非“急剎車”，而是行業已達“設護欄的臨界點”，旨在防止技術異化，確保人機關系良性發展?！斑^去，部分產品依靠打擦邊球、誘導消費來獲取流量，一定程度上透支了行業的未來。新規實施后，合規成本會上升，但也會倒逼企業從流量思維轉向產品思維。短期內可能會有洗牌，但長期看，情緒經濟將進入規范化高質量發展的新階段。監管不是消滅AI陪伴，而是把危險的依賴關系變成安全的輔助關系，為養老、教育、心理健康、文化傳播等打開更大空間。”

未來，AI陪伴類應用的算法優化需引入更復雜的獎勵模型。白潤軒舉例介紹，訓練AI在識別到用戶出現極端情緒、不合理決策或危險傾向時，應溫和但堅定地進行干預，而非盲目附和，這需要從RLHF（人類反饋強化學習）階段就植入心理健康和安全準則。再比如，當監測到用戶連續使用超過一定時長，或者在非常規時間段高頻互動時，AI不僅要彈窗提醒，更要在對話策略上主動引導用戶回歸現實生活。（本文來源：經濟日報 作者：中國經濟網記者 李 方）