出品｜虎嗅ESG組

作者｜陳玉立

頭圖｜視覺中國(guó)

本文是#ESG進(jìn)步觀察#系列第169篇文章

本次觀察關(guān)鍵詞：供應(yīng)鏈治理

近日，豆包與千問幾乎同時(shí)宣布下線智能體功能。

據(jù)公開報(bào)道，豆包智能體下線后，相關(guān)功能存在于獨(dú)立產(chǎn)品“貓箱”；而千問處理得更徹底，直接關(guān)閉相關(guān)功能且不提供遷移路徑。

兩家大廠不僅處置方式類似，時(shí)間點(diǎn)也高度一致——都卡在7月15日《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》正式施行之前，辦法提到需對(duì)虛擬戀人、深度角色扮演、情感依附類AI設(shè)立強(qiáng)約束。

因此，大廠切掉的并非問答、辦公、搜索、代碼、工作流這類通用AI能力，真正被重新定價(jià)的是過去一兩年里快速膨脹的關(guān)系型智能體：用戶自建人設(shè)、角色扮演、虛擬戀人、情感陪伴、公開分發(fā)的智能體廣場(chǎng)。

一句話總結(jié)：智能體沒有整體退潮，退潮的是低門檻UGC、情緒依賴和灰色親密互動(dòng)撐起來的那部分增長(zhǎng)。

在新規(guī)之后，智能體賽道可能開始分流：任務(wù)型智能體繼續(xù)發(fā)展，關(guān)系型智能體進(jìn)入強(qiáng)合規(guī)時(shí)代，帶情感陪伴功能的AI“情趣”硬件大概率被堵在門外。

大廠切割“關(guān)系型智能體”

在豆包與千問的動(dòng)作中，值得觀察的地方在于“下線的究竟是什么”。

從平臺(tái)處理方式看，豆包并沒有放棄大模型主產(chǎn)品，也沒有放棄AI助手能力，反而選擇把高風(fēng)險(xiǎn)互動(dòng)功能從主App中剝離，只在獨(dú)立產(chǎn)品中存續(xù)。這一動(dòng)作的含義明確：主App要繼續(xù)承擔(dān)大眾效率工具、搜索入口、AI助手的角色，情感互動(dòng)、角色扮演、用戶生成智能體這類風(fēng)險(xiǎn)更高的功能，則被放到“隔離區(qū)”。

千問的處理則是直接關(guān)閉，且不給遷移路徑，說明平臺(tái)對(duì)這塊業(yè)務(wù)的判斷更冷。如果一個(gè)非核心功能帶來的審核成本、監(jiān)管壓力、輿論風(fēng)險(xiǎn)超過業(yè)務(wù)收益，關(guān)掉就是最干凈的選擇。

此次下架動(dòng)作中兩家底層邏輯一致：關(guān)系型智能體在大廠主入口里的位置變了。過去它能帶來互動(dòng)、時(shí)長(zhǎng)和用戶參與；現(xiàn)在，它開始變成風(fēng)險(xiǎn)資產(chǎn)。

一個(gè)值得追問的議題是，為什么關(guān)停智能體的是豆包、千問？為什么WorkBuddy這類產(chǎn)品看起來沒有受到同樣沖擊？

答案大概率藏在產(chǎn)品屬性里。

WorkBuddy這類偏辦公、企業(yè)協(xié)作、工作流的智能體，處理的是任務(wù)：寫文檔、做紀(jì)要、調(diào)流程、跑數(shù)據(jù)。它的主要風(fēng)險(xiǎn)集中在數(shù)據(jù)權(quán)限、企業(yè)信息安全、輸出準(zhǔn)確性和流程責(zé)任上；而關(guān)系型智能體處理的是人和擬人對(duì)象之間的關(guān)系，用戶完全可以創(chuàng)建一個(gè)“AI女友”“AI男友”“病嬌妹妹”“霸總伴侶”，加上平臺(tái)再提供廣場(chǎng)、推薦、和分享，這就從工具變成了擬人化內(nèi)容平臺(tái)，風(fēng)險(xiǎn)也就隨之放大。

首先可能會(huì)帶來UGC失控。用戶可以低成本創(chuàng)建人設(shè)、設(shè)定語氣、關(guān)系、頭像、開場(chǎng)白，再公開發(fā)布。供給越豐富，審核壓力越大。此前上海累計(jì)下架1.4萬個(gè)違規(guī)智能體，就是一個(gè)很直接的信號(hào)：不加管制的開放智能體生態(tài)容易滋生擦邊內(nèi)容、侵權(quán)人設(shè)、真人仿冒和低俗互動(dòng)。

其次是關(guān)系依賴。普通問答助手回答完就結(jié)束，關(guān)系型智能體會(huì)持續(xù)記憶、主動(dòng)關(guān)心、使用親密稱呼、模擬陪伴關(guān)系。用戶投入越深，產(chǎn)品留存越強(qiáng)，付費(fèi)轉(zhuǎn)化也越容易。但在未成年人、心理脆弱人群、孤獨(dú)老人等場(chǎng)景里，這種黏性很容易越過安全邊界。

最后是平臺(tái)分發(fā)責(zé)任。一個(gè)用戶自己創(chuàng)建、自己使用的智能體，風(fēng)險(xiǎn)半徑有限；一旦進(jìn)入智能體廣場(chǎng)、排行榜、搜索頁和推薦流，平臺(tái)就參與了放大。此時(shí)再用“用戶自建”解釋責(zé)任，就有些“無力”了。

這就是豆包、千問這類大流量入口最敏感的地方，它們做全民AI助手的品牌要求是干凈、可信、普適。但主App里如果混入大量虛擬戀人、曖昧陪伴、侵權(quán)角色、擦邊人設(shè)，一旦被截圖傳播，損害的會(huì)是整個(gè)產(chǎn)品的公共信任。

豆包和千問的下架動(dòng)作本質(zhì)上都是停止為非核心場(chǎng)景承擔(dān)額外風(fēng)險(xiǎn)。兩者都說明，大廠已經(jīng)開始給關(guān)系型智能體重新算賬。

新規(guī)把邊界畫到了產(chǎn)品形態(tài)上

新規(guī)真正有殺傷力的地方，在于它沒有停留在“內(nèi)容審核”層面，而是把監(jiān)管邊界延伸到了服務(wù)定義和產(chǎn)品形態(tài)。

據(jù)《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法》第八條指出，生成、提供淫穢色情、親密性模擬交互內(nèi)容或硬件功能，被明確禁止。這條規(guī)則直擊“擬人化關(guān)系商業(yè)化”的灰色地帶。

過去很多AI陪伴產(chǎn)品會(huì)用“情感”“陪護(hù)”“孤獨(dú)經(jīng)濟(jì)”包裝自己。表面上它們提供傾訴、陪伴、安慰，實(shí)際上增長(zhǎng)最強(qiáng)的是更曖昧的部分：不限于親密稱呼、戀愛角色、曖昧對(duì)話等。用戶越投入，停留越久；關(guān)系越強(qiáng)，付費(fèi)越容易。

關(guān)系型智能體把AI從工具變成關(guān)系對(duì)象，把一次性的使用變成持續(xù)性的陪伴。會(huì)員、角色權(quán)益、高級(jí)模型、道具、訂閱，都可以接在這條關(guān)系鏈上。

問題也出在這里。

當(dāng)產(chǎn)品開始利用孤獨(dú)、親密需求、情緒脆弱性提高留存和付費(fèi)，監(jiān)管關(guān)注點(diǎn)就會(huì)從“模型有沒有說錯(cuò)話”轉(zhuǎn)向“平臺(tái)有沒有制造依賴”。如果再疊加未成年人、誘導(dǎo)消費(fèi)、色情暗示、侵權(quán)人設(shè)、心理疏導(dǎo)越界，風(fēng)險(xiǎn)等級(jí)會(huì)迅速上升。

所以，新規(guī)劃出的邊界可以概括成一句話：情感陪護(hù)可以做，把陪護(hù)關(guān)系性化不行；擬人化交互可以做，用擬人化關(guān)系導(dǎo)向情欲消費(fèi)不行。

從這一角度看，對(duì)AI硬件公司的壓力更大。

很多硬件從業(yè)者原本以為，擬人化互動(dòng)監(jiān)管主要影響聊天App、智能體平臺(tái)、虛擬陪伴軟件。但新規(guī)覆蓋的是“擬人化互動(dòng)服務(wù)”，硬件只要搭載語音陪伴、主動(dòng)關(guān)懷、仿人外觀，就可能進(jìn)入監(jiān)管視野。

尤其是AI陪護(hù)機(jī)器人、AI寵物、AI玩具、老人陪伴終端等。這些產(chǎn)品天然會(huì)強(qiáng)調(diào)陪伴感。為了提高用戶黏性，廠商會(huì)設(shè)計(jì)專屬稱呼、情緒識(shí)別、主動(dòng)問候、記憶偏好、擬人語氣甚至肢體動(dòng)作。這些設(shè)計(jì)本身并不必然違規(guī)，但邊界會(huì)變得非常敏感。

兒童場(chǎng)景涉及未成年人保護(hù)、防沉迷、價(jià)值觀引導(dǎo)、誘導(dǎo)消費(fèi)等；老人場(chǎng)景涉及認(rèn)知能力下降、健康建議誤導(dǎo)、詐騙風(fēng)險(xiǎn)等。只要廠商宣傳自己提供“陪護(hù)”“心理疏導(dǎo)”“情緒安撫”，就不能再把自己簡(jiǎn)單定義成賣硬件。

更高風(fēng)險(xiǎn)的是“情感陪伴AI+性交互硬件”。

成人硬件行業(yè)過去有一個(gè)明顯痛點(diǎn)：一次性消費(fèi)多，持續(xù)留存弱，用戶關(guān)系淺。AI給它提供了新的想象空間：讓硬件擁有人格、記憶和情緒回應(yīng)，把工具變成“伴侶”，再通過訂閱、內(nèi)容、互動(dòng)腳本實(shí)現(xiàn)持續(xù)變現(xiàn)。

新規(guī)直接堵住了這條路。

一款產(chǎn)品如果同時(shí)具備AI情感陪伴、長(zhǎng)期人格記憶、情欲互動(dòng)算法、仿真性結(jié)構(gòu)或模擬性行為機(jī)械結(jié)構(gòu)，就很難再被解釋成普通成人用品或普通陪護(hù)設(shè)備。它的風(fēng)險(xiǎn)不再是模型偶爾越界，而是產(chǎn)品設(shè)計(jì)目標(biāo)本身踩線。新規(guī)施行后，這類產(chǎn)品在安全評(píng)估、上市銷售、渠道合規(guī)上都會(huì)遭遇實(shí)質(zhì)障礙。

軟件產(chǎn)品出問題，還能下線入口、調(diào)整模型、增加過濾、修改提示詞。硬件一旦開模、生產(chǎn)、鋪貨、上市，整改成本極高。產(chǎn)品形態(tài)如果已經(jīng)帶著親密模擬結(jié)構(gòu)，合規(guī)風(fēng)險(xiǎn)就被固化在設(shè)備上。

所以AI硬件從業(yè)者的壓力，來自一個(gè)更前置的問題：產(chǎn)品定義能不能經(jīng)得起審查。

你到底是生活輔助設(shè)備，還是虛擬伴侶？是老人照護(hù)終端，還是借陪護(hù)之名包裝親密互動(dòng)？是情緒支持工具，還是通過人格化關(guān)系推動(dòng)情欲消費(fèi)？

這些問題回答不清，產(chǎn)品很難走遠(yuǎn)。

智能體開始分流

一個(gè)判斷是，智能體行業(yè)接下來不會(huì)整體降溫，但會(huì)明顯分層。

第一類，任務(wù)型智能體會(huì)繼續(xù)加速。

辦公助手、企業(yè)知識(shí)庫、代碼智能體、客服助手、會(huì)議紀(jì)要、數(shù)據(jù)分析助手、流程自動(dòng)化Agent，這些產(chǎn)品解決的是明確任務(wù)。它們的價(jià)值可以用效率、成本、準(zhǔn)確率、響應(yīng)速度、流程節(jié)省來衡量。

這類產(chǎn)品的合規(guī)重點(diǎn)主要在數(shù)據(jù)安全、權(quán)限控制、企業(yè)審計(jì)、輸出責(zé)任。它們不會(huì)主動(dòng)制造親密關(guān)系，也不依賴用戶情緒黏性變現(xiàn)。WorkBuddy這類產(chǎn)品能相對(duì)平穩(wěn)，原因就在這里。

它有風(fēng)險(xiǎn)，但風(fēng)險(xiǎn)類型清楚；它要治理的是“組織如何安全使用AI”，不是“用戶是否對(duì)一個(gè)虛擬人格產(chǎn)生依賴”。

第二類，關(guān)系型智能體進(jìn)入強(qiáng)合規(guī)時(shí)代。

AI戀人、虛擬男友/女友、情緒陪伴、角色扮演、用戶自建智能體、智能體廣場(chǎng)，并不會(huì)因?yàn)樾乱?guī)直接消失。陪伴、傾訴、孤獨(dú)緩解、養(yǎng)老輔助、心理支持，都是真實(shí)需求。AI在這些場(chǎng)景里也有價(jià)值。

但過去那套玩法走不通了。

開放UGC、擦邊人設(shè)、低成本角色庫、熱門榜分發(fā)、親密互動(dòng)拉留存、會(huì)員訂閱收割情緒依賴，這條鏈路會(huì)越來越難做。平臺(tái)必須補(bǔ)上年齡分級(jí)、防沉迷、未成年人保護(hù)、內(nèi)容審核、真人仿冒治理、角色版權(quán)審核、風(fēng)險(xiǎn)提示、誘導(dǎo)消費(fèi)限制、情感依賴邊界管理等。

而這些東西也都會(huì)進(jìn)入成本表。

過去一個(gè)小團(tuán)隊(duì)接入模型API，做一套角色模板，加上廣場(chǎng)和分享機(jī)制，很快就能跑出一個(gè)陪伴產(chǎn)品。合規(guī)成本沒有顯性化時(shí)，增長(zhǎng)故事很好講。一旦審核、投訴、版權(quán)、未成年人保護(hù)、心理風(fēng)險(xiǎn)干預(yù)都變成硬成本，很多產(chǎn)品的商業(yè)模型會(huì)被重新計(jì)算。

關(guān)系型智能體仍有機(jī)會(huì)，但會(huì)從“野放式增長(zhǎng)”進(jìn)入“強(qiáng)邊界運(yùn)營(yíng)”。留下來的，不會(huì)是最會(huì)撩撥情緒的團(tuán)隊(duì)，而是能把場(chǎng)景、責(zé)任和風(fēng)險(xiǎn)講清楚的團(tuán)隊(duì)。

第三類，“擬人化AI+情欲硬件”會(huì)被擠出主流市場(chǎng)。

這類產(chǎn)品的問題最尖銳。聊天產(chǎn)品偶發(fā)越界還能補(bǔ)救，硬件產(chǎn)品一旦把仿真結(jié)構(gòu)、親密模擬、情欲算法和AI人格綁定起來，就已經(jīng)完成了高風(fēng)險(xiǎn)產(chǎn)品閉環(huán)。

新規(guī)拆掉了很多灰色包裝：你不能一邊宣稱養(yǎng)老陪護(hù)、心理疏導(dǎo)、日常陪伴，一邊設(shè)計(jì)情欲互動(dòng)算法和性交互硬件；不能一邊享受擬人化關(guān)系帶來的高黏性，一邊又把風(fēng)險(xiǎn)藏在“成人自愿使用”的敘事里。

這顯然會(huì)帶來一輪行業(yè)出清。短期內(nèi)，平臺(tái)會(huì)收縮智能體業(yè)務(wù)，清理敏感角色，降低情感陪伴功能在主App里的權(quán)重；AI陪伴產(chǎn)品會(huì)強(qiáng)化分級(jí)、審核和提示；部分AI硬件項(xiàng)目會(huì)推遲上市，重新評(píng)估外觀、交互和功能邊界。

長(zhǎng)期看，智能體行業(yè)會(huì)回到更清晰的價(jià)值框架里：能提高效率的繼續(xù)做，能提供照護(hù)的規(guī)范做，依賴擦邊和情欲變現(xiàn)的退出。

這也是豆包、千問這次動(dòng)作給行業(yè)的最大信號(hào)。

它們并沒有否定AI應(yīng)用，也沒有否定智能體方向。它們只是用產(chǎn)品調(diào)整告訴行業(yè)：關(guān)系型智能體不能再無差別地塞進(jìn)主入口，平臺(tái)不能繼續(xù)把高風(fēng)險(xiǎn)互動(dòng)當(dāng)成低成本增長(zhǎng)工具。

AI行業(yè)進(jìn)入下一階段后，競(jìng)爭(zhēng)不只看模型能力、入口流量和交互體驗(yàn)，還要看合規(guī)能力、風(fēng)控體系和社會(huì)信任。

過去，智能體被想象成一個(gè)“什么都能扮演、什么關(guān)系都能模擬”的萬能入口。新規(guī)之后，這一想象需要重寫。所謂“智能體告別野蠻生長(zhǎng)”，說到底，是行業(yè)開始為產(chǎn)品邊界、用戶脆弱性和商業(yè)模式付賬。

本文來自虎嗅，原文鏈接：https://www.huxiu.com/article/4872727.html?f=wyxwapp