隨著人工智能技術(shù)持續(xù)融入社交平臺(tái)，AI生成圖片、文本、語音以及虛擬互動(dòng)等能力，正在不斷改變用戶的表達(dá)與交流方式。從內(nèi)容創(chuàng)作到情緒互動(dòng)，AI逐漸成為社交場(chǎng)景中的輔助工具。如何在技術(shù)快速發(fā)展的背景下維護(hù)真實(shí)社交關(guān)系，也成為行業(yè)持續(xù)關(guān)注的話題。在這一背景下，Soul App創(chuàng)始人張璐團(tuán)隊(duì)近期圍繞AI社交場(chǎng)景，對(duì)平臺(tái)《社區(qū)公約》進(jìn)行了補(bǔ)充更新，新增涉及AI生成內(nèi)容、AI互動(dòng)行為以及AI虛擬角色等多項(xiàng)規(guī)范，進(jìn)一步明確AI在社交場(chǎng)景中的使用邊界。

隨著AI能力提升，社交平臺(tái)面臨的風(fēng)險(xiǎn)形態(tài)也開始發(fā)生變化。相比過去較容易識(shí)別的違規(guī)內(nèi)容，如今部分異常賬號(hào)更傾向于通過長(zhǎng)期互動(dòng)、情緒引導(dǎo)建立信任關(guān)系。部分賬號(hào)甚至?xí)ㄟ^高消費(fèi)生活方式、職業(yè)標(biāo)簽、社交展示等內(nèi)容，構(gòu)建“成功人士”“高凈值用戶”等人設(shè)，再借助自然化聊天逐步引導(dǎo)用戶產(chǎn)生情感依賴或進(jìn)行站外接觸。

這類風(fēng)險(xiǎn)行為往往并不依賴明顯違規(guī)話術(shù)，單條內(nèi)容本身也未必存在傳統(tǒng)意義上的問題，但當(dāng)圖片、聊天、行為軌跡以及互動(dòng)關(guān)系被組合分析后，異常特征便會(huì)逐漸顯現(xiàn)。也正因如此，Soul 創(chuàng)始人張璐團(tuán)隊(duì)近年來持續(xù)加強(qiáng)AI治理體系建設(shè)，并將AI能力進(jìn)一步應(yīng)用到虛假人設(shè)識(shí)別、異?；?dòng)分析以及風(fēng)險(xiǎn)內(nèi)容攔截等場(chǎng)景中。

據(jù)了解，目前Soul已逐步形成覆蓋圖片、文本、視頻、聲紋以及用戶行為等維度的多模態(tài)治理體系。相比單純依賴關(guān)鍵詞識(shí)別的傳統(tǒng)審核方式，這類治理機(jī)制更加重視內(nèi)容之間的關(guān)聯(lián)性以及行為鏈路分析。例如在圖片場(chǎng)景中，平臺(tái)會(huì)結(jié)合AI生成痕跡識(shí)別、圖片原創(chuàng)性分析等能力，對(duì)AI生成圖、盜圖、拼接圖等內(nèi)容進(jìn)行綜合判斷；在文本互動(dòng)層面，則通過大模型意圖識(shí)別能力，對(duì)異常導(dǎo)流、情緒操控以及欺詐傾向進(jìn)行分析，而不只是停留在敏感詞過濾層面。

針對(duì)視頻與語音等更復(fù)雜的場(chǎng)景，Soul 創(chuàng)始人張璐團(tuán)隊(duì)也在持續(xù)完善風(fēng)險(xiǎn)識(shí)別能力。圍繞AI偽造聲紋、跨賬號(hào)關(guān)聯(lián)等問題，平臺(tái)逐步建立起基于聲紋特征與行為路徑的聯(lián)動(dòng)識(shí)別機(jī)制，以提高高偽裝風(fēng)險(xiǎn)內(nèi)容的發(fā)現(xiàn)效率。相關(guān)治理能力上線后，平臺(tái)風(fēng)險(xiǎn)識(shí)別方式也開始從“單點(diǎn)內(nèi)容審核”向“持續(xù)行為分析”轉(zhuǎn)變。系統(tǒng)不僅關(guān)注單條內(nèi)容是否違規(guī)，也會(huì)結(jié)合賬號(hào)互動(dòng)關(guān)系、社交節(jié)奏以及上下文行為，對(duì)異常社交模式進(jìn)行動(dòng)態(tài)判斷。

與此同時(shí)，Soul 創(chuàng)始人張璐團(tuán)隊(duì)也開始加強(qiáng)對(duì)黑產(chǎn)重復(fù)作案行為的持續(xù)治理。一些已經(jīng)被識(shí)別出的作弊圖片、風(fēng)險(xiǎn)素材或違規(guī)視頻，在首次出現(xiàn)后，后續(xù)相似內(nèi)容會(huì)被系統(tǒng)快速識(shí)別并限制傳播，相關(guān)賬號(hào)也會(huì)被同步追溯處理。這種持續(xù)性的對(duì)抗機(jī)制，也在一定程度上提升了違規(guī)賬號(hào)的運(yùn)營(yíng)成本。數(shù)據(jù)顯示，隨著治理體系不斷完善，平臺(tái)內(nèi)部分高風(fēng)險(xiǎn)行為已呈現(xiàn)下降趨勢(shì)。其中，殺豬盤相關(guān)高危觸達(dá)量同比下降37.37%，異?；?dòng)相關(guān)舉報(bào)量也進(jìn)一步減少。與此同時(shí)，相關(guān)系統(tǒng)識(shí)別準(zhǔn)確率達(dá)到95%，重點(diǎn)風(fēng)險(xiǎn)場(chǎng)景覆蓋能力較此前有所提升。

除了風(fēng)險(xiǎn)治理本身，AI陪伴與真實(shí)社交之間的邊界，同樣成為當(dāng)前行業(yè)關(guān)注的重要議題。目前，Soul在部分場(chǎng)景中已上線明確標(biāo)識(shí)的AI虛擬角色產(chǎn)品功能。這類功能主要用于情緒陪伴、表達(dá)支持以及互動(dòng)體驗(yàn)，并不以“真實(shí)用戶”身份參與社區(qū)社交關(guān)系。此次《社區(qū)公約》更新中，平臺(tái)也進(jìn)一步明確了AI虛擬角色的使用說明，提醒用戶區(qū)分AI角色與真實(shí)用戶，避免在互動(dòng)過程中產(chǎn)生誤解。

在技術(shù)治理之外，Soul也持續(xù)推動(dòng)社區(qū)治理向用戶共治方向延伸。近年來，Soul逐步建立起包括用戶反饋、風(fēng)險(xiǎn)舉報(bào)、社區(qū)巡查以及護(hù)星員在內(nèi)的社區(qū)共治機(jī)制。一些用戶會(huì)主動(dòng)分享反詐經(jīng)驗(yàn)、總結(jié)異常互動(dòng)特征，并參與社區(qū)安全內(nèi)容建設(shè)。這些來自真實(shí)社交場(chǎng)景的反饋，也進(jìn)一步幫助平臺(tái)優(yōu)化風(fēng)險(xiǎn)識(shí)別模型與治理策略。

此次Soul 創(chuàng)始人張璐團(tuán)隊(duì)對(duì)《社區(qū)公約》進(jìn)行AI相關(guān)補(bǔ)充更新，是平臺(tái)圍繞社交真實(shí)性、安全性以及AI使用邊界所進(jìn)行的一次系統(tǒng)化治理調(diào)整。在AI逐漸深度融入社交場(chǎng)景的背景下，平臺(tái)正在通過規(guī)則完善、技術(shù)治理與社區(qū)協(xié)同等方式，守護(hù)真實(shí)、健康的社交生態(tài)。