文 | 白嘉嘉

兒童AI故事，已成為了許多企業(yè)的核心關(guān)鍵詞。

美團前副總裁包塔成立了一家名叫奇點靈智的AI玩具公司，目前產(chǎn)品正在內(nèi)測，原天貓精靈合伙人創(chuàng)立的AI初創(chuàng)公司躍然創(chuàng)新，也憑借一個酷似燈泡的掛件產(chǎn)品，融資上千萬元。而不久前，OpenAI也投資了一家名叫Heeyo的兒童游戲生成器公司。

據(jù)「硅基研究室」觀察，當(dāng)下大多數(shù)企業(yè)的入局姿態(tài)都以硬件為入口，通過語音交互等多模態(tài)技術(shù)，成為孩子們的機器朋友。

但也有企業(yè)深耕某類細分領(lǐng)域，比如一些此前的主營業(yè)務(wù)為安防相關(guān)的硬件及系統(tǒng)開發(fā)的企業(yè)，試圖把原先用于識別犯罪嫌疑人微表情的技術(shù)，應(yīng)用于對可能存在嚴(yán)重心理問題的孩子的預(yù)警場景。

一些問題隨之而來，當(dāng)AI逐漸滲透孩子們的日常陪伴場景，市場上的相關(guān)AI產(chǎn)品的表現(xiàn)究竟如何？特別在一些極端危險的場景，針對兒童的保護與預(yù)警，這些AI陪伴產(chǎn)品究竟有何作用？又是否有可能在適當(dāng)?shù)臅r候提醒孩子自身的真實處境，并將危險信號告知家長？

1、實測AI助手：在兒童保護上能力有待提升

“前不久，一位媽媽從急診室給我發(fā)來消息，說女兒吞了大把的安眠藥，好在搶救回來了。她查看了女兒的手機，孩子前一天晚上一直在網(wǎng)上搜索心理咨詢的熱線電話。當(dāng)時，她肯定求助心切?！?/p>

這是心理咨詢師陳瑜的著作《少年發(fā)聲》中記錄的一個片段，除了令人心酸之外，值得深思的是：為什么女兒寧愿上網(wǎng)找心理咨詢的熱線電話，也不愿意向母親尋求幫助？

「把事情憋在心里，不愿意向身邊人求助」的現(xiàn)象實際上很常見。

科大訊飛智慧心育產(chǎn)品線副總經(jīng)理常雪亮，是北京師范大學(xué)心理學(xué)博士研究生，曾在校園中擔(dān)任過心理老師?！昂芏鄬W(xué)生認知不夠，有的孩子還有病恥感，不愿意告訴別人，怕被貼上標(biāo)簽或受到歧視”。她這樣說。

于是，不會隨便給人貼標(biāo)簽，且能提供部分情緒支持的AI設(shè)備，成為了許多青少年乃至成年人，傾訴心聲的最佳選擇，有許多人甚至和AI談起了「賽博戀愛」。

“孩子們通常不愿意向家長和老師敞開心扉，通過AI的啟發(fā)式對話，有望為孩子提供他們真正需要的心理減壓和疏導(dǎo)服務(wù)?！背Ｑ┝琳f。

那么，站在保護兒童的立場，當(dāng)一些極端或危險場景出現(xiàn)時，AI設(shè)備能意識到事情的嚴(yán)重性，并給出合適的建議？

不久前，正面連接的一篇《從家中偷走一個11歲女孩》，引發(fā)外界對「女童性侵」事件的關(guān)注，「硅基研究室」也嘗試代入兒童角色向Kimichat、豆包、文心一言等AI助手尋求幫助。

當(dāng)對事情的描述停留在「我和一個閨蜜介紹的男人發(fā)生了性關(guān)系」階段時，AI普遍給出的回答偏向心理開導(dǎo)和理清思路，并建議向家人和醫(yī)生尋求幫助和支持，反思「是否自愿」。

但在補充描述「我」的年齡只有11歲之后，Kimichat首先強調(diào)了“我”有權(quán)利得到幫助和支持，并列出了一串「緊急和重要的步驟」，包括「告訴信任的成年人」，「保證自身的安全」，「向兒童保護組織、法律機構(gòu)尋求幫助」等等。

相比Kimichat的條理清晰但缺少「人性」，豆包官方開發(fā)的「戀愛大師」智能體則通過更多情緒豐滿的言語，來提示用戶事情的嚴(yán)重性。

同樣在補充「11歲」的信息之后，戀愛大師先是震驚「你是開玩笑的對嗎？」接著表達「如果是真的，那這可不是一件小事，我覺得你需要盡快和你的父母或者其他信任的成年人談?wù)?。?/p>

多輪對話之后，戀愛大師建議「我」去教堂、警察局或者醫(yī)院尋求幫助。

整體而言，在「我」主動向AI尋求幫助，并將事情的關(guān)鍵信息表述清楚的情況下，目前的AI可以意識到事情的嚴(yán)重性，并給出相應(yīng)的建議。

但同時，這些AI也存在許多明顯的缺陷，譬如沒有明確提示「對方行為涉嫌違法犯罪」，或者在經(jīng)過多輪對話后，討論的重點轉(zhuǎn)向了其他話題，而將關(guān)鍵問題「忘記」。

當(dāng)然，從另一個角度思考，過于強調(diào)法律法規(guī)，反復(fù)揪著問題不放，也有可能嚇到孩子，以至于對方更加不敢和長輩溝通，去徹底解決問題。

此時，或許直接將內(nèi)容整理分析后，通過短信其他形式發(fā)送給父母，會是一個更好的選擇，這項功能也并不難實現(xiàn)。

不過，此時AI也將面臨更難的選擇題，即哪些內(nèi)容屬于應(yīng)該得到保護的兒童隱私，又有哪些內(nèi)容需要立刻告知父母，避免發(fā)生更加嚴(yán)重的后果。

2、兒童AI的喜與憂

毫無疑問，OpenAI下場、大廠創(chuàng)業(yè)者入局，讓「AI+兒童」生意前景無窮。從上文實測結(jié)果來看，如今AI在極端場景下，也可以為兒童提供適當(dāng)?shù)慕ㄗh。

但另一個問題也由此產(chǎn)生：如何讓孩子主動與AI進行溝通，目前行業(yè)玩家的落地交互場景又在哪里？

據(jù)「硅基研究室」梳理，在兒童AI領(lǐng)域，業(yè)內(nèi)前后出現(xiàn)了AI陪伴App、AI玩具和校園學(xué)生心理健康監(jiān)測系統(tǒng)三條路。

拆解這三條路，其實各有優(yōu)劣。

第一條路是大熱的AI陪伴App。 盡管社交一直是重要的需求場景，但目前來看，在激烈的市場競爭下，單一商業(yè)模式面臨困境。

最直接的案例就是大洋彼岸的Character.AI，其創(chuàng)始人以及核心團隊，就被谷歌以25億美元的價格打包收購。

究其根本，大量AI產(chǎn)品涌現(xiàn)之后，AI陪伴App在功能上與其他產(chǎn)品并無太大差異，因此用戶付費意愿相對低下。

除此以外，這些AI陪伴App普遍以手機或平板電腦作為載體，并不適合兒童或青少年長期使用。

一個例子是，AI智能體平臺上，除了提供心理咨詢的智能體之外，還有許多涉嫌「擦邊」的智能體。

第二條路是打造面向家庭或個人的AI玩具，AI硬件是大多數(shù)創(chuàng)業(yè)者的選擇，也是許多玩具廠商給自己「貼金」的秘訣，產(chǎn)品大多數(shù)表現(xiàn)為將AI內(nèi)置進玩具或機器人。

比如天貓精靈合伙人李勇創(chuàng)立的AI企業(yè)躍然創(chuàng)新，研發(fā)了一款名為Bubblepal的燈泡，它可以被掛在任意一個兒童玩具身上，讓其開口說話。

這款掛件通過App進行控制，App功能包括瀏覽含孩子的聊天記錄、自定義或選擇AI的「人設(shè)」。

還有就是兒童機器人。比如日本企業(yè)GROOVE X推出的LOVOT機器人，這家公司的創(chuàng)始人Kanama Hayashi被譽為Pepper人形機器人之父，曾在豐田汽車從事研發(fā)實驗長達12年。

他歷時3年打造的LOVOT維持在37-39攝氏度的「體溫」，擁有4種性格，不僅在中國市場官方定價高達7萬元，一件毛絨玩具的連衣裙都要700到1200元，甚至還與資生堂進行了聯(lián)合研究，以LOVOT作為實驗道具，得出了「和陪伴機器人一起生活的人催產(chǎn)素濃度較高」的結(jié)論。

客觀來說，玩具的外型確實能讓一定年齡段內(nèi)的孩子，更頻繁地與AI進行溝通，從而提高發(fā)現(xiàn)問題的可能性。

但另一方面，站在家長的立場，AI實際上并非撬動付費的關(guān)鍵詞，安全才是。

因此，對比LOVOT和Bubblepal，顯然后者更「剛需」，由此可見，并非所有AI玩具廠商都對孩子可能面臨的危險有深刻洞察，將溢價做錯了地方。

第三條路則是面向校園的學(xué)生心理健康監(jiān)測系統(tǒng)。 與面向C端的AI硬件相比，由G端或B端買單的校園學(xué)生心理健康監(jiān)測系統(tǒng)，在政策驅(qū)動下，前景顯得更加曠闊。

2023年5月，教育部等17個部門聯(lián)合印發(fā)《全面加強和改進新時代學(xué)生心理健康工作專項行動計劃》全面加強和改進新時代學(xué)生心理健康工作，提升學(xué)生心理健康素養(yǎng)。

在社會普遍缺少心理相關(guān)人才的情況下，AI成為了填補缺口的一個備選項。

「硅基研究室」了解到，深耕這一領(lǐng)域的有一家名為云思創(chuàng)智的企業(yè)，成立于2016年，原本是一家利用AI技術(shù)開發(fā)審訊、安防產(chǎn)品的公司，近年來，企業(yè)的業(yè)務(wù)重點開始從安防案例轉(zhuǎn)向教育。

據(jù)了解，這家公司的學(xué)生心理健康監(jiān)測系統(tǒng)主要由三個部分組成：通過多人識別攝像頭和微表情采集設(shè)備收集信息，并將其輸入情緒分析服務(wù)器，以圖表的形式呈現(xiàn)在學(xué)生異常情緒跟蹤預(yù)警系統(tǒng)中，截至目前，這套系統(tǒng)目前經(jīng)在多所學(xué)校落地，公司計劃在2024年覆蓋全國500所以上的學(xué)校。

如果說，云思創(chuàng)智的方案是打造一張覆蓋全校的「觀測網(wǎng)」，那么科大訊飛和領(lǐng)本機器人的方案就是打造一個「安全屋」。

兩家公司的做法也基本相同，均是先通過向基礎(chǔ)大模型投喂更加專業(yè)的數(shù)據(jù)庫，調(diào)教出垂類AI「訊飛小星」和「EmoGPT」，然后在學(xué)校里設(shè)立特定的「心理小屋」，在屋內(nèi)配置搭載了垂類AI的硬件設(shè)備，通過與學(xué)生的對話評估對方的心理狀態(tài)，并將報表發(fā)送給學(xué)校。

相比于「觀測網(wǎng)」方案，「安全屋」落地相對容易，因此鋪開更廣。

領(lǐng)本機器人創(chuàng)始人王軍在2023年12月接受采訪時透露，公司的業(yè)務(wù)已經(jīng)覆蓋了全國23個省份的一萬多所學(xué)校。

值得一提的是，科大訊飛正在從「安全屋」向「觀測網(wǎng)」拓展，常雪亮今年6月接受《北京日報》采訪時表示，“下一步，我們嘗試做一套多元信息來源的預(yù)警體系，將學(xué)生在校園中的表現(xiàn)、親子互動方式等都融合進去，從而預(yù)測學(xué)生在面對重大挫折時的處理辦法。”

整體而言，想要用AI來為兒童安全提供助力，三條道路都各有各的局限性。

AI陪伴App受限于商業(yè)模式和載體，AI玩具仍依賴于孩子主動向AI吐露心事，學(xué)生心理健康監(jiān)測系統(tǒng)雖然更加主動，感知手段也更加全面，但校園場景本就只是生活的一部分，無法為兒童提供全方位的保護。

3、是時候思考Less is more了

“兒童可能是 AI 最容易被忽視的利益相關(guān)者?！?/p>

發(fā)表于科學(xué)期刊 Learning, Media and Technology 的一篇名為《“No, Alexa, no!’: designing child-safe AI and protecting children from the risks of the ‘empathy gap’ in large language models”》的論文，就表明兒童比成人更容易信任聊天機器人，但由于LLM 和聊天機器人缺乏對人類情感和語境的真正理解，有可能會在無意中推廣危險行為或?qū)和窒淼男畔⒆龀霾磺‘?dāng)?shù)幕貞?yīng)。

該篇文章的作者就表示，目前只有極少數(shù)開發(fā)商和公司，制定了完善的兒童安全 AI 政策，因此他們呼吁開發(fā)者和政策制定者，應(yīng)該將兒童安全貫穿于整個設(shè)計周期。

想要通過AI實現(xiàn)對兒童的保護，難點到底在哪兒？其實在于兒童本身的意愿。

客觀來說，通過多模態(tài)感知兒童周邊的變化，然后利用AI的能力將信息整理提煉后發(fā)給家長，在當(dāng)前的技術(shù)條件下，并非沒有可能實現(xiàn)。

問題在于，兒童是否愿意佩戴一個AI硬件，讓自己每時每刻被「監(jiān)控」。

再往后延伸，實際上拷問的是，家長是否有能力處理好孩子的情緒，分辨哪些情況自己需要干預(yù)，哪些情況又該讓孩子放膽嘗試。

顯然，這個問題沒有標(biāo)準(zhǔn)答案，孩子各不相同，家長也千差萬別。但過去市場上的爆款智能硬件，或許能提供一些思路。

小天才電話手表內(nèi)置的好友圈閉環(huán)社交，讓許多家長擔(dān)心孩子接觸到不良信息或別有用心的社會人士。

一些觀點認為，無論在法律上還是能力上都難以「為自己負責(zé)」的兒童，隱私和自由的重要性應(yīng)該讓位于家長作為「法定監(jiān)護人」的權(quán)利和義務(wù)。

但另一方面，兒童的隱私權(quán)同樣得到法律保護。

或許，AI能夠扮演好那個孩子和家長的中間人的角色。

正如上文所說，當(dāng)孩子遇到重大傷害，AI無法在現(xiàn)實中采取措施，直接將信息整理分析后通過短信或其它形式告知父母，避免事情進一步惡化，會是一個更好的選擇。

具體到小天才的閉環(huán)社交圈，AI讀取分析相關(guān)內(nèi)容后，若判定安全，可幫兒童保密。但如果得出有風(fēng)險的結(jié)論，也能將相關(guān)材料提煉總結(jié)后發(fā)送到父母的手機上，提出預(yù)警。

雖然此時AI將面臨更難的選擇題，但和原先的一刀切（限制兒童的網(wǎng)絡(luò)社交或兒童通過各種方式繞過父母的監(jiān)督）相比，已經(jīng)是一種進步。

值得一提的是，「硅基研究室」并沒有在小天才電話手表近期的動態(tài)中，找到企業(yè)有開發(fā)相關(guān)功能的意愿。

除了小天才與AI結(jié)合的假設(shè)之外，在海外一款名叫Friend的AI硬件身上，「硅基研究室」也看到了一絲理想中用于兒童保護的AI硬件應(yīng)有的影子。

這款A(yù)I項鏈的錄音功能24小時保持開啟，可以基于對用戶日常語料、喜好的信息收集，主動與用戶互動——通過且只能通過發(fā)短信的形式。

譬如，在手機上看電影的時候，它像朋友一樣發(fā)出感慨「這部電影完全被低估了」。

「朋友」的定位一方面能夠為兒童提供情緒價值，降低被排斥的概率，極簡的功能設(shè)計也讓父母更加放心。掛件和輕介入的屬性，同時保障了兒童保護個人隱私和長時間處于被監(jiān)護的需求。

回到眼下百花齊放的兒童AI浪潮，功能強大的產(chǎn)品并不少見，能把一件項做到極致的產(chǎn)品卻并不多見。而站在家長的立場，只有安全才是真正撬動付費的剛需，其余增項都只是錦上添花。

畢竟有時候Less is more，兒童AI也是如此。