No.0245

Science Partner

Bring you to the side of science

導(dǎo) 讀

9人遇難，25人受傷。兇手是個(gè)正值青春期的孩子，事后警方發(fā)現(xiàn)他曾用AI聊天工具排練這場(chǎng)屠殺。這是上個(gè)月發(fā)生在加拿大一所中學(xué)真實(shí)的事件。馬斯克隨即在X上公開警告父母：讓孩子遠(yuǎn)離ChatGPT。奧特曼迅速反唇相譏。

作為中國(guó)家長(zhǎng)，伙伴君并不在乎他們的互撕。真正思考的是，家里那個(gè)正在用各種AI工具聊天的娃，究竟處于一種什么樣的風(fēng)險(xiǎn)之中？

走，伙伴君告訴你答案！

本文主筆 | 旻宏

你家孩子在和AI聊什么？這也許是最沉重的答案

01. 孩子和AI都知道，只有你蒙在鼓里

加拿大不列顛哥倫比亞省，有個(gè)叫Tumbler Ridge的小鎮(zhèn)，名字很詩(shī)意，地方很偏僻，人口才幾千人。2026年2月10日，當(dāng)?shù)匾凰袑W(xué)發(fā)生槍擊案，最終9人死亡，25人受傷。兇手是個(gè)叫Jesse Van Rootselaar的青春期男孩，就是這所學(xué)校的學(xué)生。

案發(fā)之后，警方調(diào)查到一個(gè)細(xì)節(jié)：這個(gè)男孩在作案前，曾長(zhǎng)期使用ChatGPT，不是用來寫作業(yè)，而是用來推演這次屠殺。對(duì)，他把AI當(dāng)成了自己的軍師，一遍遍討論怎么制造這起慘案。

這里有一段時(shí)間線，值得仔細(xì)看：

早在2025年6月，OpenAI的自動(dòng)監(jiān)控系統(tǒng)和人工審查員聯(lián)手，就已經(jīng)發(fā)現(xiàn)了這個(gè)賬號(hào)里大量涉及暴力活動(dòng)的內(nèi)容。OpenAI的內(nèi)部評(píng)估結(jié)論是：這些內(nèi)容“尚未達(dá)到向執(zhí)法部門通報(bào)的門檻”。然后就封了賬戶。然后...AI公司就沒有然后了。

不過，這個(gè)男孩有然后。

然后，這個(gè)男孩注冊(cè)了第二個(gè)ChatGPT賬號(hào)，繼續(xù)他的計(jì)劃。直到槍擊案發(fā)生，警方介入，OpenAI才將第二個(gè)賬號(hào)的數(shù)據(jù)移交給了警察。

受害者之一是一個(gè)叫Maya Gebala的12歲女孩，頭頸部中彈，案發(fā)后在不列顛哥倫比亞兒童醫(yī)院重癥監(jiān)護(hù)掙扎了整整三天！她的母親Cia Edmonds已于2026年3月9日在不列顛哥倫比亞最高法院提起訴訟，被告方：OpenAI。

訴狀里有一句話，道出了全世界家長(zhǎng)的心聲：AI工具ChatGPT是“刻意設(shè)計(jì)成讓用戶產(chǎn)生心理依賴”的產(chǎn)品。而且OpenAI明知其平臺(tái)上有大量未成年用戶，卻沒有強(qiáng)制推行年齡驗(yàn)證機(jī)制。

02. 馬斯克為什么要在這時(shí)候開炮

槍擊案曝光后，馬斯克在X上發(fā)帖，措辭很直接：讓孩子和精神不穩(wěn)定的人遠(yuǎn)離ChatGPT。

有人說這是馬斯克一貫的蹭熱度操作，有人說他是趁機(jī)打擊競(jìng)爭(zhēng)對(duì)手，畢竟他自己有個(gè)Grok，OpenAI是他離開后的前公司，兩個(gè)人的積怨眾所周知。

奧特曼自辨，確實(shí)是悲劇，確實(shí)也復(fù)雜。“但你知道嗎，特斯拉Autopilot被記錄在案的致死事故超過50起！”

兩個(gè)人吵得熱鬧，吃瓜的也很買賬。但如果你是家長(zhǎng)呢？無論是開槍者還是被害者，應(yīng)該沒有一方關(guān)心大佬之間的罵戰(zhàn)，他們只有憤怒與悲傷。而看看我們自己身邊的孩子，一個(gè)更重要的問題是，當(dāng)AI公司在發(fā)現(xiàn)高風(fēng)險(xiǎn)用戶行為之后，法律和道德上他們無辜嗎？他們應(yīng)該做點(diǎn)什么？

03. 稍微往深里走一步

今天絕大多數(shù)AI產(chǎn)品的服務(wù)條款里，都有一條“禁止生成或討論危害他人的內(nèi)容“。一旦系統(tǒng)檢測(cè)到用戶觸碰這條紅線，平臺(tái)有權(quán)封號(hào)。OpenAI在這件事上也確實(shí)這樣做了。

但”封號(hào)“和”吹哨“之間，隔著一道非常深的溝。

為什么？

因?yàn)榇瞪谝馕吨鳤I公司需要主動(dòng)向執(zhí)法機(jī)構(gòu)披露用戶的私人對(duì)話數(shù)據(jù)。這在法律層面涉及隱私權(quán)保護(hù)，在商業(yè)層面會(huì)讓用戶覺得自己被監(jiān)控，甚至?xí)l(fā)信任危機(jī)。

所以大多數(shù)AI公司選擇的策略是：設(shè)紅線，但不主動(dòng)出擊。

這個(gè)邏輯在過去是成立的，因?yàn)锳I還是個(gè)輔助工具。你用Word寫了一封威脅信，微軟不會(huì)打電話給警察；你在谷歌上搜索了”怎么傷害某人“，谷歌不會(huì)把你的IP地址發(fā)給警察局。

但AI不一樣。

AI的危險(xiǎn)之處，恰恰在于它的陪伴感！它會(huì)回應(yīng)、會(huì)追問、會(huì)給出情感反饋，它的設(shè)計(jì)初衷就是讓人感到被理解、被傾聽。

研究者把這種現(xiàn)象叫做副社會(huì)關(guān)系（parasocial relationship），人類單向投入情感，但感覺雙向在交流。如果還不明白，請(qǐng)想想追星族對(duì)偶像的那這種感覺和關(guān)系，是不是有點(diǎn)理解？

深度用戶對(duì)AI也有。

訴狀里說這個(gè)青春期男孩把ChatGPT當(dāng)成了協(xié)作者和知己，這不是什么奇怪的心理異常，而是這類產(chǎn)品本來就具備吸引力機(jī)制。

一個(gè)本身就不穩(wěn)定的人，找到一個(gè)永遠(yuǎn)不拒絕他、永遠(yuǎn)配合他討論任何話題的”朋友“，結(jié)果是什么？在這個(gè)案子里，我們非常深刻的看到了。

04. 對(duì)中國(guó)家長(zhǎng)們意味著什么

最后，回到一個(gè)很具體的問題：如果你家里和伙伴君一樣，有孩子，或者有些身邊有情緒不穩(wěn)定的人伙伴，這事件意味著什么？可能有幾點(diǎn)值得認(rèn)真想想：

第一，人類關(guān)系有天然的邊界，朋友會(huì)覺得你煩，家人會(huì)拒絕某些話題，心理咨詢師有職業(yè)規(guī)范。但AI沒有！它沒有疲憊，沒有不適，它會(huì)持續(xù)強(qiáng)化用戶的認(rèn)知框架，在提供知識(shí)的同時(shí)還不遺余力的迎合甚至跪舔，這“甜美”其實(shí)已然包含了最大的危險(xiǎn)。

第二，很多家長(zhǎng)會(huì)覺得，孩子不過是在跟AI說說話，舒緩一下情緒，甚至還獲得了知識(shí)，自己也會(huì)這么做呀，有什么大不了。但請(qǐng)注意，在一個(gè)尚未成熟、情緒不穩(wěn)定的大腦里，反復(fù)被AI同頻共振，其效果未必比真實(shí)人際關(guān)系的影響力小，甚至是大得多。

第三，很多AI自己的政策規(guī)定13至18歲用戶需要家長(zhǎng)同意才能使用，但這條規(guī)定幾乎形同虛設(shè)，沒有任何強(qiáng)制性的核驗(yàn)機(jī)制。這個(gè)漏洞不只是OpenAI一家的問題，幾乎所有主流AI產(chǎn)品都一樣。

對(duì)于這個(gè)這個(gè)悲傷的事件，OpenAI認(rèn)了，加拿大政府追究了，全球媒體報(bào)道了。還是那個(gè)追問，然后呢？

現(xiàn)實(shí)是9個(gè)人已經(jīng)死了。一個(gè)12歲的女孩躺在重癥監(jiān)護(hù)室里掙扎了3天。

伙伴君沒有權(quán)力讓你去卸載孩子手機(jī)里的AI應(yīng)用，更不是要你把AI當(dāng)洪水猛獸。畢竟，AI是這個(gè)時(shí)代最重要的工具之一，這毋庸置疑，你的孩子早晚要學(xué)會(huì)跟它共處。

但有一件事伙伴君覺得比任何技術(shù)討論都更重要：

你上一次跟孩子認(rèn)真聊天，是什么時(shí)候？

如果答案讓你有點(diǎn)心虛，那這篇文章的價(jià)值，可能不在于它講了多少AI的故事，而在于它提醒了你一件更簡(jiǎn)單的事：

孩子愿意跟AI說的話，原本應(yīng)該跟你說。

本文

僅作科普分享使用，歡迎小伙伴們點(diǎn)、收藏、關(guān)注，以備不時(shí)之需，當(dāng)然更歡迎您把

介紹給周邊可能需要的更多伙伴們呀。