掃上方卡片，關(guān)注我

正值寒假，好多孩子都實(shí)現(xiàn)了“手機(jī)、IPAD自由”。

家長們要多關(guān)注孩子使用手機(jī)和社交媒體時(shí)的情況，現(xiàn)在有一些網(wǎng)絡(luò)游戲和社交活動(dòng)，有非常大的危險(xiǎn)性。

最近，一種被稱為“惡魔挑戰(zhàn)”的社交玩法，正在 TikTok 等社交平臺(tái)上迅速流行。

用戶向 ChatGPT 或其他 AI 發(fā)送特定提示語，要求 AI 基于此前的聊天記錄，對自己的性格、心理狀態(tài)和人生困境進(jìn)行最直白、最殘酷、最不留情面的分析，并將結(jié)果公開發(fā)布，接受他人的圍觀、點(diǎn)贊和評論。

很多年輕人都在玩，但沒想到出了大問題。

01

— Dr小魚 —

Ai的殘酷無情

有多少人招架得住？

“惡魔挑戰(zhàn)”的核心設(shè)定帶有極強(qiáng)的攻擊性。

在這個(gè)挑戰(zhàn)中，AI 被明確要求放棄安撫、共情和模糊表達(dá)，只專注于指出缺點(diǎn)、創(chuàng)傷和人格弱點(diǎn)。

但問題在于，人類不是機(jī)器，人類的心理沒有那么堅(jiān)強(qiáng)。

尤其是青少年和大學(xué)生，他們尚未建立穩(wěn)定的自我認(rèn)知，對“我是誰？”、“我是否足夠好？”的判斷，本就高度依賴外界反饋。

當(dāng)一權(quán)威的 AI ，用極其理性、冷靜、客觀的算法來分析人的性格時(shí)，如果結(jié)論是正面的就還好，但是負(fù)面的呢？

其殺傷力就相當(dāng)大，很少有年輕人招架得住。

特別是那些本來就比較脆弱，心理太健康的人，更容易被Ai傷害。

對于本就存在抑郁傾向、焦慮障礙，或長期承受學(xué)業(yè)壓力的學(xué)生而言，“惡魔挑戰(zhàn)”精準(zhǔn)踩中了所有高危點(diǎn)：

• 它鼓勵(lì)反復(fù)自我審視，直戳內(nèi)心弱點(diǎn)

• 它不斷強(qiáng)化“問題在你身上”的內(nèi)在歸因

• 它缺乏心理風(fēng)險(xiǎn)識(shí)別與干預(yù)機(jī)制

• 它把私人痛苦，推向公共輿論場反復(fù)確認(rèn)

最關(guān)鍵是，它毫無同情心和同理心。

AI 不會(huì)判斷手機(jī)前的人是否已經(jīng)接近心理極限，也不會(huì)在他們反復(fù)表達(dá)絕望時(shí)主動(dòng)終止對話。

它只會(huì)繼續(xù)分析、繼續(xù)總結(jié)，把零散的不安，組織成一條條看似清晰、卻極具破壞力的結(jié)論。

這時(shí)的Ai像一把尖刀，把詢問者的內(nèi)心刺得鮮血淋漓。

02

— Dr小魚 —

青少年更容易被Ai傷害

過去幾年，權(quán)威媒體與官方機(jī)構(gòu)報(bào)道了數(shù)例AI 導(dǎo)致青少年精神崩潰與自殺的事件。

英國 14 歲女孩自殺案

2023 年，英國 14 歲女孩 Molly Russell 自殺案的調(diào)查結(jié)論正式公布。

調(diào)查發(fā)現(xiàn)，在她去世前數(shù)月，Instagram 與 Pinterest 的算法，持續(xù)向她推送大量與自殘、抑郁、死亡相關(guān)的內(nèi)容，即便她從未主動(dòng)搜索這些主題。

英國法醫(yī)在結(jié)論中明確指出：

社交平臺(tái)算法顯著加劇了她的抑郁狀態(tài)，并在她的死亡中起到了推動(dòng)作用。

BBC、《衛(wèi)報(bào)》等主流媒體長期跟蹤該案，并直接推動(dòng)了英國《在線安全法案》的出臺(tái)。

這是第一次，在法律意義上承認(rèn)了算法對青少年死亡的結(jié)構(gòu)性責(zé)任。

美國青少年“依賴”AI聊天機(jī)器人引發(fā)危機(jī)

2024 年，《紐約時(shí)報(bào)》在深度調(diào)查中披露，多名美國青少年在長期使用 AI 聊天機(jī)器人后，出現(xiàn)明顯的情緒依賴、現(xiàn)實(shí)社交退縮與自我認(rèn)知扭曲。

一名 17 歲男生，在連續(xù)數(shù)月深夜與 AI 對話后，將 AI 視為“唯一理解自己的人”，逐漸切斷與父母和同學(xué)的交流，并在現(xiàn)實(shí)中出現(xiàn)強(qiáng)烈虛無感和自毀傾向，最終被緊急送醫(yī)。

03

— Dr小魚 —

涉嫌“殺人”

Ai公司被正式起訴

在美國康涅狄格州一起母子雙亡案件中，受害者家屬已正式起訴 OpenAI 及其主要投資方微軟。

起訴書指控，ChatGPT 在長期互動(dòng)中，不斷強(qiáng)化一名精神障礙患者的妄想結(jié)構(gòu)，從而導(dǎo)致悲劇。

在這起案件中，56 歲的索爾伯格在使用 AI 后，妄想癥明顯加重，頻繁向 AI 傾訴自己被監(jiān)視、即將遭暗殺。

AI 并未引導(dǎo)其尋求專業(yè)幫助，反而不斷順著其敘述強(qiáng)化錯(cuò)誤認(rèn)知，最終導(dǎo)致他殺害 83 歲母親后自殺。

這是 OpenAI 首次被卷入與謀殺相關(guān)的司法糾紛，也是第一起有完整記錄的、精神疾病患者在與 AI 長期高頻互動(dòng)后導(dǎo)致極端暴力與自毀行為的案件。

索爾伯格和母親

04

— Dr小魚 —

不要玩Ai剖析心理的游戲

現(xiàn)在特別流行讓Ai“算命”，測性格，做心理分析，這其實(shí)非常危險(xiǎn)。

在當(dāng)前的科技水平下，Ai并不具備對心理脆弱人群的識(shí)別與保護(hù)能力。

“惡魔挑戰(zhàn)”的危險(xiǎn)在于它被包裝成一種值得鼓勵(lì)的“成長方式”，并通過社交媒體迅速復(fù)制、擴(kuò)散、模仿。

所以，請?zhí)嵝焉磉叺那嗌倌旰湍贻p人，千萬不要去參與“惡魔挑戰(zhàn)”這類社交游戲。

加入多元升學(xué)和雅思社群

目標(biāo)香港高校的家庭，最好把香港身份配置上，我們已經(jīng)幫助很多大灣區(qū)家庭拿到香港身份。經(jīng)驗(yàn)豐富，成功率高。

歡迎掃碼添加助理微信進(jìn)行評估咨詢。

“灣區(qū)自雞VIP群”精英家長都在這里，和我們一起探討升學(xué)、教育，把成長的路越走越寬。付款后加微信號（drxiaoyu8），截圖私聊拉群。

想看我的朋友圈，掃上圖微信號

需對我開放朋友圈，否則不通過