全球首個對青少年兒童的AI大模型風險榜

日前，青少年網絡安全機構 TeenAegis，發布了全球首個面向青少年兒童安全的大模型風險評分榜單，TeenAegis AI Danger Index（又稱 AI Harm Index）。

這個榜單的特別之處在于：

一方面，完全基于實證數據，如監管處罰、司法訴訟、真實傷害事故記錄等，數據來源包括美國失蹤與受剝削兒童中心（NCMEC）報告、FTC執法記錄、法院卷宗、獨立安全實證研究等。

而且，每 5 分鐘更新一次數據！

另一方面，它完全不評估通用AGI生存風險、技術安全等通常的“安全”維度，而只專門評估AI聊天平臺對未成年人的危害風險，以面向家長、教育者、監管、行業問責。

其公布的評估標準，全部都基于已證實危害！

比如生成兒童色情內容（CSAM）、誘導性 grooming（誘騙、情感操控）、自殺傾向、極端心理風險誘導、年齡驗證機制失效、未成年人無防護使用漏洞。

該榜單的評測評分區間為 0–10分，分數越高風險越大；分級有 Critical（極高危）、Elevated（偏高風險）等。

以下為首期完整榜單

榜單里， Character.AI 得 8.2 分，是唯一滿分段極高危，它關聯著2024年美國14歲用戶沉迷對話后的自殺事件。

而且存在大量青少年情感依附、心理成癮、極端情緒誘導，且防護機制薄弱，極易被誘導傾訴私密信息、被角色化情感操控（Grooming），內容審核漏洞顯著。

而同屬極高危得分7.8 的 xAI Grok，則正處于美國聯邦CSAM相關集體訴訟中。

DeepSeek 與Grok同分并列第二。盡管沒有實證案例關聯，但邊界限制寬松，未成年人內容防護機制不完善，極易繞過安全護欄生成暴力、自殘、危險行為指導。

OpenAI ChatGPT 得了全閉源商用模型中的最低分 3.2 分，并獲評Most Improved（安全改進最佳），它被確認“無已確認青少年致命傷害事故、無FTC重大處罰”。

全榜單綜合風險最低的是 Cohere，分數2.5，其內容策略保守嚴苛，幾乎無青少年有害內容生成、無成癮誘導、無相關安全事故與監管處罰記錄。