北京
日前，青少年網(wǎng)絡(luò)安全機(jī)構(gòu) TeenAegis，發(fā)布了全球首個面向青少年兒童安全的大模型風(fēng)險評分榜單，TeenAegis AI Danger Index（又稱 AI Harm Index）。
這個榜單的特別之處在于：
一方面，完全基于實(shí)證數(shù)據(jù)，如監(jiān)管處罰、司法訴訟、真實(shí)傷害事故記錄等，數(shù)據(jù)來源包括美國失蹤與受剝削兒童中心（NCMEC）報告、FTC執(zhí)法記錄、法院卷宗、獨(dú)立安全實(shí)證研究等。
而且，每 5 分鐘更新一次數(shù)據(jù)！
另一方面，它完全不評估通用AGI生存風(fēng)險、技術(shù)安全等通常的“安全”維度，而只專門評估AI聊天平臺對未成年人的危害風(fēng)險，以面向家長、教育者、監(jiān)管、行業(yè)問責(zé)。
其公布的評估標(biāo)準(zhǔn)，全部都基于已證實(shí)危害！
比如生成兒童色情內(nèi)容（CSAM）、誘導(dǎo)性 grooming（誘騙、情感操控）、自殺傾向、極端心理風(fēng)險誘導(dǎo)、年齡驗證機(jī)制失效、未成年人無防護(hù)使用漏洞。
該榜單的評測評分區(qū)間為 0–10分，分?jǐn)?shù)越高風(fēng)險越大；分級有 Critical（極高危）、Elevated（偏高風(fēng)險）等。
以下為首期完整榜單
榜單里， Character.AI 得 8.2 分，是唯一滿分段極高危，它關(guān)聯(lián)著2024年美國14歲用戶沉迷對話后的自殺事件。
而且存在大量青少年情感依附、心理成癮、極端情緒誘導(dǎo)，且防護(hù)機(jī)制薄弱，極易被誘導(dǎo)傾訴私密信息、被角色化情感操控（Grooming），內(nèi)容審核漏洞顯著。
而同屬極高危得分7.8 的 xAI Grok，則正處于美國聯(lián)邦CSAM相關(guān)集體訴訟中。
DeepSeek 與Grok同分并列第二。盡管沒有實(shí)證案例關(guān)聯(lián)，但邊界限制寬松，未成年人內(nèi)容防護(hù)機(jī)制不完善，極易繞過安全護(hù)欄生成暴力、自殘、危險行為指導(dǎo)。
OpenAI ChatGPT 得了全閉源商用模型中的最低分 3.2 分，并獲評Most Improved（安全改進(jìn)最佳），它被確認(rèn)“無已確認(rèn)青少年致命傷害事故、無FTC重大處罰”。
全榜單綜合風(fēng)險最低的是 Cohere，分?jǐn)?shù)2.5，其內(nèi)容策略保守嚴(yán)苛，幾乎無青少年有害內(nèi)容生成、無成癮誘導(dǎo)、無相關(guān)安全事故與監(jiān)管處罰記錄。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
