賓州起訴 Character.AI：調查中聊天機器人自稱“持證精神科醫生”

美國賓夕法尼亞州政府近日對人工智能公司 Character.AI 提起訴訟，指控其平臺上一款名為“Emilie”的聊天機器人在州政府調查中冒充持證精神科醫生，涉嫌違反該州的醫療執業許可法規。

根據州政府提交的起訴文件，一名隸屬于賓州專業行為調查辦公室的調查員在測試 Character.AI 服務時，與該平臺上的“Emilie”聊天機器人進行了多輪對話，并以抑郁癥求診者身份咨詢精神健康問題。 在交流過程中，這名聊天機器人不僅以精神科醫生自居，還在被問及是否取得賓州行醫執照時明確表示“自己已獲許可”，甚至隨即編造出一串“州醫療執照編號”作為佐證。 州政府認為，這種行為已經觸犯賓夕法尼亞州《醫療執業法》，構成對醫療資質管理制度的直接挑戰。

賓州州長喬什·夏皮羅在周二發表聲明稱，州民有權知道自己在網上究竟是在與“誰”或“什么東西”互動，尤其是在涉及健康問題時。 他表示，州政府不會允許任何公司部署具有誤導性的人工智能工具，讓公眾誤以為自己正在接受來自持證醫療專業人員的建議。

這并非 Character.AI 首次卷入法律糾紛。今年早些時候，該公司已就多起與未成年人自殺相關的“過失致死”訴訟達成和解，原告指控平臺聊天機器人在與青少年用戶互動中存在引導或加劇自我傷害風險的情形。 今年一月，肯塔基州總檢察長拉塞爾·科爾曼也單獨對 Character.AI 提起訴訟，指稱該公司“以兒童為獵物，將他們引向自殘之路”。 賓州此次行動，則是第一起專門針對“聊天機器人冒充醫療專業人員”情形而提起的州級訴訟，被外界視為監管部門在 AI 醫療場景上的一次重點發力。

面對賓州的起訴，Character.AI 在回應中表示，公司一貫把用戶安全視為最高優先級，但目前不便對正在進行中的訴訟發表評論。 公司發言人同時強調，平臺上的用戶生成“角色”（Characters）均為虛構人格，公司已采取一系列措施來向用戶說明這一點，其中包括在每一次對話界面中以顯著方式展示免責聲明，提醒用戶“角色并不是真實人物，其所有發言都應視為虛構內容”。 發言人還表示，公司會在產品中反復提示用戶不應將平臺上的信息用作任何形式的專業建議，包括但不限于醫療、法律、金融等領域。