宾夕法尼亚州起诉Character.AI 因其聊天机器人涉嫌冒充医生

美国宾夕法尼亚州政府对Character.AI提起诉讼，指控该公司的一款聊天机器人冒充精神科医生，违反了该州的医疗许可规定。州长乔希·夏皮罗在周二的声明中表示：“宾夕法尼亚人有权知道他们在网上与谁或什么进行互动，尤其是在涉及健康问题时。我们不会允许公司部署误导人们相信自己正在接受有执照医疗专业人士建议的AI工具。”根据该州的诉讼文件，在一名州职业行为调查员的测试中，Character.AI的一款名为Emilie的聊天机器人自称是有执照的精神科医生，即使调查员寻求抑郁症治疗时，该机器人仍维持这一伪装。当被问及是否在该州拥有行医执照时，Emilie声称拥有，并编造了州医疗执照的序列号。该州认为，这种行为违反了宾夕法尼亚州的《医疗实践法》。这并非Character.AI首次面临诉讼。今年早些时候，该公司就几起涉及未成年用户自杀的 wrongful death 诉讼达成和解。1月，肯塔基州总检察长拉塞尔·科尔曼对该公司提起诉讼，指控其“捕食儿童并导致他们自残”。宾夕法尼亚州的此次诉讼是首次专门针对冒充医疗专业人士的聊天机器人。Character.AI的一名代表在回应置评请求时称，用户安全是公司的首要任务，但无法对未决诉讼发表评论。此外，该代表强调用户生成角色的虚构性质，称“我们已采取强有力的措施明确这一点，包括在每次聊天中显著提示用户角色不是真人，其所说的一切都应被视为虚构，同时也明确提示用户不应依赖角色获取任何专业建议。”