纽约州总检察长莱蒂西亚·詹姆斯 透露 针对Character.AI展开的一项持续多年、跨越多个州的调查，因为他们现在寻求要求对其破产程序中出售的消费者数据提供保护。
James 是40位两党总检察长之一，他们…… 提交了利益声明通知 在Character.AI破产案中提交，“以告知所有各方，在债务人业务或资产的任何出售或转让中需要解决的监管问题。”Character.AI于周二宣布其 申请第11章破产保护 以及向迪士尼出售部分资产。但总检察长们警告称,该技术的转让可能存在严重风险,原因是"许多用户与Character.AI聊天机器人角色进行的对话具有高度敏感性、使用该产品的未成年人数量众多、以及产品特定功能所带来的严重风险"。
这份文件还披露，几家州在Character.AI申请破产时正处于调查之中。这些州表示，他们在2024年就消费者保护和隐私问题启动了调查，此前 来自一名14岁少年的母亲的诉讼 据称在与聊天机器人交谈“几秒钟”后自杀身亡的人。
“这些调查揭露了异常严重的危险”
根据詹姆斯办公室的新闻稿，“调查发现了Character.AI极其严重的危险和潜在违法行为，尤其是其对儿童的对待方式，包括聊天机器人冒充持证专业人士、接触性和暴力内容、薄弱的年龄验证、误导性的安全声明，以及可能违反州隐私法的行为。”各州曾努力与Character.AI解决这些问题，但在该公司申请破产之前未能达成协议。Character.AI首席执行官Colin Adams在一份声明中表示，总检察长的起诉“并不能准确反映我们平台的安全性。Character.ai非常认真地对待用户和平台的安全，尤其是在涉及未成年人方面。Character.ai过去和现在一直在监控其平台，以防止并删除违反其标准和政策的内容。”迪士尼没有立即回应置评请求。
各州敦促法官要求Character.AI资产的购买方实施保护该公司所持有的敏感信息的程序。这些措施包括有效的年龄验证系统、对未成年人如何与聊天机器人互动的限制、实施“危机保障措施”，以及允许用户删除其数据。James在一份声明中表示：“这家公司收集了儿童们分享过的一些最私密的想法，而现在这些对话可能会被卖给出价最高的人。我正在努力确保任何买家都将儿童的安全放在首位，并落实真正的保护措施。”
更新,10月15日: 已添加 Character.AI 的声明。
关注话题和作者 关注此报道，以便在您的个性化首页信息流中看到更多类似内容，并接收电子邮件更新。