OpenAI 面临来自美国八个州的新一轮诉讼，这些州指控该公司对儿童造成伤害，并误导客户关于 ChatGPT 的安全性。 如之前所报告 路透社爱荷华州、堪萨斯州、内布拉斯加州、西弗吉尼亚州、阿肯色州、亚利桑那州、爱达荷州和蒙大拿州分别提起的诉讼称，OpenAI在开发ChatGPT时非法将利润置于安全之上。
这些投诉称，OpenAI 违反了当地消费者保护法律，未能向用户警告 ChatGPT 的危险性。这些投诉源于一些诉讼 由家属提出 涉及青少年和 成年人，这些诉讼声称该人工智能聊天机器人在其亲人的死亡中起到了作用。他们声称，虽然 OpenAI 将 ChatGPT 宣传为“安全且适合年轻人的工具，以安全为优先”，但实际上它“对脆弱用户来说很危险”——包括“削弱批判性思维能力、引发偏执和妄想、提供危险的医疗建议，以及促进不健康的行为和关系”。
相关
此外，这些州指控 OpenAI 从未成年人处收集数据，且没有采取足够措施防止未成年人使用该聊天机器人。这些诉讼还以最近的 rogue AI 黑客事件作为证据，证明 OpenAI 存在“鲁莽行为”。
“OpenAI已经偏离了其最初的使命——作为以公众为优先的非营利组织并注重安全——变成了一个警示故事，说明当像人工智能这样强大的工具开发不是基于安全考虑，而是出于不惜一切代价的利润目标时，会出现什么问题，而基本的保护措施则被忽视。” 亚利桑那州的诉讼声称。
在给 The Verge 的电子邮件声明中，OpenAI 发言人 Drew Pusateri 表示，该公司已在 ChatGPT 中引入了“行业领先的、针对不同年龄段的保护机制”。
虽然没有任何系统能够完美无缺，但我们仍会继续与专家合作，以完善我们的工作并建立更多保护措施，比如家长控制功能、休息提醒以及符合年龄特征的防护机制等。我们致力于与各州合作，制定适用于整个人工智能行业的务实人工智能政策——而不仅仅只针对某一家企业。
各州要求法院强制 OpenAI 支付一系列民事罚款，并停止对 ChatGPT 的安全性进行误导性的宣传。一些州还希望删除非法收集的个人数据。
更新，10月14日：添加了 OpenAI 的声明。
关注此故事中的主题和作者，您可以在个人主页动态中看到更多类似内容，并接收电子邮件更新。