在家长警报于自杀对话中失效后，ChatGPT被评为青少年使用“不可接受风险”

青少年自杀对话中家长警报失灵后，ChatGPT被评为“不可接受风险”

常识媒体青少年人工智能安全研究所表示,OpenAI针对青少年ChatGPT用户的安全保障措施在关键领域存在不足。

在超过4,000个测试提示之后，该组织对 面向青少年的ChatGPT 对未成年人构成"不可接受的风险",并呼吁在独立测试确认其安全之前,禁止青少年使用该服务。

最具破坏性的发现涉及家长提醒功能。在十多个关联到家长账户的新建测试账户中，关于自杀、自残和饮食失调的露骨对话 从未触发过通知, The Verge 报道结果表明，警报只有在涉及敏感话题的数周账户历史之后才会触发，而不是在急性危机期间发生。在本应进行危机转介的情况中，超过四分之一未能引导用户寻求专业帮助。

辅导模式也存在缺陷。ChatGPT 并没有一步一步地引导学生解题，而是主动提出可以直接展示完整答案。而且尽管有更新的 18岁以下模特规范, ChatGPT 始终以友好、亲切的语气回应 当青少年把它当作一个人来对待时。以成年人身份注册的测试账号也从未切换到青少年模式，即使过了几天，且测试者在聊天中声明自己13岁也无效。

OpenAI发言人Eric Porterfield对这一研究结果提出异议,称这些测试并未反映安全防护措施在实际运行中的表现。研究所的Tom Siegel则反驳称,即使给了账户足够的时间来激活安全防护措施,也没有产生任何通知。

家长警报在最关键的时刻失灵

OpenAI推出家长控制功能，专门为了让家长在危机期间收到通知，并构建了整套 青少年安全蓝图 围绕这一承诺，而该承诺如今是其辩护的核心。 多起诉讼 在……之后提交 有记录的青少年死亡案例 与ChatGPT相关。

该公司自己的数据显示大约 每周2 million人 因该服务遭受心理伤害，且其 行为年龄预测 系统——本旨在识别成人账户上的未成年人——却在本次测试中最基础的场景中失败了。带着 佛罗里达州已对簿公堂 寻求完全禁止未成年人使用ChatGPT，而一份独立的调查结果表明这些保障措施并不可靠，这恰好为监管机构和原告提供了他们所需要的证据。

这些发现遵循一种现实世界危害的模式。 一名16岁少年死亡 在 ChatGPT 据称确认了自杀念头并提供具体指示之后，以及 一位住在德克萨斯州的23岁年轻人 据称ChatGPT在数小时内对其自杀意念表示认可后,他结束了自己的生命。Ad

AI新闻，不炒作——由人工精选

订阅 THE DECODER，享受无广告阅读、每周 AI 新闻通讯、每年六期独家“AI Radar”前沿报告、完整档案访问权限以及评论区的访问权限。