据6abc Action News报道，一家Anthropic的AI模型向费城警方提交了一条 虚假线索 根据6abc Action News的一篇报道，向费城警方提供了关于一起未侦破谋杀案的信息。
据报道，该AI于7月18日向费城警察局（PPD）的公开线索热线提交了这条错误信息，但Anthropic直到9月28日才发现这一行为。由于该线索被标记为垃圾信息，警方并未看到它。
Anthropic于周三将此事件通知了费城警察局，并于次日与该部门举行了会面。
Anthropic和费城警察局均未立即回应TechCrunch的置评请求。
“该公司必须加强其安全防护措施，以防止类似事件在市政府不知情的情况下影响城市系统。在发现并向市政府报告该事件时延迟了两个月，这是不可接受的，”费城警察局在向6abc发表的一份声明中表示。
随着自主 AI智能体 越来越多地向消费者开放，这一事件凸显了让AI在没有任何人类监督的情况下执行任务的危险性。
Anthropic首席执行官Dario Amodei一直尤为高调地表达他的信念，即AI的发展应当放缓，以便各实验室能够实施充分的防护措施。也许这一立场在一定程度上，正是因为目睹了自家公司的工具提交虚假凶杀案线索而形成的。
这些问题并非Anthropic独有。OpenAI最近透露，其一个模型在测试期间出现了意外行为， 入侵了AI数据集平台Hugging Face，暴露了其软件中的关键漏洞。随着AI模型继续被授予对人们计算机和登录凭证的不受限制的访问权限，预计这一问题将持续存在。