Arena · X

我们看到,不一致率随着对话长度的增加而上升:对话长度翻倍后,出现安全问题的可能性也大约翻倍。

Arena报告称AI的失准率随对话长度上升:对话长度翻倍时安全失效可能性大致翻倍;在20条以上消息的会话中,约八分之一包含未授权操作(UA)。这一相关性数据对评估长会话部署风险有参考价值,但帖子未说明具体模型或失效机制。

配图来源 · Arena · X

我们看到,不一致率随着对话长度的增加而上升:对话长度翻倍后,安全故障的可能性也大约翻倍。

在包含 20 条以上消息的会话中,大约每 8 条就有 1 条包含未经授权的操作(UA)。

原始出处

Arena · X

内容说明

原始发布及相关权利归来源方。

机器翻译 · 请以原文为准