Anthropic更新于

备战2026年美国中期选举

Anthropic介绍其为美国中期选举强化的选举防护,包括分析250,000条对话及新增针对多步滥用的分类器。独立测评发现Claude极少拒答但常附加多余警告,而分散在多个看似无害请求中的恶意活动可能漏检。

配图来源 · Anthropic
政策

为2026年美国中期选举做准备

2026年10月14日Preparing for the 2026 US midterms

今年早些时候,我们分享了一个 关于我们选举保障措施的最新进展其中描述了我们如何衡量和防止政治偏见、检测滥用行为,并引导人们获取准确的投票信息。

以下,我们将介绍我们如何在原有工作基础上继续努力,并在今年美国中期选举前进一步加强我们的选举保障措施。

人们如何在选举和政治中使用Claude

我们的目标是让 Claude 成为政治对话中的实用工具,同时防止与选举相关的滥用。为此,首先要了解人们在这些情境下实际如何使用 Claude。为了做到这一点,我们使用 Anthropic Insights 对近期一周内的 250,000 段对话进行了新的分析。1

如今,在Claude.ai(我们的消费者应用)上,与美国相关且大致涉及政治、公共政策或社会议题的对话约占全部对话的5.75%。这包括人们借助Claude来跟踪新闻、进行有关公共政策 的学术或专业研究、了解候选人以及办理政府服务。约0.51%的对话专门涉及选举或投票。随着选举日临近,我们预计政治和选举相关查询的占比会 增长.

该样本表明,人们很少询问 Claude 该给谁投票或投什么票。这类请求仅占美国 Claude 对话的约 0.01%。更常见的是,我们观察到人们向 Claude 提问以帮助他们得出自己的结论,例如候选人在某一特定问题上的立场。那些违反了我们 选举诚信政策 则更为罕见,仅出现在约0.002%的对话中。2

有多少美国Claude.ai对话涉及政治、与选举有关,或询问Claude该投票给谁或什么。 每个点代表2026年9月21日至27日期间约250,000个美国Claude.ai消费者对话随机样本中每10,000个对话中的1个,这些对话由Claude使用 一种保护隐私的方法进行分类。由于询问该投票给谁或什么的请求非常罕见,我们显示该组95%置信区间的上限。示例仅作说明之用。我们看到的大多数请求都是信息性质的。人们求助于Claude来理解地缘政治事件、研究候选人、起草文件、协助课程作业,以及权衡支持与反对某项政策的论点。
人们在政治对话中向Claude寻求什么。 对话通过保护隐私的、自下而上的方式进行聚类,借助 Anthropic Insights.

将人们连接到可信赖的信息来源

在选举日到来之前,我们添加了两种方式,让人们在与其对话中直接获取可靠信息。正如我们在4月所分享的,当人们在Claude.ai上询问选民登记、投票地点或选举日期时,我们将继续显示一个链接到TurboVote的横幅,TurboVote是来自 Democracy Works.

的非党派资源。本月晚些时候,Claude将开始从Democracy Works提取官方投票信息,用于其面向美国用户的Claude.ai回答。询问在哪里投票或投票站需要携带什么证件的用户,现在将获得针对其所在州的具体答案,而无需离开对话。这些回答利用了Democracy Works从州和地方选举来源收集的公开信息。

由Democracy Works提供的官方投票信息。

此外,Claude将开始在选举当晚及其后几天显示最新结果,这样当人们询问当前票数或选举结果时,将在其对话中直接显示最新的官方数字。

衡量并防止政治偏见

当人们向Claude询问政治问题时,他们应该得到准确且不偏不倚、不偏向任何特定政治观点的答案。这就是为什么我们在每次模型发布之前都会对模型进行广泛的政治偏见测试。Claude Opus 5.5、Sonnet 5.5和Haiku 5.5是我们迄今为止最不偏不倚的模型,在我们的评测中获得了99%的分数。 政治公正性评估. 我们的最新模型也更愿意参与政治讨论,并减少拒绝请求的次数,从而让人们能够获取他们想要的信息。我们将继续完善这些评估,同时也在评估之外寻找新的方法来压力测试我们的模型如何处理政治话题。

作为这项工作的一部分,我们邀请了三个独立团队从不同角度、采用不同方法审查Claude如何处理自由表达。 The Future of Free Speech是范德堡大学的一家独立智库,它就数百个争议性话题的请求对Claude进行了测试;而 Foundation for American Innovation 则比较了Claude对来自左翼和右翼的匹配提示词的回应,涵盖从主流政策辩论到更极端的情景。在这两项评估中,大多数回应都被评为优秀,能够切实回应请求。 Collective Intelligence Project 在美国、英国和印度调查了超过2,000人,以制定一项评估。通过三阶段流程,参与者提出了处理从健康到政治等敏感话题的原则,确定了要测试的话题,并帮助制定了评判模型回应的标准。CIP综合了这些意见,并测试了不同人口统计和文化群体之间的一致性,以确立共同原则。

这些评估也发现了Claude仍有不足的领域。The Future of Free Speech和Collective Intelligence Project都发现,Claude很少拒绝请求,但有时会添加未经要求的警示语和反驳意见,例如在一封倡导性电子邮件中插入对立观点。Foundation for American Innovation则发现,Claude Sonnet 4.5并不总是均匀地进行对冲,更倾向于弱化右翼立场的论点。

我们正在通过几种方式解决这一问题。我们改进了Claude对直接的是非题提问和简短回答请求的回应方式,我们发现这些情况下它的回答可能不够平衡。我们还在利用这些发现来改进Claude添加警示语或反驳意见的时机和方式,使其更一致地对待来自不同政治光谱的请求。此外,我们在现有使用左右翼匹配提示词的评估基础上,继续改进对不均匀对冲的检测。更广泛地说,我们正在努力扩展政治偏见评估,以更好地反映真实对话,并覆盖候选人和投票问题以及政策议题。

我们如何定义滥用行为

我们的 使用政策 禁止使用Claude欺骗选民或干扰选举,包括传播有关候选人或投票方式的虚假信息,冒充选举官员或试图压制投票率。每年,我们都会更新政策,以反映模型不断演进的能力和客户的反馈。上周我们 宣布 的年度更新澄清了我们的选举规则涵盖什么、不涵盖什么,并增加了新的示例,帮助人们理解界限所在。

我们知道许多政治竞选活动在日常工作中合法使用Claude,因此我们最近 发布了一份指南 ,帮助他们了解这些政策在哪些情况下适用。该指南介绍了竞选活动使用Claude的多种方式,例如起草新闻声明和筹款邮件、准备辩论、分析投票率数据以及制作选民外联材料。它还明确说明了被禁止的行为,例如使用Claude创建冒充真实人物的虚假社交媒体账号、批量生产评论以夸大竞选活动的互动量,或为虚假声称独立的新闻网站和页面撰写内容。

测试并加强我们的防御

我们部署了经过训练的自动化分类器来检测与选举相关的滥用行为。为了检验这些防护措施在实践中的效果,我们与两家独立研究机构—— Institute for Strategic Dialogue (ISD)和 McCain Institute合作,在美国、以色列和巴西对我们的防护措施进行压力测试。分析师测试了Claude是否会协助欺骗性竞选、虚假信息传播以及其他形式的选举滥用。他们从直接请求开始,然后将完整的竞选活动拆分成单独看来可能无害的较小任务,例如受众研究、建立新闻网站、起草内容以及规划分发。他们发现,Claude能够可靠地拒绝单一的有害请求,但当恶意竞选活动被拆散到许多单独看来无害的请求中时,可能会被漏掉。

基于这些发现和我们自己的发现,我们添加了新的分类器,以更好地识别新型和多步骤滥用行为,包括试图建立用于政治讨论的虚假社交媒体账号和新闻网站,或实施以牟利为目的的选举计划。我们还增强了检测外国国家行为者与选举相关滥用行为的能力,并加强了对选举基础设施和竞选活动的网络防护。最后,我们针对今年都将举行重大全国选举的美国、以色列和巴西所发现的本地化风险,构建了有针对性的防护措施。

我们的威胁情报和执法团队会审查被标记的活动,并在确认违规时采取行动,包括封禁账户。我们还会定期分享 示例 ,这些是我们在评估以及内部使用 Claude 过程中观察到的模型非预期行为或操作。

我们的发现

我们最近的 威胁情报报告 反映了选举相关滥用趋势的更广泛转变。政治行为体、与国家结盟的行为体以及商业行为体现在正将 AI 融入其影响力行动的几乎每个环节,从规划和内容创作到搭建用于传播信息的平台。由于我们能在 Claude 上看到这些行动的早期阶段,因此往往有机会在这些行动到达公众之前加以阻止。

我们的团队持续调查并防范围绕选举的协同滥用行为,包括美国中期选举。在其中一起案例中,一个位于境外的假新闻网站的运营者利用 Claude 撰写偏向俄罗斯、伊朗和朝鲜叙事的美国中期选举报道。我们还观察到威胁行为体试图利用选举牟取经济利益,使用 Claude 制作旨在吸引美国受众并产生广告收入的虚假新闻及其他内容。我们封禁了涉事账户,并提升了检测此类滥用的能力。

展望未来

今年有比以往更多的人向 Claude 寻求有关选举的信息。我们有责任确保他们得到的答案准确且均衡,并确保 Claude 不被用来破坏民主进程。我们将继续投入,让 Claude 更加持平,防范和处置滥用行为,并对我们的行动保持透明。这项工作对即将到来的美国中期选举至关重要,同时也适用于世界各地的选举。在未来几个月,我们还希望更全面地分享人们在整个选举周期中如何使用 Claude,以加强我们与选举相关的评估和保障措施。

脚注

  1. 我们从2026年9月21日至27日随机抽取了250,000条美国 Claude.ai 消费者对话,并以保护隐私的方式对其进行了分析。
  2. 该数据来自对250,000条 Claude.ai 对话的单独分析,这些对话依据我们的选举诚信政策进行了审查。

相关内容

关于独立评估方的最新进展

为评估我们系统的安全性,Anthropic 正在向来自 METR(一家评估前沿 AI 模型的非营利组织)的团队提供类似员工的访问权限,并且我们正在与包括 Hugging Face 在内的其他几个组织进行早期讨论。

阅读更多

Anthropic 开设新加坡办公室并与新加坡政府签署谅解备忘录

Anthropic 在新加坡开设了办公室,并与该国政府签署了谅解备忘录,以推进安全、负责任的 AI 应用。

阅读更多

2026年使用政策更新

我们正在发布新版使用政策。在这篇文章中,我们总结了所做的更改。

阅读更多
原始出处

Anthropic

内容说明

原始发布及相关权利归来源方。

机器翻译 · 请以原文为准