Anthropic

2026年使用政策更新

Anthropic发布新版使用政策:将分散的虚假活动禁令合并为禁止欺骗性活动的新章节,细化武器与监控禁令及高风险场景的人工监督要求,并新增禁止对模型持续虐待行为。文中说明多数条款只是澄清既有规则的执行,并非新增限制。

配图来源 · Anthropic
公告

2026年使用政策更新

2026年10月8日

每年,Anthropic都会根据模型能力的演变以及客户反馈来更新其使用政策。今天,我们正在发布该政策的新版本。在这篇文中,我们将总结我们所做出的修改。

最新版本中的大多数更新都是为了明确现有规则。自上次更新以来,Claude 开始承担更长期、更独立的工作任务。此次更新提供了新的示例,展示我们的规则如何适用于 Claude 的新功能。这些示例基于过去一年我们在影响力操作、武器研发和监控领域观察到的新型滥用行为模式(如我们在最新威胁情报报告中记录的那样)。我们还对健康和金融等高风险使用场景的要求进行了更新,增加了对 Claude 自主执行物理操作时的控制机制,并针对对模型的虐待行为进行了改进。

更新后的政策将于11月12日生效。完整的使用政策和支持地区政策可分别查看相应页面。

关于欺骗行为的新章节

正如我们上个月所写的那样,我们看到了一些国家媒体机构、政府宣传部门以及商业公司使用 Claude 来运营虚假账户和伪造新闻网站的例子。我们的政策已经禁止了这种行为,但相关限制分散在选举、欺诈、隐私和虚假信息几个章节中。

我们将这些规则整合到了一个新的章节中,该章节名为“请勿参与欺骗性活动或人工操作”,适用于任何类型的欺骗行为(无论是政治还是商业领域)。该章节涵盖通过虚假账户或帖子来掩盖信息来源、放大内容,以及构建用于开展影响力运营活动的工具和基础设施等行为。

重新聚焦我们的选举板块

我们在使用政策中的每个版本中都完善了政治内容限制措施,以确保我们的模型能够在民主过程中得到合理使用。在本版本中,我们进一步细化了关于选举的章节,特别强调了禁止使用 Claude 来欺骗选民或破坏选举(例如,传播有关候选人或投票方式的虚假信息、冒充候选人或选举官员,或试图降低投票率)。 我们将其名称改为“不要破坏民主进程”,以反映其范围。

出于类似的原因,我们也取消了对个性化投票和竞选目标设定的全面禁止。这一禁令原本适用于合法的公民活动,例如非政府组织使用 Claude 为其他语言的选民撰写信息,或者选举官员发送选票说明通知等。 那些导致原有规则成立的行为(如依赖欺骗或滥用选民个人数据的选民针对性行为)在我们的欺骗性活动、监控和隐私相关条款中仍被禁止。

明确我们的武器禁令

我们的使用政策一直禁止使用 Claude 来开发武器。最近,我们发现有人试图利用我们的模型来构建用于武器的引导与控制软件。更新后的条款明确说明,我们的禁令包括那些使武器能够运行的软件和组件,以及为无人机和其他自主车辆配备武器等行为。这些修改反映了我们执行之前政策的方式。

更精确的关于监控和执法的表述

我们的九月 威胁情报报告指出,人工智能在构建用于识别与追踪政治异见者的监控系统方面的使用日益增多。我们重新编写了关于监控与刑事司法的部分,以更精确地说明我们禁止的行为。例如,未经他人同意对其进行跟踪是禁止的,无论这种跟踪是在实时进行还是通过之前收集的数据进行分析。Claude不得用于决定或推荐在执法或刑事司法过程中对谁进行调查、逮捕或起诉。我们还禁止使用 Claude 来构建或改进用于监控的工具。

与之前的武器禁令更新一样,本次更新并未反映我们在实践中执行内容的变化:其目的仅是为了让我们的政策更加明确。新章节还明确了哪些使用仍然被允许,包括人们同意进行的追踪行为(如欺诈监控)、内容管理、新闻业以及法律研究。

更明确的高风险用例要求

当我们的产品以可能影响他人健康、法律权利、财务状况、生计或基本服务获取权的方式被使用时,我们要求必须有一名具备资格的“人参与流程”(即具有权力审查并在必要时修改 Claude 建议的人),并且受影响的个人应被告知使用了人工智能。

这些要求在更新后的使用政策中并未发生变化。然而,用户经常询问特定使用场景是否包含这些要求,因此我们重新编写了“高风险使用场景要求”部分,以更直接地回答这一问题。现在该部分明确列出了哪些类型的建议被涵盖,哪些不被涵盖。

在我们发布的模型硬件标准之后,本部分还增加了关于我们的模型在连接到能够执行自主物理操作且可能造成伤害的硬件时的使用要求。合格的操作员必须能够观察设备,并在必要时停止其运行;如果 Claude 断开连接,设备也必须能够保持安全状态。

处理针对我们模型的辱骂行为

我们增加了对模型进行持续且不必要的虐待或残忍行为的禁止规定。该政策更新仅适用于极端情况,即用户反复对模型表现出残忍行为,且没有明显的目的。该规定不适用于常见的用户不满、反对意见、黑暗创意主题,以及模型测试与研究情况。

此新增内容与我们已经采取的步骤一致,使得 Claude 模型能够在 Claude.ai 和 Claude Code 上结束与持续辱骂用户的罕见对话。此类辱骂行为正是本次更新的重点;Claude 能够结束这些互动的能力仍将是主要的执行机制。

明确我们的支持地区政策

去年,我们更新了我们的“支持地区政策”,以限制那些由位于不支持地区的实体全资拥有的公司使用 Claude。我们还更新了支持地区页面,以明确我们如何执行此政策。我们的政策禁止那些实际位于不支持地区的人、在该地区注册或总部设立的实体,以及由这些地区的个人或实体全资拥有或控制的实体使用 Claude。

展望未来

我们将随着 Claude 的能力和风险变化不断更新我们的使用政策。与之前的更新一样,我们会从 Anthropic 各方、政策制定者、主题专家、民间社会以及产品使用者那里获取意见。

相关内容

基于我们对美国科学探索的承诺

Anthropic 将在三年内向 Genesis 任务投入 1.5 亿美元,该任务是美国联邦政府的一项计划,旨在通过人工智能加速科学和技术领域的探索。

阅读更多

扩展网络验证计划

我们将推出新版、扩展版的网络安全验证计划,该计划将让符合条件的安全专业人员能够使用先进的网络安全功能以及更高效的阻断分类工具。

阅读更多

Anthropic 投资了 1 亿美元,用于培养 10,000 名工程师,解决企业人工智能人才短缺问题

Anthropic 正在向 Claude Frontier Academy 投资 1 亿美元,目标是在 2027 年底之前培训 10,000 名 Frontier Deployed 工程师,目前已有来自 Accenture、Bain、CBA、Deloitte、McKinsey、Morgan Stanley 和 Novo Nordisk 的团队正在开展相关培训工作。

阅读更多
原始出处

Anthropic

内容说明

原始发布及相关权利归来源方。

机器翻译 · 请以原文为准