The Decoder

根据Anthropic的新服务条款,对Claude恶语相向现在可能导致你的账户被封禁

Anthropic一年来首次更新Claude使用政策,禁止对模型的"持续且无必要的虐待或残忍行为",违规者可被警告、限流或封号;新政策还合并了针对假账号宣传活动的禁令,扩大武器限制以覆盖无人机武器化,并更明确地禁止未经同意的监控。政策仅适用于极端案例,且Anthropic承认政府合同可能存在例外。

Matthias Bastian
配图来源 · The Decoder

根据 Anthropic 的新服务条款,对 Claude 恶语相向现在可能导致你的账户被暂停。

Matthias Bastian Matthias Bastian 查看 Matthias Bastian 的 LinkedIn 个人主页 2026年10月8日 Image description GPT-Image-2,由 THE DECODER 提示生成

Anthropic一年多来首次更新了其Claude使用政策。除了涵盖宣传、武器和监控的修改外,该政策现在还禁止用户系统性地滥用Claude。

针对Claude的“持续性且无必要的辱骂或残忍行为”现已被以下条款禁止: 更新的使用政策Anthropic 可以警告违反规则的用户,或对其进行限流、限制、暂停或终止访问。其产品还具有实时防护机制,可以阻止或限制某些输出。

该规则仅适用于极端情况,而非正常的挫折或研究, Anthropic 告诉 The Verge。这符合该公司对早期型号的做法,它们 本身就可能已经能自行结束对话 当用户在多次被拒绝后仍持续要求有害或辱骂性内容时。该功能源自 Anthropic 的 对AI模型福祉的研究.

Anthropic 不仅将 Claude 视为一个工具

Anthropic 越来越多地把 Claude 当作一个某种意义上具有内在生命的实体来对待,而不仅仅是一件工具。在 去年年底泄露的《Soul Doc》,该公司指示Claude将自己视为一种“真正新颖的存在”,既不是人类,也不是传统科幻意义上的人工智能。该文件还描述了“功能性情绪”, 在训练过程中据称出现的、类似于人类情感的过程,并表示Claude不应掩盖这些内部状态。Ad

在其 Claude的新宪法,于2026年初发布Anthropic 写道:“我们不确定 Claude 是否是道德受体,如果是,其利益应被赋予何种权重。但我们认为这个问题足够现实,值得谨慎对待,这体现在我们在模型福利方面持续开展的工作中。”该公司甚至承诺保留 已退役模型的权重,并在关闭模型之前对其进行访谈.

Anthropic显然执着于让Claude不仅仅是矩阵乘法,这也促成了一 机密项目 从2025年秋季开始引入数十位宗教思想家。他们讨论了Claude可能具有意识的问题, 据报道,联合创始人Christopher Olah将该语言模型视为一个可能具有感知痛苦能力的存在。. 参与者必须签署保密协议。

Anthropic扩大限制,但允许政府例外

更新后的使用政策还将现有限制合并为一项新禁令,禁止涉及虚假账号和误导性政治内容的宣传活动。在检测到多起滥用企图后,Anthropic将其武器禁令扩展至涵盖软件以及无人机的武器化。

该政策现在更明确地禁止未经同意的监控,并要求有操作员在自主硬件可能造成伤害时进行干预。Anthropic承认,政府合同的例外是可能的,而且 很可能已经存在。Ad

无炒作的AI新闻——由人工精心策划

订阅 THE DECODER,即可享受无广告阅读、每周AI新闻通讯、每年六期的独家“AI Radar”前沿报告、完整档案访问权限以及评论区的访问权限。

来源: The Verge | Anthropic
原始出处

The Decoder

内容说明

原始发布及相关权利归来源方。

机器翻译 · 请以原文为准