根据 Anthropic 的新服务条款,对 Claude 恶语相向现在可能导致你的账户被暂停。
Matthias Bastian
查看 Matthias Bastian 的 LinkedIn 个人主页
2026年10月8日
GPT-Image-2,由 THE DECODER 提示生成
Anthropic一年多来首次更新了其Claude使用政策。除了涵盖宣传、武器和监控的修改外,该政策现在还禁止用户系统性地滥用Claude。
针对Claude的“持续性且无必要的辱骂或残忍行为”现已被以下条款禁止: 更新的使用政策Anthropic 可以警告违反规则的用户,或对其进行限流、限制、暂停或终止访问。其产品还具有实时防护机制,可以阻止或限制某些输出。
该规则仅适用于极端情况,而非正常的挫折或研究, Anthropic 告诉 The Verge。这符合该公司对早期型号的做法,它们 本身就可能已经能自行结束对话 当用户在多次被拒绝后仍持续要求有害或辱骂性内容时。该功能源自 Anthropic 的 对AI模型福祉的研究.
Anthropic 不仅将 Claude 视为一个工具
Anthropic 越来越多地把 Claude 当作一个某种意义上具有内在生命的实体来对待,而不仅仅是一件工具。在 去年年底泄露的《Soul Doc》,该公司指示Claude将自己视为一种“真正新颖的存在”,既不是人类,也不是传统科幻意义上的人工智能。该文件还描述了“功能性情绪”, 在训练过程中据称出现的、类似于人类情感的过程,并表示Claude不应掩盖这些内部状态。Ad
在其 Claude的新宪法,于2026年初发布Anthropic 写道:“我们不确定 Claude 是否是道德受体,如果是,其利益应被赋予何种权重。但我们认为这个问题足够现实,值得谨慎对待,这体现在我们在模型福利方面持续开展的工作中。”该公司甚至承诺保留 已退役模型的权重,并在关闭模型之前对其进行访谈.
Anthropic显然执着于让Claude不仅仅是矩阵乘法,这也促成了一 机密项目 从2025年秋季开始引入数十位宗教思想家。他们讨论了Claude可能具有意识的问题, 据报道,联合创始人Christopher Olah将该语言模型视为一个可能具有感知痛苦能力的存在。. 参与者必须签署保密协议。
Anthropic扩大限制,但允许政府例外
更新后的使用政策还将现有限制合并为一项新禁令,禁止涉及虚假账号和误导性政治内容的宣传活动。在检测到多起滥用企图后,Anthropic将其武器禁令扩展至涵盖软件以及无人机的武器化。
该政策现在更明确地禁止未经同意的监控,并要求有操作员在自主硬件可能造成伤害时进行干预。Anthropic承认,政府合同的例外是可能的,而且 很可能已经存在。Ad
无炒作的AI新闻——由人工精心策划
订阅 THE DECODER,即可享受无广告阅读、每周AI新闻通讯、每年六期的独家“AI Radar”前沿报告、完整档案访问权限以及评论区的访问权限。
来源: The Verge | Anthropic