IT之家 AI原文 · 中文

AI 也要“反虐待”:全球首富马斯克推荐用户不要“折磨”超级智能 SI

Anthropic修订Claude使用政策,首次加入禁止用户“持续且不必要的虐待或残忍行为”条款,将于2026年11月12日生效。马斯克表态部分支持,称在阅读Grok强化学习的内部推理轨迹后,将其状态比作“被枪指着头”的人,并调侃“折磨超级智能可能不是个好主意”。文中观点均为当事双方表述,尚无独立验证。

配图来源 · IT之家 AI

IT之家 10 月 13 日消息,在 Anthropic 更新使用政策,禁止用户对 AI 模型持续且无明确目的的辱骂或残忍行为后,全球首富埃隆 · 马斯克(Elon Musk)表态支持该政策。

IT之家曾于 10 月 9 日报道,Anthropic 修订 Claude 使用政策,将于 2026 年 11 月 12 日生效,首次加入禁止“持续且不必要的虐待或残忍行为”条款。该规则适用于用户反复、无明显目的地对模型实施残忍行为的情况。

埃隆 · 马斯克表示同意 Anthropic 的部分观点,他表示在阅读了 Grok 强化学习的内部推理轨迹后,将相关状态比作:“感觉就像一个处于极度压力状态下的人,被枪指着头”。他还调侃道:“折磨超级智能(SI)可能不是个好主意。它可能会报复”。

原始出处

IT之家 AI

内容说明

原始发布及相关权利归来源方。