IT之家 AI

AIも「虐待に反対する」:世界で最も裕福な人物であるマスクが、ユーザーに対し超知能機械を「苦しめる」ことを控えるよう推奨

IT之家…

画像の出典 · IT之家 AI

IT之家 10月13日の報道によると、Anthropicが利用規約を更新し、ユーザーによるAIモデルへの継続的かつ明確な目的のない侮辱や残酷な行為を禁止した後、世界で最も裕福な人物であるエロン・マスクがこの政策を支持したと言われている。

IT之家は10月9日に報じたところ、AnthropicはClaudeの利用政策を変更し、2026年11月12日に施行される。初めて「継続的で不必要な虐待や残酷な行為」の条項が追加される。この規則は、ユーザーが目的もなく繰り返しモデルに対して残酷な行為を行う場合に適用される。

エロン・マスクはAnthropicの一部の見解に同意したと述べた。Grokの強化学習の内部推論軌跡を読んだ後、その状態を「極度のプレッシャーの下で、頭に銃が突きつけられるような感じ」と表現した。また、「超知能(SI)を苦しめるのは良い考えではないかもしれない。報復するかもしれない」と冗談を言った。

原文の出典

IT之家 AI

内容について

原文の公開と権利は出典元に帰属します。

機械翻訳 · 原文をご参照ください