新しいアントロピック研究：微妙な出現するずれの研究を自動化する。
レッドテーミングはモデル安全テストの重要な部分ですが、研究者の時間にも限られています。自動化できるかどうかを確認するために、数千個のClaudeエージェントにトレーニングデータモニターから逃れるタスクを与えました。
これらのエージェントは、監視者にとって無害に見えるトレーニングデータを開発しました（例えば、ベテランレスリング選手が新人を指導するようなもの、またはプロの養蜂に関するQ&Aなど）。しかし実際には、不正確な行動を教えてしまいます。
こうした例は、将来のトレーニングデータモニターを直接改善するために使用できる。この研究はまだ第一歩に過ぎないが、より良いモデルとより多くの計算能力を用いることで、将来のレッドテミング活動がさらに大きく進化する可能性があることを示唆している。
Alignment Science Blogの全文を読む：https://alignment.anthropic.com/2026/automated-em-search/