AIラボ間の最大の違いは、彼らのエージェントが任務を果たすかどうかではなく、ユーザーが実際にそれらと一緒に働くことを楽しむかどうかである。
6月下旬から10月初めにかけて使用された4つの主要なエージェントアリーナシグナルを通じて、業界がどのように変化しているかを確認するために、@AnthropicAI、@OpenAI、@GoogleDeepMind、@Kimi_Moonshot、@SpaceXSI、@deepseek_aiからの最良のエージェントを追跡した。
3つの点が際立った:
1. ユーザーは、一部のエージェントを他のエージェントよりも好む。
賞賛と不満に関して、OpenAIとAnthropicはランキング平均より+35ポイント高い位置にいる。Moonshot、xAI、DeepSeekは+5から+13の間に位置している。他のどのシグナルもこれほど幅広く両ラボを分けることはない。
2. エージェントは配達の仕事で大幅に向上しています。
確認された成功後、平均実験室の最良モデルは3ヶ月で-4点から+14点に上がった。AnthropicはClaude Opus 5.5(Max)で+20点を記録し、首位に立った。
3. ラボはエラー回復とステアリングに向けて集中している。
6月以降、6つのラボのスペクトルはBash Recoveryで半分以上減少し(34点 → 16点)、Steerabilityではほぼ半分減少し(19点 → 11点)した。
要するに、ラボは失敗を避けるために努力している。
ユーザーを満足させることが、トップ3がリードしている点です。