チャット履歴を消去すると、AIエージェントがより良い解決策を見つけるのに役立つ
マティアス・バスティアン
マティアス・バスティアンのLinkedInプロフィールを表示する
2026年10月12日
ナノバナナプロがデコーダから呼び出されました
マイクロソフト・リサーチの研究によると、長期にわたって稼働するAI研究エージェントは、さらなる計算能力を加えても停滞することがある。蓄積された会話の文脈が彼らの探索を制限し、より良い方法を探求するのではなく、似たような解決策に焦点を当てるようになる。
マイクロソフトの研究者たちは、「オートリサーチエージェント」と呼ばれるAIシステムを研究した。これらはフィードバックに基づき、解決策を繰り返し提案し、それらを評価し、改善するものである。同じタスクに対して8回の独立した実験を行った結果、性能レベルには大きな差が生じ、最終得点は68.3から100.0までであった。論文によると、より多くの計算能力を使用してもこの差は維持された。
エージェントは「アイデアの盆地」に閉じ込められる
研究者たちはすべての実験から得られた解を、類似した解が近くに集まる二次元地図上にプロットし、それらを比較した。一つの実験から得られた解はほとんど常に地図の小さな領域内に留まった。著者たちはこれらの領域を「アイデア盆地」と呼んでいる。
エージェントたちは、残りの計算予算の大部分を、他の実行によって発見されたより良い方法を見つけるのではなく、生産性の低い地域で解決策を磨くことに費やしている。このパターンは、エージェントが定期的に会話履歴を圧縮しても続く。
チャット履歴をクリアすることで、エージェントは新しいアプローチを探ることができる
提案された方法「Fork-and-Flush」は2つのメカニズムを組み合わせています。「Fork」では、エージェントがK個の平行なブランチに分かれ、各ブランチは前のワークスペースと生成されたすべてのファイルを受け継ぎます。「Flush」では、各ブランチは全てのチャットコンテキストを失いますが、ワークスペースは保持され、新たな会話を始め、以前の作業を踏まえて進めることができます。
親プロセスのチャットコンテキストを保持するブランチは、以前の推論が次のステップを導くため、同じアイデアの領域に戻る傾向があります。新しいコンテキストによって探索の多様性が復元されます。会話履歴は失われますが、コード、ファイル、保存された結果はワークスペースに残ります。
同じ計算資金で、正規化された平均点が66％高くなる
研究者たちはFork-and-Flushをテストした 13件の長期にわたるタスク多角形パッキング、ジョブ・ショップスケジューリング、暗号解析を含む。タスクにはCIFAR分類器の圧縮やVLIWカーネルの最適化も含まれていた。個々の実行時間は数時間から100時間以上に及んだ。エージェントはGitHub Copilot CLIを通じてGPT-5.6-terraおよびGPT-5.5を使用した。
同じ計算予算で、Fork-and-Flushは最小最大正規化平均スコア0.78を達成した。これは、単独実行の場合の0.47、best-of-4の場合の0.54に対比される。論文によると、相対的な改善率はそれぞれ66.0％と44.4％である。この方法は13のタスクのうち12のタスクで最高の平均スコアを達成した。
フォーク・アンド・フラッシュもより一貫した結果を得られ、単一の実行での標準偏差が0.26から0.16に減少しました。ブランチングを行わずにチャットのコンテキストを一旦クリアするだけで、結果が22％向上しました。
| 評価 | 方法 | 標準化平均スコア | 正規化標準偏差 | 各単回ベースラインに対する相対的な改善 |
|---|---|---|---|---|
| 13個のタスク | 単一実行 | 0.47 | 0.26 | ベースライン |
| 13個のタスク | ベストオフ4 | 0.54 | 0.21 | 約 +14.9% |
| 13個のタスク | フォーク＆フラッシュ | 0.78 | 0.16 | +66.0% |
| 11個のタスク | 単一実行 | 0.45 | — | ベースライン |
| 11個のタスク | フラッシングのみ | 0.55 | — | 約 +22％ |
より強力なモデルには、まだコンテキストのリセットが必要かもしれない
研究者たちは、より高性能なモデルがアイディアバケットを回避するかどうかを調査しました。これには、MAX-3-SAT問題を用い、Qwen3.5-4B、9B、27Bの3つのモデルサイズで実験を行いました。実行回数による変動は逆U字型の曲線を示し、モデルの能力の境界にあるタスクにおいてピークを迎え、これはランダム推測性能と参照ソルバーの性能の間のほぼ中間点です。
著者たちは、オープンな研究問題は定義上、モデルの能力の限界に位置すると主張している。彼らは、モデルが改善されるにつれて「Fork-and-Flush」の悪用が続くと予想し、境界線は単により難しい問題へと移動するだけであると述べている。結果からは、定期的なコンテキストのリセットが、フロンティア研究エージェントにとっても有用である可能性があることが示唆されている。
AIニュース 過度な宣伝はなし – 人間が選定
広告のない読書、毎週のAIニュースレター、年に6回の独占的「AIラーダー」フロンティアレポート、完全なアーカイブアクセス、そして私たちのコメントセクションへのアクセスを得るために、THE DECODERを購読してください。
全体の内容はこちらです。
興味をそそらない報道をお届けするために、購読してください。
- THE DECODERのすべての記事に完全なアクセス権
- 広告なし
- コメントやコミュニティの議論に参加しよう
- 週刊のAIニュース要約をメールで送る
- 6回/年：「AIレーダー」 — 最も重要なAIに関する深い探求
- 毎日のAIニュース、常に最新です
- 私たちの完全な10年間アーカイブ
- AIで10年以上の経験を持つチームによって担当されている