清除聊天历史有助于AI智能体找到更好的解决方案
Matthias Bastian
查看Matthias Bastian的LinkedIn个人主页
2026年10月12日
由THE DECODER使用Nano Banana Pro生成
微软研究院的一项研究发现,长时间运行的AI研究智能体即使获得更多计算资源也可能陷入停滞。累积的对话上下文可能会限制它们的搜索,使其专注于相似的解决方案,而不是探索更好的方法。
微软研究人员研究了他们所称的“Autoresearch智能体”,即反复提出解决方案、评估它们并根据反馈进行改进的AI系统。同一智能体在同一任务上的8次独立运行在不同的性能水平上停滞,最终得分从68.3到100.0不等。论文指出,即使有显著更多的计算资源,这些差距依然存在。
智能体陷入“创意盆地”
研究人员将 所有运行的解决方案绘制在一张二维地图上,该地图将相似的解决方案放在一起,然后进行比较。单次运行的解决方案几乎总是停留在地图的一个小区域内。作者将这些区域称为“创意盆地”。
智能体将剩余计算预算的很大一部分用于在一个生产力较低的区域内部细化解决方案,而不是去发现其他运行所找到的更好方法。即使智能体定期压缩其对话历史,这种模式依然存在。
清除聊天历史让智能体探索新方法
所提出的方法“Fork-and-Flush”结合了两种机制。在“分叉”中,智能体分裂为K个并行分支,每个分支继承先前的工作区和所有生成的文件。在“冲刷”中,每个分支失去其全部聊天上下文但保留工作区,从而可以开始全新的对话并在先前工作的基础上继续。

保留父进程聊天上下文的分支往往会回到同一个创意盆地,因为先前的推理会引导其后续步骤。全新的上下文恢复了搜索的多样性。对话历史虽然丢失了,但代码、文件和保存的结果仍保留在工作区中。
在相同计算预算下,归一化平均得分高出66%
研究人员在 13项长时间运行的任务上测试了Fork-and-Flush,包括多联方块装填、作业车间调度和密码分析。任务还包括压缩一个CIFAR分类器和优化一个VLIW内核。单次运行从数小时持续到超过100小时不等。智能体通过GitHub Copilot CLI使用GPT-5.6-terra和GPT-5.5。
在相同的计算预算下,Fork-and-Flush取得了最小-最大归一化平均得分0.78,而单次运行为0.47,best-of-4为0.54。论文报告的相对增益分别为66.0%和44.4%。该方法在13项任务中的12项上取得了最高平均得分。
Fork-and-Flush还产生了更一致的结果,归一化标准差从单次运行的0.26降至0.16。仅清除聊天上下文而不进行分支可使结果提升22%。
| 评估 | 方法 | 归一化平均得分 | 归一化标准差 | 相对于各自单次运行基线的相对提升 |
|---|---|---|---|---|
| 13项任务 | 单次运行 | 0.47 | 0.26 | 基线 |
| 13 个任务 | Best-of-4 | 0.54 | 0.21 | 约 +14.9% |
| 13 个任务 | Fork-and-Flush | 0.78 | 0.16 | +66.0% |
| 11 个任务 | 单次运行 | 0.45 | — | 基线 |
| 11个任务 | 仅刷新 | 0.55 | — | 约 +22% |
更强的模型可能仍需要上下文重置
研究人员还测试了更强大的模型是否能避免想法盆地,他们使用了 MAX-3-SAT问题 涵盖三个模型规模:Qwen3.5-4B、9B 和 27B。各次运行之间的方差呈倒U形曲线,在处于模型能力边缘的任务上达到峰值,大致位于随机猜测性能与参考求解器性能的中间点。

作者认为,开放性研究问题按定义就处于模型能力的极限。他们预期 Fork-and-Flush 所利用的这种差异会随着模型的改进而持续存在,只是边界会向更难的问题转移。结果表明,即使是前沿研究智能体,定期上下文重置仍可能有用。
AI News Without the Hype – 由人工精选
订阅 THE DECODER,即可享受无广告阅读、每周AI新闻通讯、每年六期独家“AI Radar”前沿报告、完整档案访问权限以及评论区访问权限。
继续阅读以了解全貌。
订阅以获取无炒作的报道。
- 完整访问 THE DECODER 上的每一篇文章
- 无广告
- 参与评论和社区讨论
- 每周通过邮件获取AI新闻回顾
- 每年6期:“AI Radar”——深入探讨最重要的AI话题
- 每日AI新闻,实时更新
- 我们完整的十年档案库
- 由拥有10年以上AI经验的团队报道
