Effacer l'historique de conversation aide les agents IA à trouver de meilleures solutions

Effacer l'historique de conversation aide les agents IA à trouver de meilleures solutions

Une étude menée par Microsoft Research montre que les agents de recherche en intelligence artificielle qui fonctionnent pendant longtemps peuvent atteindre un plateau, malgré des ressources de calcul supplémentaires. Le contexte de conversation accumulé peut limiter leurs recherches, les amenant à se concentrer sur des solutions similaires plutôt que d’explorer des approches meilleures.

Les chercheurs de Microsoft ont étudié ce qu’ils appellent « agents d’Autoresearch » : des systèmes d’IA qui proposent régulièrement des solutions, les évaluent et les améliorent en fonction des retours. Huit exécutions indépendantes du même agent sur la même tâche ont atteint des niveaux de performance très différents, avec des scores finales allant de 68,3 à 100,0. Ces écarts se sont maintenus même avec une puissance de calcul considérablement plus importante, selon le rapport.

Les agents s’enlisent dans des « bassins d’idées »

Les chercheurs ont représenté les solutions de toutes les expériences sur une carte bidimensionnelle qui place les solutions similaires proches l’une de l’autre, puis les ont comparées. Les solutions provenant d’une seule expérience restent presque toujours dans une petite région de la carte. Les auteurs appellent ces régions « bassins d’idées ».

Les agents consacrent une grande partie de leur budget de calcul restant à l’optimisation de solutions dans une région moins productive, plutôt que à la recherche de méthodes plus efficaces découvertes par d’autres expériences. Ce phénomène persiste même lorsque les agents compriment périodiquement leurs historiques de conversation.

Effacer l'historique de chat permet aux agents d'explorer de nouvelles approches

La méthode proposée, « Fork-and-Flush », combine deux mécanismes. Dans le « forking », l’agent se divise en K branches parallèles, chacune héritant du travail précédent et de tous les fichiers générés. Dans le « flushing », chaque branche perd tout son contexte de conversation, mais conserve le workspace, lui permettant de commencer une nouvelle conversation et de s’appuyer sur le travail antérieur.

Un branch qui conserve le contexte de discussion du processus parent a tendance à revenir au même bassin d’idées, car la raison précédente guide ses prochaines étapes. Un nouveau contexte rétablit la diversité dans la recherche. L’histoire de la conversation est perdue, mais le code, les fichiers et les résultats sauvegardés restent dans le espace de travail.

Une note moyenne normalisée 66 % plus élevée avec le même budget de calcul

Les chercheurs ont testé Fork-and-Flush sur 13 tâches en cours depuis longtemps, incluant le package de polyominos, l’ordonnancement de tâches en usine et l’analyse cryptographique. Ces tâches comprenaient également la compression d’un classifieur CIFAR et l’optimisation d’un noyau VLIW. Chaque exécution a duré entre plusieurs heures et plus de 100 heures. Les agents ont utilisé GPT-5.6-terra et GPT-5.5 via la CLI GitHub Copilot.

Avec le même budget de calcul, Fork-and-Flush a obtenu une note moyenne normalisée min-max de 0,78, contre 0,47 pour les séries d’essais indépendantes et 0,54 pour les matchs best-of-4. La revue scientifique indique des gains relatifs de 66,0 % et 44,4 %, respectivement. Cette méthode a atteint la meilleure note moyenne sur 12 des 13 tâches.

Fork-and-Flush a également produit des résultats plus cohérents, avec une variance normée tombant à 0,16 contre 0,26 pour les séries de tests indépendantes. Le simple effacement du contexte de chat sans branchement a amélioré les résultats de 22 %.

Des modèles plus puissants pourraient encore nécessiter des réinitialisations de contexte

Les chercheurs ont également testé si les modèles plus performants évitent les bassins d’idées, en utilisant des problèmes MAX-3-SAT pour trois tailles de modèle : Qwen3.5-4B, 9B et 27B. La variance entre les essais suivait une courbe en U inversée, avec un pic aux tâches situées à la limite des capacités du modèle, à environ la moitié entre les performances de devinement aléatoire et celles du solveur de référence.

Les auteurs affirment que les problèmes de recherche ouverts se situent, par définition, aux limites des capacités des modèles. Ils s’attendent à ce que les exploitations liées à Fork-and-Flush perdurent à mesure que les modèles s’améliorent, avec simplement la frontière se déplaçant vers des problèmes plus difficiles. Les résultats suggèrent que les réinitialisations régulières du contexte pourraient rester utiles même pour les agents de recherche de pointe.

Nouvelles en IA sans hype – sélectionnées par des humains

Abonnez-vous à THE DECODER pour une lecture sans publicités, un bulletin informatif sur l’IA hebdomadaire, notre rapport exclusif « AI Radar » six fois par an, un accès complet aux archives, et un accès à notre section de commentaires.

Lisez plus bas pour obtenir une vue complète.
Inscrivez-vous pour une couverture sans excitation.

• Accès complet à tous les articles sur THE DECODER
• Aucun annonce
• Rejoignez les commentaires et les discussions communautaires
• Résumé hebdomadaire des nouvelles sur l’IA par courrier
• 6 fois par an : « AI Radar » – des analyses approfondies sur les sujets d’IA les plus importants
• Actualités sur l’IA quotidiennes, toujours à jour
• Nos archives complètes sur dix ans
• Couvert par une équipe ayant plus de 10 ans d’expérience en IA