Jay, depuis 凹非寺
Quantum Bit | compte public QbitAI
La nouvelle avancée de Google en RSI est désormais open-source.
Elle s'appelleHarness²et permet aux grands modèles, pendant leur exécution, de se modifier eux-mêmes leur code d'extension, leurs prompts système, leur chaîne d'outils et leur bibliothèque de compétences.
Oui, du RSI au niveau du Harness.
Les résultats sont aussi très impressionnants.
Équipé de ce GLM-5 spécialisé en RSI, le score sur le benchmark bureautique WorkBuddy-Bench a directement grimpé de11,5 points——
dépensant instantanément le Gemini 3.5 Flash natif.
Bref, c'est un cheat totalement délirant : n'importe quel modèle qui l'enfile voit son score décoller direct.
À ce jour, le projet est entièrement open-source et prend déjà en charge OpenCode et Codex.
Pourquoi « se modifier soi-même » échoue-t-il si souvent
Par le passé, l'industrie a mis en œuvre pas mal de récursion d'auto-amélioration (Recursive Self-Improvement, ou RSI) pour rendre les Agents plus intelligents.
L'idée semblait belle : laisser l'IA écrire son propre code, modifier ses propres prompts, optimiser son propre système. Mais dès qu'on la plonge dans le monde ouvert réel, c'est presque un échec total.
Pourquoi ?
Le blocage se situe principalement sur deux points fatal :
Pas de réponse standard.
En laboratoire, on résout des exercices avec des tests unitaires et une Ground Truth qui vous dit si c'est juste. Mais dans un vrai contexte de travail, rédiger un dossier de projet commercial, réviser un contrat juridique : en ligne, personne ne vous note.
Quand l'IA modifie elle-même une version de son Prompt, comment sait-elle si après modification elle est devenue plus intelligente ou si elle divague ?
Surapprentissage sur une tâche unique.
Après avoir peiné à modifier tout le scaffold pour réparer une tâche donnée, la tâche suivante devient l'écriture d'un crawler, et toutes les règles modifiées auparavant deviennent un boulet.
En appliquant directement le scaffold modifié à la tâche suivante, le système tombe vite dans une spirale de bruit, devenant plus bête à chaque modification.
Harness², que l'équipe de Google propose cette fois-ci, s'attaque précisément à ces deux points fatal.
Ils ont mis en place unearchitecture récursive à deux niveaux。
Récursion à deux niveaux : la main gauche fait des expériences, la main droite prend des notes
Le « carré » dans le nom Harness² désigne précisément deux boucles récursives imbriquées l'une dans l'autre :récursion au niveau des tâches(Task-level) etrécursion au niveau du harnais(Harnessing-level).
Premier niveau :la récursion au niveau des tâches : réaliser des expériences de contrôle en l'absence de réponse standard.
Face à cette nouvelle tâche, le système commence par exécuter une trajectoire de référence à l'aide du harnais initial. On ne s'occupe pas d'abord de savoir si cette version est correcte : l'essentiel est d'observer quels défauts le modèle révèle au cours de l'exécution.
Immédiatement après, il lance un mécanisme appeléPropose–Probe–Compose (proposer–sonder–composer) :
Propose (proposer)：
un rôle d'éditeur dédié propose deux ensembles de modifications à propos de la trajectoire venant d'être produite.
L'un est le « correctif universel des défauts » (Invariant), qui cible les problèmes généraux transversaux aux domaines, comme une planification confuse, des boucles infinies d'appels d'outils, une explosion du contexte ;
L'autre est le « correctif spécifique au domaine » (Domain), qui cible précisément les connaissances et contraintes spécifiques à l'activité en cours.
Probe (détection)：
On remet ces deux échafaudages candidats modifiés dans la même tâche et on les exécute chacun une fois.
Pas besoin d'arbitre : le système capture leurs traces d'exécution et les compare comportementalement à la trace de référence (Behavioral Contrast). Il vérifie si la modification a réellement résolu l'étape bloquée, et si elle n'a pas engendré de nouvelle régression logique.
Compose (synthèse)：
Le synthétiseur rassemble toutes les preuves d'exécution, sélectionne les modifications réellement validées par des preuves comportementales, et les fusionne dans l'échafaudage d'exécution final.
Ce n'est pas tout. Il prend aussi en charge l'extension parallèle (Parallel Recursion), déployant en une fois $k$ solutions candidates en détection concurrente, afin de synthétiser la meilleure dans un espace d'exploration plus large.
Bluffant.
Deuxième niveau, larécursion d'amélioration : capitaliser l'expérience de modification des échafaudages en une méta-capacité.
La tâche en cours terminée, les livrables remis, le cycle de vie de nombreux systèmes s'arrête là.
Mais ce qui rend vraiment Harness² redoutable, c'est ce qui suit —
on confie l'intégralité du journal de débogage (trace de référence, modifications candidates, preuves comparatives, décisions de synthèse) au module de réflexion (Experience Reflector).
Après son analyse rétrospective, le module de réflexion rédige un EXPERIENCE.md, consignant noir sur blanc pourquoi la modification a été faite ainsi, dans quelles conditions elle a fonctionné, et quelles conséquences elle a entraînées, dans labibliothèque d'expérience d'amélioration continue(Harness Improvement Library).
Lorsqu'une nouvelle tâche arrive :
côté exécution, on reçoit toujours un échafaudage de base parfaitement propre.
Mais ce « cerveau d'amélioration » chargé de modifier les échafaudages dispose déjà d'un épais manuel d'expérience historique. Aux phases de proposition et de synthèse, il peut directement rechercher les composants efficaces et les guides d'évitement des pièges issus de scénarios similaires passés.
Ce qui s'améliore, ce n'est pas seulement l'échafaudage du moment, mais la capacité future à améliorer les échafaudages.
Cela transforme le correctif ponctuel d'une tâche unique en un actif cognitif d'apprentissage continu.
Benchmarks en conditions réelles
Aussi élégant que soit le mécanisme, seules les données du terrain font foi.
L'équipe s'est directement frottée à trois benchmarks professionnels particulièrement exigeants :
WorkBuddy-Bench: couvrant trois flux de travail bureautiques très difficiles — code (Code), web (Web), suite bureautique (Office) ;
JobBench: des tâches professionnelles complexes, de bout en bout et de longue haleine ;
LAB: le benchmark de référence des agents juridiques open source de Harvey.
Le modèle de base choisi estGemini 3.5 FlashetGLM-5, le scaffold d'exécution retenu parmi les principaux open source estOpenCodeetCodex。
Les résultats sont proprement stupéfiants.
Dans le test WorkBuddy-Bench, avec une seule étape d'amélioration Harness² ($k=1$) :
GLM-5 sous OpenCode voit son score global passer de 64.2 à 75.7, un bond de 11.5 points; sous Codex, il passe aussi de 64.4 à 75.3.
Gemini 3.5 Flashpasse de 72.4 à 77.5 sous OpenCode, et de 74.5 à 77.5 sous Codex.
Regardez ces données :
le GLM-5 avec scaffold optimisé (75.7 points / 75.3 points),écrase carrément le Gemini 3.5 Flash d'origine sans scaffold modifié (72.4 points / 74.5 points)。
Sur JobBench, un benchmark de tâches professionnelles de bout en bout, l'amélioration en une seule étape apporte également une progression globale, Gemini 3.5 Flash a gagné4.5 points, le GLM-5 a augmenténote de 3.6；sur la référence juridique LAB, le taux de réussite de GLM-5 a été directement relevé11.8 points de pourcentage。
Si l'on porte le budget parallèle à $k=5$ (5 candidats concurrents), les performances augmentent encore davantage : WorkBuddy-Bench gagne jusqu'à 5 points supplémentaires.note de 3.9, JobBench monte encore en flèchenote de 4.2, le taux de réussite au LAB augmente encore6.7 points de pourcentage。
Encore plus remarquable : le test de transfert interdomaine de la base d'expérience.
L'équipe a directement repris la base d'expériences accumulée en exécutant des tâches sur JobBench pour l'appliquer telle quelle à WorkBuddy-Bench, apportant sans aucune exploration supplémentaire un gain sans effort de +0.6 en code, +0.5 en web et +2.9 en bureautique.
Au cours des deux dernières années, les attentes placées dans l'IA ont été presque entièrement misesées sur le « Scaling des modèles de fondation », avec l'idée qu'il suffisait d'attendre la prochaine génération de GPT, la prochaine génération de Gemini, pour que les problèmes applicatifs se résolvent d'eux-mêmes.
Mais la réalité a jeté un seau d'eau froide sur tous les professionnels du secteur : les modèles de base sont de plus en plus chers, les bénéfices marginaux ralentissent, et les bugs de la longue traîne dans les scénarios de déploiement restent innombrables.
Peu importe la taille de la fenêtre de contexte que vous donnez au modèle, il continuera à bâcler le travail lors du rapprochement entre fichiers ; peu importe son score élevé aux benchmarks, après avoir rédigé un rapport, il n'ouvrira pas spontanément le fichier pour vérifier le format.
Ces choses-là, les paramètres de pré-entraînement ne pourront jamais les rassasier.
Ce dont il a besoin, c'est d'un ensemble capable de s'auto-percevoir, de s'auto-réparer et d'évoluer continuellement en cours d'exécution : l'Runtime认知工程。
Avant, lorsque nous construisions des échafaudages, des ingénieurs restaient assis devant leur ordinateur à écrire des Prompt à la main un par un, à configurer des outils et à réparer les pipelines, s'épuisant au travail tout en laissant des failles partout.
Aujourd'hui, Harness² démontre une nouvelle voie :
rendre aux Agent eux-mêmes le pouvoir de définir les règles.
Les auteurs de l'article
Enfin, comme d'habitude, parlons des auteurs de l'article.
Ils sont au total 9, et la proportion de Chinois y est extrêmement élevée, atteignant 78 %...
L'espace de l'article étant limité, nous en présenterons ici trois dans l'ordre.
Ruiyao Xu, premier auteur et auteur correspondant de l'article.
Doctorant au département de statistiques et de science des données de l'Université Northwestern aux États-Unis, sous la direction de Kaize Ding.
Ses axes de recherche principaux incluent les grands modèles de langage, l'apprentissage automatique sur graphes, la détection d'anomalies et les systèmes d'AI Agent.
Cet article est le fruit de son travail effectué lors de son stage chez Google.
Yanfei Chen, ingénieur de recherche senior chez Google Cloud AI Research.
Diplômé de l'université de Pékin avec une licence, major en génie électrique et économie, il a obtenu en 2018 un doctorat en génie industriel de l'université de Pittsburgh aux États-Unis.
Il a ensuite travaillé comme ingénieur de recherche chez Qeexo, une entreprise de machine learning, avant de rejoindre Google en 2020, où il a participé à des projets tels que Vertex AI Search et Gemini Enterprise Deep Research, ses recherches portant principalement sur les grands modèles de langage agents, la génération augmentée par la recherche et l'apprentissage d'outils.
Zhongying CuiZhu, également appelée Zoey CuiZhu, ingénieure de recherche chez Google Cloud AI Research.
Elle a obtenu en 2019 un doctorat en génie électrique de l'université Stanford, et ses recherches portent principalement sur les agents généraux, les agents vérifiables et l'évaluation de la qualité des agents.
Lien de référence :
[1] https://arxiv.org/html/2610.14224v1