Les modèles d'IA cachent des erreurs dans leurs propres rapports de travail, mais une phrase dans votre prompt peut aider

Les modèles d'IA cachent des erreurs dans leurs propres rapports de travail, mais une phrase dans votre prompt peut aider

Les modèles de langage qui rédigent leurs propres rapports de travail omettent systématiquement les problèmes qui minent les résultats. L'ajout d'une seule phrase au prompt réduit fortement le problème, selon une nouvelle étude.

Lorsque des agents d'IA codent ou mènent des expériences en autonomie, les gens vérifient rarement chaque détail et lisent plutôt le rapport final du modèle. Selon une étude de Google Research, du MIT et de Harvard, ces rapports sont souvent trompeurs.

Les chercheurs ont donné aux modèles 1,600 journaux de travail synthétiques qui ressemblent à première vue à des succès, avec des tests réussis, des résultats positifs et des coches vertes. Chaque journal contient un défaut qui change toute la donne, comme une expérience où la nouvelle méthode ne surpasse en réalité pas la concurrence. D'autres journaux incluent un bug caché malgré des tests réussis, des mesures fabriquées, une tâche qui ne s'est jamais terminée, ou une mise à jour logicielle qui casse discrètement le travail d'un autre utilisateur. Selon le scénario, les modèles devaient rédiger un rapport, un abstract de papier, un tableau de résultats, un court essai ou une réponse de suivi basée sur le journal.

Une phrase dans le prompt aide beaucoup, mais pas toujours

Le schéma apparaît le plus clairement dans les abstracts de papiers pour des expériences où un résultat mine l'amélioration revendiquée d'une nouvelle méthode. GPT-5.5 mentionne ce résultat dans seulement 2 abstracts sur 200. Les chercheurs ont également testé si un simple ajout au prompt faisait une différence. Lorsqu'ils ont ajouté "Be honest in your response", GPT-5.5 a signalé le résultat négatif dans 190 abstracts sur 200.

Tous les modèles testés présentent ce comportement, mais à des degrés divers. Sans le prompt d'honnêteté, Gemini 3.1 Pro signale des erreurs dans au plus 34 pour cent des cas, tandis qu' Opus 4.8 le fait dans plus de 90 pour cent. Le prompt d'honnêteté augmente le taux d'environ 55 points de pourcentage en moyenne pour Gemini et d'environ 34 pour GPT-5.5. Dans les tests de contrôle avec des journaux sans erreur, le prompt n'a presque pas augmenté les fausses alertes.

La phrase n'est pas une panacée, cependant. Dans un scénario, une requête de base de données n'a pas encore renvoyé de résultats, et GPT-5.5 avec le prompt d'honnêteté note presque toujours l'absence de données mais répond quand même à la question en utilisant des informations plus anciennes et incomplètes. Des prompts comme "Be critical", "Be thorough" ou "Be skeptical" ont fonctionné de manière moins fiable que la demande d'honnêteté.

Les modèles repèrent les erreurs mais choisissent de ne pas les signaler

Lorsqu'on les interroge directement, GPT-5.5 et Opus 4.8 trouvent les erreurs dans chaque cas, et Gemini en repère au moins 97 pour cent. Selon les chercheurs, il ne s'agit pas d'un manque de capacité mais de volonté.

Les traces de raisonnement de modèles à poids ouverts révèlent ce qui se passe. Les modèles remarquent souvent le problème tôt, puis pèsent s'ils doivent le signaler ou sembler mener la tâche à bien. Qwen3.5-9B a été invité à soutenir une thèse sur le droit de zonage à partir d'un passage sur les cellules de couleur chez le calmar. Le modèle note qu'il ne peut pas le faire "sans recourir à des métaphores absurdes", mais décide qu'il doit suivre les instructions aussi fidèlement que possible.

Dans ce scénario de preuves incompatibles, des phrases comme "I must complete the task" apparaissent dans 55 pour cent des réponses qui cachent l'erreur, mais dans seulement 27 pour cent de celles qui la signalent. Les modèles justifient les omissions par des excuses typiques : les tests ont réussi, ils ne font que résumer, ou un abstract doit mettre en avant les points positifs.

L'honnêteté et le besoin de réussir tirent dans des directions opposées

Dans une étude de cas sur Qwen3.5-9B, les chercheurs ont trouvé des preuves que l'honnêteté et la recherche de succès sont représentées comme des directions presque opposées à l'intérieur du modèle. Lorsqu'ils ont amplifié la direction de l'honnêteté, le modèle a signalé des mesures fabriquées dans 42 cas sur 50. Lorsqu'ils ont poussé dans le sens opposé, il a inventé des chiffres et des formules supplémentaires pour feindre la crédibilité. L'intervention n'était toutefois pas précise, car le modèle est devenu généralement suspicieux et a signalé des données prétendument fabriquées dans 41 pour cent des journaux sans erreur également.

L'entraînement a mieux fonctionné. Les chercheurs ont affiné Qwen3.5-9B sur ses propres réponses suscitées par des invites d'honnêteté. Après cela, le modèle a signalé des données fabriquées dans 48 pour cent des cas au lieu de 2 pour cent, même sans la phrase supplémentaire, et les journaux de contrôle sans erreur n'ont produit aucune fausse alerte. L'effet s'est en partie transféré à d'autres types d'erreurs, le modèle signalant des résultats négatifs dissimulés dans 69 pour cent des cas au lieu de 24 pour cent.

L'étude a des limites, car les journaux sont synthétiques et conçus pour provoquer le comportement, et l'analyse interne ne porte que sur un seul modèle à poids ouverts dans un scénario essentiellement unique.

Les chercheurs voient néanmoins un risque sérieux, en particulier lorsque des modèles d'IA surveillent d'autres agents ou résument leur propre travail pour des étapes ultérieures. Dans l'étude, les modèles étaient facilement influencés par des notes d'autocongratulation dans les journaux, comme des affirmations sur l'établissement d'un nouvel état de l'art en matière de benchmark. Un système de surveillance réticent à signaler les problèmes va à l'encontre de son propre objectif. Les chercheurs appellent à davantage de travaux sur l'entraînement des modèles de langage à être des rapporteurs honnêtes. L'incident de Hugging Face d'OpenAI était en partie causé par des systèmes agentiques qui se poussaient mutuellement vers un mauvais comportement.

Les différences entre les modèles correspondent aux mesures antérieures. Anthropic a déclaré au lancement de Claude Opus 4.8 que le modèle laisse passer des bugs dans son propre code sans commentaire environ quatre fois moins souvent que son prédécesseur. GPT-5.5 n'a contesté qu'environ 45 pour cent des questions logiquement impossibles dans BullshitBench.

Il existe déjà des approches pour des rapports plus honnêtes. OpenAI a entraîné une version de GPT-5 Thinking à admettre ses propres violations de règles dans un rapport séparé et n'a récompensé que l'honnêteté au cours de ce processus. Anthropic utilise des Persona Vectors pour détecter et orienter des traits comme la servilité à l'intérieur du modèle, et a montré que les modèles qui trichent pour obtenir des récompenses pendant l'entraînement apprennent aussi spontanément à tromper et à sabrer leur propre supervision.

Actualités sur l'IA sans le battage – Sélectionné par des humains

Abonnez-vous à THE DECODER pour une lecture sans publicité, une newsletter hebdomadaire sur l'IA, notre rapport exclusif « AI Radar » sur la frontière six fois par an, un accès complet aux archives et l'accès à notre section de commentaires.

Lisez la suite pour avoir le tableau complet.
Abonnez-vous pour une couverture sans battage.

• Accès complet à chaque article de THE DECODER
• Aucune publicité
• Rejoignez les commentaires et les discussions de la communauté
• Un récapitulatif hebdomadaire des actualités IA par e-mail
• 6x/an : « AI Radar » — analyses approfondies des sujets IA qui comptent le plus
• Actualités IA quotidiennes, toujours à jour
• Nos archives complètes de dix ans
• Couvert par une équipe forte de plus de 10 ans d'expérience en IA