Google indique que l’IA auto-améliorante n’est pas loin de rien.

Google affirme que l’IA auto-améliorée n’est pas près d’être réalisée

Le ingénieur de Google, Haydn Belfield, dit que l’IA auto-améliorée est encore très loin d’être réalisée, même si une automatisation significative est déjà en cours.

Selon Belfield, Google Deepmind n’a pas constaté d’accélération mesurable de la recherche en intelligence artificielle drivée par l’intelligence artificielle elle-même. Cela ne signifie pas que l’automatisation significative n’est pas en cours : l’intelligence artificielle écrit aujourd’hui plus de 75 % du code de production. Mais environ 88 % des modifications de code nécessitent encore une supervision ou une revue humaine, et chaque modification est vérifiée par un humain avant d’être soumise, selon Belfield. La part des modifications de code entièrement confiées à l’intelligence artificielle est passée de 7,5 % à 11,9 %.

Plus une tâche est complexe et chronophage, moins l’IA est en mesure de la gérer seule. Lors de 1 389 exécutions internes d’agents Argon, le taux de succès sans intervention humaine a fortement diminué à mesure que la complexité augmentait. Les humains restent essentiels pour la recherche créative, la conception d’expériences novatrices, le diagnostic des instabilités de formation subtiles et la planification à long terme, a déclaré Belfield. Une enquête menée auprès de douze chercheurs senior de Deepmind a confirmé ce phénomène : l’automatisation est la plus élevée pour les tâches bien définies et vérifiables, et la plus faible pour l’idéation scientifique ouverte.

Sur le benchmark interne de Deepmind, RE-Bench, qui comprend 74 tâches réalistes de génie informatique en machine learning, Argon résout environ la moitié d’entre elles. C’est une progression importante par rapport à Gemini 3.7 Flash, avec un taux de 27 %, mais cela reste loin du niveau de performance presque parfaite que nécessiterait une automatisation complète.

L’indice de capacité de Google montre aucune amélioration en termes de rapidité dans la recherche en intelligence artificielle

Pour suivre le progrès de manière systématique, l’équipe a créé un Indice de Capacité Générale (GCI) couvrant 123 modèles et 92 critères de mesure. Les capacités du modèle Gemini augmentent à un rythme constant d’environ 0,1 point d’Indice de Capacité par mois, sans changement significatif dans la vitesse d’augmentation. L’équipe attribue l’état du modèle Gemini 4 Argon, situé légèrement au-dessus de la ligne de tendance, à davantage d’investissements en calcul et en organisation plutôt qu’à une accélération drivée par l’IA.

L’équipe évalue actuellement le risque lié à l’automatisation de la recherche guidée par l’IA comme faible, mais elle construit actuellement l’infrastructure de mesure afin de suivre les signes d’accélération à l’avenir.

Les découvertes de Belfield correspondent à une recherche récente, mais tous les experts du domaine ne sont pas d’accord. Plus de 20 chercheurs en IA, incluant Geoffrey Hinton, Yoshua Bengio et Jakub Pachocki de OpenAI, ont récemment averti d’une possible “explosion de l’intelligence” dans un article de recherche. Ils ont affirmé que les systèmes d’IA pourraient automatiser toute la recherche et le développement en IA dans quelques années, compressant ce qui normalement nécessiterait des années de progrès en seulement quelques mois.

Nouvelles en IA sans hype – sélectionnées par des humains

Inscrivez-vous à THE DECODER pour une lecture sans publicités, un bulletin informatif sur l’IA semestriel, notre rapport exclusif « AI Radar » six fois par an, un accès complet à l’archive, et la possibilité d’accéder à notre section de commentaires.