Artificial Analysis ArticlesMis à jour le

Bienvenue dans l'ère de l'IA incarnée : présentation de AA-Robotics v0.1

Artificial AnalysisTous les articles 14 octobre 2026Bienvenue dans l'ère de l'IA incarnée : présentation de AA-Robotics v0.1 Nous lançons AA-Robotics v0.1, notre aperçu de recherche qui mesure les per

Source de l’image · Artificial Analysis Articles
Artificial Analysis

Tous les articles

14 octobre 2026

Bienvenue dans l'ère de l'IA incarnée : présentation de AA-Robotics v0.1

Nous lançons AA-Robotics v0.1, notre aperçu de recherche qui mesure les performances des modèles de langage de pointe en matière de compréhension, de planification et d'action dans le monde physique. Dans la v0.1, chaque modèle reçoit le contrôle d'un bras robotisé à 6 axes (5 articulations et une pince) ainsi qu'un objectif simple. Nous publions aujourd'hui les résultats de nos huit premières tâches.

AA-Robotics v0.1

Présentation de AA-Robotics v0.1

Depuis le début de l'année 2026, les modèles de langage de pointe ont réalisé d'énormes progrès dans leur capacité à contrôler des bras robotisés. Nous pensons désormais que l'avenir de la robotique impliquera probablement des agents généralistes puissants, et nous concluons que suivre les progrès des modèles de langage pour les tâches robotiques sera important — même si les modèles de langage de pointe ne sont pas, à eux seuls, adaptés à un usage robotique en production.

AA-Robotics v0.1 est notre aperçu de recherche de la plus simple des expériences que nous avons conçues pour tester cela : des modèles de langage dans des environnements d'agents de codage contrôlant directement un bras robotisé. Chaque modèle reçoit le contrôle d'un bras robotisé à 6 axes (5 articulations et une pince) ainsi qu'un objectif simple pour chaque tâche.

Nous constatons que les modèles de langage de pointe dans des environnements d'agents de codage sont récemment devenus capables de manipuler directement des bras robotisés pour des tâches simples. Aujourd'hui, ils sont bien trop lents et coûteux pour tout usage en production — près de deux ordres de grandeur moins performants que les références humaines. Nous nous attendons à ce que cela change rapidement.

GPT-6 Astra se classe premier dans AA-Robotics v0.1 avec un score de 69, suivi de GPT-6.1 Sol, Gemini 4 Argon, Claude Opus 5.5 et Claude Fable 5.1. GPT-6 Astra a pris 30 minutes et coûté 16,36 $ en moyenne par tâche.

Score AA-Robotics

Score moyen par tâche (0 à 100) · Toutes les tâches

Chaque tentative est notée sur 100 : compléter la tâche rapporte 100 points, et un résultat partiel rapporte des points en fonction des progrès accomplis.

Les huit tâches

AA-Robotics v0.1 comprend initialement huit tâches sur table, inspirées d'activités quotidiennes, afin d'évaluer un éventail de capacités robotiques : le contrôle et la dextérité, comme la préhension et la manipulation précises d'objets, le raisonnement spatial, comme la compréhension des interactions entre objets, et l'adaptabilité, qui mesure la façon dont les modèles réagissent à l'imprévu.

Résultats

Résultats par tâche

  • Score complet (100)
  • Partiel (1 à 99)
  • Zéro (0)
TâcheGPT-6 AstraGPT-6.1 SolGemini 4 ArgonClaude Opus 5.5Claude Fable 5.1
Appuyez sur le bouton rougeScore parfait, 100 sur 100Score parfait, 100 sur 100Score parfait, 100 sur 100Score parfait, 100 sur 100Score parfait, 100 sur 100
Placez le jouet crocodile dans le rectangleScore parfait, 100 sur 100Score parfait, 100 sur 100Score parfait, 100 sur 100Score parfait, 100 sur 100Score parfait, 100 sur 100
Versez la boisson dans la tasseScore parfait, 100 sur 100Zéro, 0 sur 100Score parfait, 100 sur 100Partiel, 25 sur 100Partiel, 30 sur 100
Rangez les blocs dans la boîtePartiel, 40 sur 100Score parfait, 100 sur 100Partiel, 40 sur 100Partiel, 40 sur 100Partiel, 40 sur 100
Relevez le défi d'association de formesPartiel, 44 sur 100Score parfait, 100 sur 100Zéro, 0 sur 100Partiel, 38 sur 100Score parfait, 100 sur 100
Écrire hello worldScore parfait, 100 sur 100Score parfait, 100 sur 100Partiel, 45 sur 100Partiel, 45 sur 100Zéro, 0 sur 100
Construire la tour la plus hautePartiel, 71 sur 100Zéro, 0 sur 100Partiel, 57 sur 100Partiel, 25 sur 100Zéro, 0 sur 100
Mesurer la boîteZéro, 0 sur 100Partiel, 17 sur 100Zéro, 0 sur 100Partiel, 17 sur 100Zéro, 0 sur 100
Score AA-Robotics69.464.655.348.846.3

Chaque tentative est notée sur 100 : accomplir la tâche rapporte 100, et un résultat partiel donne des points selon la progression réalisée.

Les modèles GPT fonctionnent dans Codex, les modèles Claude dans Claude Code, et Gemini 4 Argon dans Antigravity, tous au niveau d'effort élevé.

Tâche

Modèle

Appuyer sur le bouton avec la pince.

Score parfait en 2:12

0:00 / 0:00Mouvement uniquement

Fonctionnement d'AA-Robotics

Les modèles s'exécutent dans un conteneur isolé avec de brèves instructions : comment accéder au bras robotisé (via une simple API HTTP), quel bras ils utilisent (un Hiwonder NexArm, sans autres précisions), et comment soumettre une tentative comme terminée. Ils peuvent observer la scène via quatre caméras, trois montées autour de la table et une sur le poignet du bras, et peuvent écrire et exécuter du code dans le conteneur pour planifier et envoyer des mouvements.

Une fois qu'un modèle a soumis une tâche pour évaluation, l'état final est noté selon les critères de réussite de la tâche. Une réussite rapporte 100, avec des points attribués pour une réussite partielle dans le cas d'une tâche incomplète. Toutes les tentatives sont en zero-shot.

Temps et coût

Aujourd'hui, les modèles de langage sont environ 100 fois plus lents qu'un humain sur AA-Robotics v0.1, mettant environ une demi-heure par tâche contre une moyenne humaine de 20 secondes. Dans l'ensemble, quatre des cinq modèles testés se ressemblent, à environ 30 minutes par tâche, tandis que Gemini 4 Argon est le plus lent à 52 minutes. Cependant, ces moyennes masquent de grandes différences entre les tâches.

GPT-6 Astra a appuyé sur le bouton rouge en 2,2 minutes, tandis que Claude Fable 5.1 a passé environ dix minutes à comprendre et à planifier avant sa première action. La plus grande différence est apparue sur la tâche de placement du crocodile, où GPT-6.1 Sol s'est déclaré terminé après cinq minutes, contre 45 pour Claude Opus 5.5, soit une différence d'un facteur neuf. Sur l'ensemble des tâches, Gemini 4 Argon a été le plus lent à agir, passant en moyenne 21 minutes à observer et à raisonner avant sa première action, soit près de deux fois plus longtemps que tout autre modèle.

Temps par tâche

Temps moyen par tâche (minutes) · Toutes les tâches

Score AA-Robotics vs. Temps par tâche

Temps moyen par tâche (minutes) · Toutes les tâchesQuadrant le plus attractifFrontière de Pareto des modèles

L'écart entre les humains et les modèles est plus étroit en ce qui concerne le coût : le modèle le plus rentable coûte environ dix fois plus cher qu'une personne payée au salaire horaire moyen américain, contre près de 100 fois plus de temps. Entre les modèles, GPT-6.1 Sol est le moins cher, à 1,93 $ par tâche en moyenne, tandis que GPT-6 Astra, le plus cher, coûte 16,36 $, soit plus de huit fois le prix de Sol, pour un score supérieur de seulement quatre points (69 contre 65). Compte tenu de la nouveauté du bras et de la scène, et du volume important d'informations visuelles que les modèles doivent traiter, l'essentiel du coût porte sur l'entrée : 70 % des dépenses concernent le contexte.

Coût par tâche

Coût moyen par tâche (USD) · Toutes les tâches

Score AA-Robotics vs. Coût par tâche

Coût moyen par tâche (USD) · Toutes les tâchesQuadrant le plus attractifFrontière de Pareto des modèles

Le coût humain est le temps de tâche effectué à la main valorisé à 37,81 $ de l'heure, le revenu horaire moyen de tous les employés des salaires privés non agricoles aux États-Unis (US Bureau of Labor Statistics, données préliminaires pour septembre 2026).

Comment chaque modèle a utilisé son temps

Comme prévu, les modèles consacrent une grande partie du temps initial de la tâche à calibrer le bras et à comprendre la scène, poursuivant cela jusqu'à la première action. Après ce point, la majorité du temps est consacrée à la planification des mouvements, avec des mouvements du bras relativement courts et précis entre chaque étape de planification plus longue. Les vues des caméras et la rédaction de notes représentent des fractions relativement faibles du temps total.

Fait intéressant, les modèles continuent souvent à affiner leurs tentatives longtemps après avoir atteint un état de réussite. GPT-6.1 Sol, par exemple, construit une tour réussie après environ 17 minutes, pour ensuite échouer à la tâche. Reste à savoir comment les modèles amélioreront leur capacité à raisonner sur l'accomplissement des tâches dans l'espace physique.

Répartition du temps de tentative par activité

Part du temps de tentative (%) · Toutes les tâches
  • Compréhension de la scène, du bras et des mouvements
  • Planification des mouvements
  • Examen des caméras
  • Bras en mouvement
  • Autre
Gemini 4 Argon42%45%6%6%419 minClaude Fable 5.133%37%9%18%249 minClaude Opus 5.521%45%9%23%253 minGPT-6 Astra20%59%6%13%242 minGPT-6.1 Sol17%61%6%13%224 min

« Autre » couvre l'attente de code en cours d'exécution, la rédaction de notes et le rapport final.

Le temps de réflexion et d'outils de chaque étape est attribué à une activité en fonction de son code, de ses images et de ses messages ; le mouvement du bras correspond au temps pendant lequel le bras exécutait une commande.

Les temps d'activité de Gemini 4 Argon sont estimés : Antigravity n'horodate pas chaque étape, donc les étapes sont placées entre les commandes du bras, qui sont chronométrées exactement, au prorata de leurs tokens.

Activité au fil de chaque exécution

Minutes écoulées dans l'exécutionTâche

0:00 écoulé0 sur 5 terminées

  • Compréhension de la scène, du bras et des mouvements
  • Planification des mouvements
  • Examen des caméras
  • Bras en mouvement
  • Autre
  • Première action
  • Premier état de réussite atteint
  • Erreur irrécupérable

« Autre » couvre l'attente de l'exécution du code, la prise de notes et le rapport final.

La première action est le premier appui, la première saisie, la première poussée, le premier versement ou le premier trait de stylo d'une exécution.

Une erreur irrécupérable signifie que le modèle ne peut plus atteindre la note maximale.

Les temps d'activité de Gemini 4 Argon sont estimés : Antigravity n'horodate pas chaque étape, de sorte que les étapes sont placées entre les commandes du bras, qui sont chronométrées exactement, au prorata de leurs tokens.

Précision physique

La saisie et la manipulation fine étaient des compétences clés à tester dans AA-Robotics v0.1, car elles ouvrent la voie non seulement à des tâches de contrôle plus précises, mais plus important encore, à l'utilisation d'outils et à l'éventail bien plus vaste de capacités qu'elle débloque.

GPT-6 Astra et Claude Fable 5.1 ont obtenu les meilleurs résultats avec la plus forte proportion de tentatives réussies (~45 %), indiquant un certain degré de contrôle de précision, tandis que GPT-6.1 Sol a obtenu le pire score, à 28 %. Gemini 4 Argon se situait entre les deux à 36 %, avec beaucoup de ses échecs se refermant juste au-dessus ou à côté du bloc vers lequel il tendait.

Résultat de chaque tentative de saisie

Part des tentatives de saisie (%) · 6 tâches impliquant une saisie
  • Saisie réussie
  • Saisie manquée, partielle ou du mauvais objet
GPT-6 Astra45%55%n = 95Claude Fable 5.144%56%n = 89Claude Opus 5.540%60%n = 100Gemini 4 Argon36%64%n = 75GPT-6.1 Sol28%72%n = 111

Des saisies ont été tentées dans les tâches Place Crocodile, Pour Drink, Tidy Box, Match Shapes, Build Tower et Measure Box. Réussie est défini comme le fait de tenir l'objet visé pendant son soulèvement ou son transport, et manquée, partielle ou du mauvais objet lorsque la pince ne s'est pas refermée sur l'objet, s'est refermée dessus avant qu'il ne glisse, ne tombe ou ne puisse être soulevé, ou a pris un autre objet par erreur.

Mur d'erreurs

Survolez un clip pour voir ce qui s'est mal passé et cliquez sur un clip pour l'agrandir. Nous avons mis en évidence quelques-uns de nos exemples préférés !

Mauvaise évaluation du succès ou de l'échec — et du moment où s'arrêter

Raisonnement physique médiocre

Saisies manquées, placements erronés et chutes

Lire les dernières actualités

Reflection a publié Beam, le premier lancement de modèle de l'entreprise

Le premier modèle de Reflection, Beam, obtient un score de 30 à l'Artificial Analysis Intelligence Index, le plaçant #2 parmi les modèles à poids ouverts américains

16 octobre 2026

Premiers résultats AA-AgentPerf pour NVIDIA Vera Rubin NVL72

NVIDIA Vera Rubin NVL72 offre jusqu'à ~5,7x le débit total par mégawatt de GB300 NVL72 sur AA-AgentPerf, avec les premiers résultats sur DeepSeek V4 Pro, DeepSeek V4.1 Flash, GLM-5.2 et Kimi K3.

15 octobre 2026

Premiers résultats AA-AgentPerf-Local pour un ordinateur portable NVIDIA RTX Spark N1X

Un ordinateur portable NVIDIA RTX Spark N1X termine notre charge de travail d'agent local sur Qwen3.8 27B en 18.7 minutes.

15 octobre 2026

Source originale

Artificial Analysis Articles

À propos du contenu

La publication originale et les droits appartiennent à la source.

Traduction automatique · Consultez l’original