Le processus d'entraînement des grands modèles apparaît de plus en plus dans le regard du public.
Auparavant, Luo Fuli, responsable de MiMo chez Xiaomi, a rendu publics les progrès de l'entraînement de MiMo-V2.6 dans la phase d'apprentissage par renforcement, permettant à l'extérieur d'apercevoir certains détails concrets de l'entraînement des grands modèles.
Désormais, le domaine de la Physical AI connaît une initiative similaire.
Le 21 octobre, l'équipe des modèles mondiaux de Shengshu Technology a officiellement lancé la diffusion en direct publique de l'intégralité du processus d'entraînement de Motubrain 2.0, prévue pour durer une demi-durée de quinze jours, afin de montrer au public le processus d'entraînement et les avancées de recherche du modèle incarné.
Ce direct se concentre sur une question : comment la Physical AI se réalise-t-elle concrètement ?
La Physical AI, c'est-à-dire l'intelligence artificielle physique, vise à permettre à l'IA de comprendre l'environnement physique et d'accomplir des tâches réelles via des robots. Par rapport aux grands modèles de langage, la Physical AI doit également résoudre des problèmes tels que la prise de décision motrice, l'exécution des tâches et la généralisation inter-scènes.
La série Motubrain est un modèle incarné développé par Shengshu Technology, qui s'efforce de construire pour les robots un « cerveau » doté de capacités générales et d'explorer la généralisation des capacités entre différentes tâches, scènes et corps de robots.
Motubrain 2.0 sera bientôt open source. Avant l'ouverture officielle du code source, l'équipe a choisi de rendre public en premier l'intégralité de son processus d'entraînement, afin de montrer à l'extérieur le parcours de ce modèle, de l'entraînement aux tests et à l'itération des capacités.
Cet entraînement public couvre quatre étapes :
1. Pré-entraînement : observer l'influence de l'échelle d'entraînement sur les performances du modèle et sa capacité de généralisation zéro shot.
2. Post-entraînement : entraînement supplémentaire sur des tâches spécifiques pour améliorer la capacité d'exécution des tâches.
3. Exécution de tâches par l'Agent : explorer si le modèle peut transférer l'expérience acquise à d'autres tâches.
4. Exploration du RSI (amélioration récursive de soi) : étudier si le modèle peut évaluer et améliorer ses propres actions en fonction des retours d'exécution.
La particularité de ce direct réside dans la tentative d'ouvrir la « boîte noire » de l'entraînement des modèles incarnés.
Par le passé, l'extérieur se renseignait sur les avancées de l'intelligence incarnée principalement via des démos de robots, des résultats d'évaluation et des articles scientifiques. Quel entraînement a suivi un modèle, comment les capacités ont évolué à différentes étapes : cela restait généralement difficile à observer directement.
Motubrain 2.0 a choisi de rendre public l'ensemble du parcours, de l'entraînement aux tests et à l'itération des capacités, espérant montrer à l'extérieur comment le modèle forme progressivement ses capacités, mais aussi les échecs, les essais-erreurs et les ajustements survenus pendant l'entraînement.
Pour l'industrie de l'intelligence incarnée, cette approche rend le processus de développement des modèles plus transparent. Les chercheurs et les développeurs peuvent non seulement voir le résultat final, mais aussi comprendre les problèmes concrets rencontrés pendant l'entraînement, ainsi que la manière dont l'équipe améliore continuellement le modèle grâce aux expériences et aux retours.
Parallèlement, l'équipe espère également, à travers ce direct, partager avec ses pairs techniques les expériences, les problèmes et les réflexions issus de la recherche, examiner ensemble des questions clés telles que l'entraînement à grande échelle, la généralisation inter-tâches et l'amélioration autonome, afin d'apporter davantage de références pour l'exploration du paradigme de réalisation de la Physical AI.
Bien entendu, ces recherches en sont encore au stade de l'exploration, et les effets concrets devront être vérifiés par des expériences et des évaluations ultérieures. Plutôt que de montrer uniquement ce que le robot peut finalement faire, rendre public comment le modèle est entraîné et comment ses capacités se forment présente également une valeur de recherche.
Accès au direct : www.motubrain.com/motubrain2.0-live
Lien du site officiel : www.motubrain.com