Le processus d'entraînement des grands modèles commence à apparaître davantage dans le champ de vision du public.
Auparavant, Luo Fuli, responsable de Xiaomi MiMo, a rendu publics les progrès de l'entraînement de la phase d'apprentissage par renforcement de MiMo-V2.6, permettant au public de découvrir certains détails concrets de l'entraînement des grands modèles.
Aujourd'hui, le domaine de la Physical AI connaît une tentative similaire.
Le 21 octobre, l'équipe des modèles mondiaux de Shengshu Technology a officiellement lancé le direct public de l'intégralité du processus d'entraînement de Motubrain 2.0, prévu pour durer deux semaines, afin de montrer au public le processus d'entraînement et les avancées de recherche du modèle incarné.
Ce direct se concentre sur une question : comment la Physical AI se réalise-t-elle concrètement ?
La Physical AI, ou intelligence artificielle physique, vise à permettre à l'IA de comprendre l'environnement physique et d'accomplir des tâches réelles via des robots. Par rapport aux grands modèles de langage, la Physical AI doit également résoudre des problèmes tels que la prise de décision d'action, l'exécution de tâches et la généralisation inter-scénarios.
La série Motubrain est un modèle incarné développé par Shengshu Technology, dédié à construire un « cerveau » doté de capacités générales pour les robots, en explorant la généralisation des capacités entre différentes tâches, scénarios et plates-formes robotiques.
Motubrain 2.0 sera bientôt open source. Avant sa publication officielle en open source, l'équipe a choisi de rendre public en premier l'intégralité de son processus d'entraînement, afin de montrer au monde comment ce modèle évolue, de l'entraînement aux tests jusqu'à l'itération de ses capacités.
L'entraînement rendu public cette fois couvre quatre étapes :
1. Pré-entraînement : observer l'impact de l'échelle d'entraînement sur les performances du modèle et sa capacité de généralisation zéro-shot.
2. Post-entraînement : entraînement supplémentaire sur des tâches spécifiques pour améliorer la capacité d'exécution des tâches.
3. Exécution de tâches par l'Agent : explorer si le modèle peut transférer ses expériences acquises à d'autres tâches.
4. Exploration RSI (amélioration de soi récursive) : étudier si le modèle peut évaluer et améliorer ses propres actions en fonction du retour d'exécution.
La particularité de ce direct est de tenter d'ouvrir la « boîte noire » de l'entraînement des modèles incarnés.
Par le passé, le monde extérieur se renseignait sur les progrès de l'intelligence incarnée principalement à travers des démos de robots, des résultats d'évaluations et des articles scientifiques. Comment les modèles ont été entraînés et comment leurs capacités ont évolué à différentes étapes étaient généralement difficiles à observer directement.
Motubrain 2.0 a choisi de rendre public l'ensemble du processus, de l'entraînement aux tests jusqu'à l'itération des capacités, espérant permettre au monde extérieur de voir comment le modèle développe progressivement ses capacités, mais aussi d'observer les échecs, les essais-erreurs et les ajustements survenus pendant l'entraînement.
Pour l'industrie de l'intelligence incarnée, cette approche rend le processus de développement des modèles plus transparent. Les chercheurs et les développeurs peuvent non seulement voir le résultat final, mais aussi avoir l'occasion de comprendre les problèmes concrets rencontrés pendant l'entraînement, ainsi que la manière dont l'équipe améliore continuellement le modèle grâce aux expériences et aux retours.
Parallèlement, l'équipe espère également, à travers ce direct, partager avec ses pairs des expériences, des problèmes et des réflexions issues de la recherche, et explorer ensemble des questions clés telles que l'entraînement à grande échelle, la généralisation inter-tâches et l'amélioration autonome, afin d'offrir davantage de références pour l'exploration des paradigmes de réalisation de la Physical AI.
Bien entendu, les recherches concernées en sont encore au stade de l'exploration, et les effets concrets devront être validés par des expériences et des évaluations ultérieures. Par rapport au simple fait de montrer ce que le robot peut finalement faire, rendre public comment le modèle est entraîné et comment ses capacités se forment possède également une valeur de recherche.
Lien du direct : www.motubrain.com/motubrain2.0-live
Lien du site officiel : www.motubrain.com
Cet article est fourni par Shengshu Technology et republié par QbitAI avec autorisation ; les opinions appartiennent à l'auteur original.