El proceso de entrenamiento de los grandes modelos comienza a aparecer con más frecuencia en la vista del público.
Anteriormente, Luo Fuli, responsable de Xiaomi MiMo, hizo públicos los avances del entrenamiento en la fase de aprendizaje por refuerzo de MiMo-V2.6, lo que permitió al exterior ver algunos detalles concretos del entrenamiento de grandes modelos.
Ahora, el campo de Physical AI también cuenta con un intento similar.
El 21 de octubre, el equipo de modelos del mundo de Shengshu Technology inició oficialmente la transmisión en directo y pública del proceso completo de entrenamiento de Motubrain 2.0, que se planea que dure medio mes, para mostrar al público el proceso de entrenamiento y los avances de investigación del modelo embodied.
Esta transmisión se centra en una pregunta: ¿cómo se logra realmente Physical AI?
Physical AI, es decir, la inteligencia artificial física, busca que la IA pueda comprender el entorno físico y completar tareas reales mediante robots. En comparación con los grandes modelos de lenguaje, Physical AI también debe resolver problemas como la toma de decisiones de acción, la ejecución de tareas y la generalización entre escenarios.
La serie Motubrain es un modelo embodied desarrollado por Shengshu Technology, dedicado a construir un "cerebro" con capacidades generales para los robots, explorando la generalización de capacidades entre diferentes tareas, escenarios y cuerpos de robots.
Motubrain 2.0 será pronto de código abierto. Antes de su apertura oficial, el equipo eligió hacer público primero su proceso completo de entrenamiento, mostrando al exterior el recorrido de este modelo desde el entrenamiento, las pruebas hasta la iteración de capacidades.
Este entrenamiento público abarca cuatro etapas:
1. Preentrenamiento: observar el impacto de la escala de entrenamiento en el rendimiento del modelo y su capacidad de generalización de cero muestras.
2. Postentrenamiento: entrenamiento adicional para tareas concretas, mejorando la capacidad de ejecución de tareas.
3. Ejecución de tareas Agent: explorar si el modelo puede transferir la experiencia ya adquirida a otras tareas.
4. Exploración RSI (mejora recursiva de sí mismo): investigar si el modelo puede evaluar y mejorar sus propias acciones según la retroalimentación de la ejecución.
Lo especial de esta transmisión es el intento de abrir la "caja negra" del entrenamiento de modelos embodied.
En el pasado, el exterior conocía los avances de la inteligencia embodied principalmente mediante demos de robots, resultados de evaluación y artículos. Qué entrenamiento había experimentado el modelo y cómo cambiaban las capacidades en las distintas etapas era, en general, difícil de observar directamente.
Motubrain 2.0 eligió hacer público todo el proceso, desde el entrenamiento, las pruebas hasta la iteración de capacidades, con la esperanza de que el exterior pueda ver cómo el modelo forma gradualmente sus capacidades, y también ver los fallos, pruebas y ajustes durante el entrenamiento.
Para la industria de la inteligencia embodied, este enfoque hace más transparente el proceso de desarrollo de modelos. Los investigadores y desarrolladores no solo pueden ver el resultado final, sino también conocer los problemas concretos encontrados durante el entrenamiento y cómo el equipo mejora el modelo continuamente mediante experimentos y retroalimentación.
Al mismo tiempo, el equipo también espera aprovechar esta transmisión para compartir con sus pares tecnológicos las experiencias, los problemas y las reflexiones de la investigación, y debatir conjuntamente cuestiones clave como el entrenamiento a escala, la generalización entre tareas y la mejora autónoma, aportando más referencias para la exploración del paradigma de realización de Physical AI.
Por supuesto, la investigación relacionada aún se encuentra en fase de exploración, y sus efectos concretos necesitarán verificación mediante experimentos y evaluaciones posteriores. En comparación con mostrar solo lo que el robot finalmente puede hacer, hacer público cómo se entrena el modelo y cómo se forman sus capacidades tiene igualmente valor investigador.
Entrada a la transmisión: www.motubrain.com/motubrain2.0-live
Enlace al sitio web oficial: www.motubrain.com