Der Trainingsprozess großer Modelle tritt zunehmend stärker in den Blick der Öffentlichkeit.
Zuvor hatte Luo Fuli, Verantwortliche für Xiaomis MiMo, die Fortschritte in der Verstärkungslernphase des Trainings von MiMo-V2.6 öffentlich gemacht und so der Außenwelt konkrete Details des Trainings großer Modelle gezeigt.
Nun gibt es im Bereich Physical AI einen ähnlichen Versuch.
Am 21. Oktober startete das World-Model-Team von Shengshu Technology offiziell die öffentliche Live-Übertragung des gesamten Trainingsprozesses von Motubrain 2.0, die laut Plan einen halben Monat dauern und der Öffentlichkeit den Trainingsprozess sowie die Forschungsfortschritte des verkörperten Modells zeigen soll.
Diese Live-Übertragung widmet sich einer Frage: Wie lässt sich Physical AI tatsächlich verwirklichen?
Physical AI, also physikalische künstliche Intelligenz, möchte, dass KI die physische Umgebung versteht und durch Roboter konkrete Aufgaben ausführt. Im Vergleich zu großen Sprachmodellen muss Physical AI zusätzlich Probleme wie Handlungsentscheidungen, Aufgabenausführung und gegenstandsübergreifende Generalisierung lösen.
Die Motubrain-Serie ist ein von Shengshu Technology entwickeltes verkörpertes Modell, das darauf abzielt, Robotern ein „Gehirn“ mit universellen Fähigkeiten zu geben und die Generalisierung von Fähigkeiten zwischen verschiedenen Aufgaben, Szenarien und Roboterplattformen zu erforschen.
Motubrain 2.0 wird in Kürze als Open Source veröffentlicht. Vor der offiziellen Open-Source-Veröffentlichung entschied sich das Team, zuerst den gesamten Trainingsprozess offenzulegen und der Außenwelt den Weg dieses Modells vom Training über Tests bis zur Fähigkeitsiteration zu zeigen.
Die diesmal öffentlich gemachte Trainingsphase umfasst vier Abschnitte:
1. Vortraining: Beobachtung der Auswirkungen der Trainingsskala auf die Modellleistung und die Zero-Shot-Generalisierungsfähigkeit.
2. Nachtraining: Weitergehendes Training für konkrete Aufgaben zur Verbesserung der Aufgabenausführungsfähigkeit.
3. Agent-Aufgabenausführung: Erforschung, ob das Modell vorhandene Erfahrungen auf andere Aufgaben übertragen kann.
4. RSI-Erforschung (rekursive Selbstverbesserung): Untersuchung, ob das Modell anhand von Ausführungs-Feedback eigene Handlungen bewerten und verbessern kann.
Das Besondere an dieser Live-Übertragung ist der Versuch, die „Blackbox“ des Trainings verkörperter Modelle zu öffnen.
Bisher erfuhr die Außenwelt von den technischen Fortschritten der verkörperten Intelligenz hauptsächlich durch Roboter-Demos, Bewertungsergebnisse und wissenschaftliche Arbeiten. Wie das Modell trainiert wurde und wie sich die Fähigkeiten in den verschiedenen Phasen veränderten, war meist kaum direkt zu beobachten.
Motubrain 2.0 entschied sich, den gesamten Prozess vom Training über Tests bis zur Fähigkeitsiteration offenzulegen, damit die Außenwelt sehen kann, wie das Modell schrittweise Fähigkeiten entwickelt, aber auch die Misserfolge, Versuche und Anpassungen während des Trainings.
Für die Branche der verkörperten Intelligenz macht ein solcher Vorgehensweise den Modellentwicklungsprozess transparenter. Forscher und Entwickler sehen nicht nur das Endergebnis, sondern haben auch die Gelegenheit, die konkreten Probleme während des Trainings kennenzulernen und wie das Team durch Experimente und Feedback das Modell kontinuierlich verbessert.
Gleichzeitig hofft das Team, im Rahmen dieser Live-Übertragung Erfahrungen, Probleme und Überlegungen aus der Forschung mit Fachkollegen zu teilen und gemeinsam zentrale Fragen wie skalierbares Training, fächerübergreifende Generalisierung und autonome Verbesserung zu erörtern, um mehr Referenzen für die Erforschung der Verwirklichungsparadigmen von Physical AI zu liefern.
Natürlich befindet sich die entsprechende Forschung noch im Erkennungsstadium, und die konkreten Ergebnisse müssen durch nachfolgende Experimente und Evaluierungen überprüft werden. Zu zeigen, wie das Modell trainiert wird und wie seine Fähigkeiten entstehen, hat ebenso viel Forschungswert, wie nur zu zeigen, was der Roboter am Ende kann.
Link zur Live-Übertragung: www.motubrain.com/motubrain2.0-live
Link zur offiziellen Website: www.motubrain.com
Dieser Artikel wurde von Shengshu Technology bereitgestellt und QbitAI mit Genehmigung nachgedruckt; die Meinungen liegen beim ursprünglichen Autor.