大規模モデルのトレーニング過程が、ますます公衆の視野に現れるようになっている。
以前、小米MiMoの責任者である羅福莉はMiMo-V2.6の強化学習段階におけるトレーニングの進捗を公開し、大規模モデルのトレーニングにおける具体的な詳細を外部に見せた。
現在、Physical AI分野にも同様の試みが登場した。
10月21日、生数科技の世界モデルチームはMotubrain 2.0のトレーニング全工程の公開ライブ配信を正式に開始し、半月にわたる予定で、具身モデル（エンボディッドモデル）のトレーニング過程と研究の進捗を公衆に展示する。
今回のライブ配信は一つの問題に注目している：Physical AIは一体どのように実現されるのか？
Physical AI、すなわち物理人工知能は、AIが物理環境を理解し、ロボットを通じて実際のタスクを遂行できるようにすることを目指している。大規模言語モデルと比べて、Physical AIは動作の意思決定、タスク実行、シーン横断的な汎化などの問題も解決する必要がある。
Motubrainシリーズは生数科技が研究開発した具身モデルであり、ロボットのために汎用能力を備えた「脳」を構築し、異なるタスク、シーン、ロボット本体間の能力の汎化を探求することに取り組んでいる。
Motubrain 2.0はまもなくオープンソース化される。正式なオープンソース化に先立ち、チームはそのトレーニング全工程をいち早く公開し、このモデルがトレーニング、テストから能力の反復改良に至る過程を外部に示すことを選んだ。
今回公開されるトレーニングは四つの環節を網羅している：
1、事前学習：トレーニング規模がモデルの性能およびゼロショット汎化能力に与える影響を観察する。
2、事後学習：具体的なタスクに合わせてさらにトレーニングし、タスク遂行能力を向上させる。
3、Agentタスク実行：モデルが既存の経験を他のタスクに移転できるかを探求する。
4、RSI（再帰的自己改善）の探求：モデルが実行フィードバックに基づいて自身の行動を評価し改善できるかを研究する。
今回のライブ配信の特異な点は、具身モデルのトレーニングの「ブラックボックス」を開こうとする試みである。
これまで、外部が具身知能の技術進捗を知る手段は、主にロボットのデモ、評価結果、論文を通じてであった。モデルがどのようなトレーニングを経たのか、各段階で能力がどのように変化したのかは、通常直接観察することが難しい。
Motubrain 2.0はトレーニング、テストから能力の反復改良に至る全過程の公開を選び、モデルがどのように段階的に能力を形成していくのかを外部に見せるだけでなく、トレーニングにおける失敗、試行錯誤、調整も見てもらいたいと考えている。
具身知能業界にとって、このような方法はモデルの研究開発過程をより透明にする。研究者や開発者は最終結果を見られるだけでなく、トレーニングで遭遇した具体的な問題や、チームが実験とフィードバックを通じてモデルをどのように絶えず改良したのかを知る機会も得られる。
同時に、チームは今回のライブ配信を通じて、技術を共にする仲間と研究における経験、問題、考察を共有し、スケーラブルなトレーニング、タスク横断的な汎化、自律的改良などの重要な問題を共に検討し、Physical AIの実現パラダイムの探求により多くの参考を提供することを期待している。
もちろん、関連する研究はまだ探求の段階にあり、具体的な効果は今後の実験と評価による検証が必要である。ロボットが最終的に何をできるかだけを示すことに比べて、モデルがどのようにトレーニングされ、能力がどのように形成されるかを公開することも、同様に研究的価値がある。
ライブ配信入口：www.motubrain.com/motubrain2.0-live
公式サイトリンク：www.motubrain.com
本記事は生数科技の提供により、量子位が許諾を得て転載したものであり、見解は原作者に帰属する。