大規模モデルのトレーニング過程が、ますます公衆の目に触れるようになってきた。
以前、小米MiMoの責任者である羅福莉がMiMo-V2.6の強化学習段階におけるトレーニングの進捗を公開し、外部は大規模モデルのトレーニングにおけるいくつかの具体的な詳細を目にすることができた。
今度は、Physical AI分野でも同様の試みが行われる。
10月21日、生数科技の世界モデルチームはMotubrain 2.0のトレーニング全プロセスの公開ライブ配信を正式に開始し、半月間にわたって継続する予定で、具身モデルのトレーニング過程および研究の進展を公衆に展示する。
今回のライブ配信は一つの問題に焦点を当てている: Physical AIは一体どのように実現されるのか?
Physical AI、すなわち物理人工知能は、AIが物理環境を理解し、ロボットを通じて実際のタスクを遂行できるようにすることを目指している。大規模言語モデルと比べて、Physical AIはさらに動作の意思決定、タスク実行、クロスシーン汎化などの問題を解決する必要がある。
Motubrainシリーズは生数科技が研究開発した具身モデルであり、ロボットのために汎用能力を備えた「脳」を構築し、異なるタスク、シーン、ロボット本体間での能力の汎化を探求することに取り組んでいる。
Motubrain 2.0はまもなくオープンソース化される。正式なオープンソース化に先立ち、チームはそのトレーニング全プロセスをいち早く公開し、このモデルがトレーニングからテスト、能力の反復改善に至るまでの過程を外部に示すことを選んだ。
今回の公開トレーニングは4つの段階を含む:
1、事前トレーニング: トレーニング規模がモデルの性能およびゼロショット汎化能力に与える影響を観察する。
2、事後トレーニング: 具体的なタスクに合わせてさらにトレーニングを行い、タスク実行能力を向上させる。
3、Agentタスク実行: モデルが既存の経験を他のタスクに転移できるかを探求する。
4、RSI(再帰的自己改善)の探求: モデルが実行フィードバックに基づいて自身の行動を評価・改善できるかを研究する。
今回のライブ配信の特別な点は、具身モデルのトレーニングの「ブラックボックス」を開こうとする試みである。
従来、外部が具身知能技術の進展を知る手段は、主にロボットのデモ、評価結果、論文を通じてであった。モデルがどのようなトレーニングを経たのか、異なる段階で能力がどう変化したのかは、通常は直接観察することが難しい。
Motubrain 2.0はトレーニングからテスト、能力の反復改善に至る全過程を公開することを選び、モデルがどのように段階的に能力を形成していくのかを外部に見せるとともに、トレーニングにおける失敗、試行錯誤、調整も見てもらいたいと考えている。
具身知能業界にとって、この方式はモデル研究開発の過程をより透明にする。研究者や開発者は最終結果を見るだけでなく、トレーニングで遭遇した具体的な問題や、チームが実験とフィードバックを通じてモデルをどのように継続的に改善してきたのかを知る機会も得られる。
同時に、チームは今回のライブ配信を通じて、技術を共にする仲間と研究における経験、問題、考察を共有し、大規模トレーニング、クロスタスク汎化、自律的改善などの重要な問題を共に検討し、Physical AIの実現パラダイムの探求により多くの参考を提供することを望んでいる。
もちろん、関連研究はまだ探求段階にあり、具体的な効果は今後の実験と評価による検証が必要である。ロボットが最終的に何をできるかだけを示すことに比べ、モデルがどのようにトレーニングされ、能力がどのように形成されるのかを公開することも、同様に研究的価値を持つ。
ライブ配信入口: www.motubrain.com/motubrain2.0-live
公式サイトリンク: www.motubrain.com