대규모 모델 학습 과정이 점점 더 대중의 시야에 나타나기 시작했다.
이전에 샤오미 MiMo 책임자 뤄푸리는 MiMo-V2.6 강화 학습 단계의 학습 진행 상황을 공개하여, 외부에 대형 모델 학습의 구체적인 세부 사항 일부를 보여주었다.
이제 Physical AI 분야에서도 비슷한 시도가 나오고 있습니다.
10월 21일, 생수테크(生数科技) 세계모델 팀이 Motubrain 2.0 훈련 전 과정 공개 라이브 방송을 정식으로 시작했으며, 반 달간 지속될 예정으로 신체를 갖춘 모델(embodied model)의 훈련 과정과 연구 진행 상황을 대중에게 공개한다.
이번 라이브 방송에서는 하나의 질문에 주목합니다: Physical AI는 대체 어떻게 구현되는가?
피지컬 AI(Physical AI), 즉 물리 인공지능은 AI가 물리적 환경을 이해하고 로봇을 통해 실제 작업을 수행할 수 있기를 기대합니다. 대규모 언어 모델에 비해 피지컬 AI는 동작 의사결정, 작업 실행, 다양한 장면 간 일반화 등의 문제도 해결해야 합니다.
Motubrain 시리즈는 Shengshu Technology(생수테크놀로지)가 개발한 구현 모델(embodied model)로, 로봇에 범용 능력을 갖춘 "두뇌"를 구축하고 서로 다른 과제, 장면, 로봇 본체 간의 능력 일반화를 탐구하는 데 힘쓰고 있다.
Motubrain 2.0가 곧 오픈소스로 공개될 예정이다. 정식 오픈소스 공개에 앞서 팀은 훈련 전 과정을 먼저 공개하기로 하며, 이 모델이 훈련, 테스트부터 능력 반복 개선에 이르는 과정을 외부에 보여준다.
이번 공개 훈련은 네 가지 단계로 진행된다:
1. 사전 학습: 학습 규모가 모델 성능 및 제로샷 일반화 능력에 미치는 영향을 관찰한다.
2、후학습: 구체적인 작업에 맞춰 추가로 훈련하여 작업 수행 능력을 향상시킵니다.
3. Agent 작업 실행: 모델이 기존 경험을 다른 작업에 전이할 수 있는지 탐구합니다.
4. RSI(재귀적 자기 개선) 탐색: 모델이 실행 피드백을 바탕으로 자신의 행동을 평가하고 개선할 수 있는지 연구합니다.
이번 라이브 스트리밍의 특별한 점은, 구현(具身) 모델 훈련의 "블랙박스"를 열어보려 시도했다는 것입니다.
과거에는 외부에서 구현 지능(Embodied AI) 기술의 발전 상황을 주로 로봇 데모, 평가 결과, 논문을 통해 파악했습니다. 모델이 어떤 훈련을 거쳤는지, 각 단계마다 능력이 어떻게 변화했는지는 일반적으로 직접 관찰하기 어려웠습니다.
Motubrain 2.0은 훈련, 테스트에서 능력 반복 개선에 이르는 전 과정을 공개하기로 선택했으며, 외부에서 모델이 점진적으로 능력을 형성하는 과정을 볼 수 있고 훈련 중의 실패, 시행착오 및 조정도 볼 수 있기를 바란다.
임베디드 지능(구현 지능) 업계에 있어 이러한 방식은 모델 연구 개발 과정을 더욱 투명하게 만든다. 연구자와 개발자는 최종 결과를 볼 수 있을 뿐만 아니라, 훈련 중에 마주한 구체적인 문제와 팀이 실험과 피드백을 통해 모델을 지속적으로 개선한 방식도 알 수 있는 기회를 갖는다.
동시에 팀은 이번 라이브 방송을 통해 기술 동료들과 연구 과정에서의 경험, 문제점, 생각을 공유하고, 대규모 학습, 과제 간 일반화, 자율적 개선 등 핵심 과제를 함께 논의하며 Physical AI 실현 패러라임 탐색에 더 많은 참고 자료를 제공하고자 합니다.
물론 관련 연구는 아직 탐색 단계에 있으며, 구체적인 효과는 후속 실험과 평가를 통해 검증이 필요하다. 로봇이 최종적으로 무엇을 할 수 있는지만 보여주는 것에 비해, 모델이 어떻게 훈련되고 능력이 어떻게 형성되는지를 공개하는 것 또한 연구적 가치가 있다.
라이브 스트리밍 입장: www.motubrain.com/motubrain2.0-live
공식 웹사이트 링크: www.motubrain.com