대형 모델의 훈련 과정이 대중의 시야에 점점 더 자주 등장하기 시작했다.
이전에 샤오미 MiMo 책임자 뤄푸리(罗福莉)는 MiMo-V2.6 강화 학습 단계의 훈련 진행 상황을 공개하여 외부에 대형 모델 훈련의 구체적인 세부 사항을 보여주었다.
이제 Physical AI 분야에서도 유사한 시도가 나왔다.
10월 21일, 생수테크놀로지 월드모델 팀이 Motubrain 2.0 훈련 전 과정 공개 생중계를 공식 시작했으며, 15일간 진행할 계획으로 대중에게 구체화된(embodied) 모델의 훈련 과정과 연구 진행 상황을 보여준다.
이번 생중계는 한 가지 질문에 주목한다: Physical AI는 과연 어떻게 실현되는가?
Physical AI, 즉 물리 인공지능은 AI가 물리적 환경을 이해하고 로봇을 통해 실제 작업을 수행하기를 바란다. 대형 언어 모델과 비교할 때, Physical AI는 행동 결정, 작업 수행 및 크로스 시나리오 일반화 등의 문제도 해결해야 한다.
Motubrain 시리즈는 생수테크놀로지가 개발한 구체화된(embodied) 모델로, 로봇을 위한 범용 능력을 갖춘 '브레인'을 구축하고 서로 다른 작업, 시나리오, 로봇 본체 간의 능력 일반화를 탐구하는 데 주력한다.
Motubrain 2.0이 곧 오픈소스로 공개된다. 정식 오픈소스 공개에 앞서 팀은 훈련 전 과정을 먼저 공개하기로 선택하여, 이 모델이 훈련, 테스트부터 능력 반복 개선에 이르는 과정을 외부에 보여준다.
이번 공개 훈련은 네 가지 단계를 포함한다:
1. 사전 훈련: 훈련 규모가 모델 성능 및 제로샷 일반화 능력에 미치는 영향을 관찰한다.
2. 사후 훈련: 구체적인 작업에 맞춰 추가 훈련하여 작업 수행 능력을 향상시킨다.
3. Agent 작업 수행: 모델이 기존 경험을 다른 작업으로 전이할 수 있는지 탐구한다.
4. RSI(재귀적 자기 개선) 탐구: 모델이 실행 피드백을 바탕으로 자신의 행동을 평가하고 개선할 수 있는지 연구한다.
이번 생중계의 특별한 점은 구체화된(embodied) 모델 훈련의 '블랙박스'를 열어보려는 시도라는 것이다.
과거 외부에서 구체화된 지능 기술의 진행 상황을 파악하는 방법은 주로 로봇 데모, 평가 결과, 논문이었다. 모델이 어떤 훈련을 거쳤는지, 단계별로 능력이 어떻게 변화했는지는 직접 관찰하기 어려운 경우가 많았다.
Motubrain 2.0은 훈련, 테스트부터 능력 반복 개선까지의 전 과정을 공개하기로 선택하여, 외부에서 모델이 어떻게 점진적으로 능력을 형성하는지 볼 수 있도록 하고, 훈련 중의 실패, 시행착오 및 조정도 볼 수 있기를 희망한다.
구체화된 지능 업계에 있어 이러한 방식은 모델 연구개발 과정을 더욱 투명하게 만든다. 연구자와 개발자는 최종 결과를 볼 수 있을 뿐만 아니라, 훈련에서 마주한 구체적인 문제와 팀이 실험과 피드백을 통해 모델을 지속적으로 개선한 방식도 알 수 있는 기회를 얻는다.
동시에 팀은 이번 생중계를 통해 기술 동료들과 연구 중의 경험, 문제, 생각을 공유하고, 대규모 훈련, 크로스 작업 일반화, 자율적 개선 등 핵심 문제를 함께 논의하며, Physical AI 실현 패러다임 탐구에 더 많은 참고 자료를 제공하기를 희망한다.
물론 관련 연구는 아직 탐구 단계에 있으며, 구체적인 효과는 후속 실험과 평가를 통한 검증이 필요하다. 로봇이 최종적으로 무엇을 할 수 있는지만 보여주는 것에 비해, 모델이 어떻게 훈련되고 능력이 어떻게 형성되는지를 공개하는 것 역시 연구적 가치가 있다.
생중계 입장: www.motubrain.com/motubrain2.0-live
공식 홈페이지 링크: www.motubrain.com
본 글은 생수테크놀로지가 제공하였으며, 양자웨이(量子位)가 전재 허가를 받았고, 견해는 원저자에게 귀속된다.