연구진, 르쿤의 JEPA AI를 물리학부터 생물학까지 작동하는 범용 월드 모델로 확장

연구진, 르쿤의 JEPA AI를 물리학부터 생물학까지 작동하는 범용 월드 모델로 확장

핵심 요점

• JEPA-Anything AI 모델은 얀 르쿤이 개척한 아키텍처를 물리학, 로봇공학, 의학 등 여러 분야에서 작동하는 월드 모델로 확장합니다.
• 이 방법은 모든 것을 하나로 모으는 대신 미래 상태를 여러 부분 예측으로 나누어, 표준 모델이 놓치는 패턴을 포착할 수 있게 합니다.
• 이 모델은 실험실 샘플과 생쥐에서 어느 한 성분 단독보다 더 많은 종양 세포를 죽인 간암 치료 후보물질도 식별했습니다.

연구진들은 얀 르쿤이 개척한 JEPA 아키텍처를 확장하여 7개의 매우 다른 분야에서 작동하도록 만들었습니다. 이 노력은 팀이 실험실에서 테스트한 간암 치료 후보물질도 탄생시켰습니다.

월드 모델은 로봇, 분자, 환자의 건강 등 어떤 시스템이든 그것이 어떻게 진화할지 예측합니다. 지금까지는 각 도메인마다 일반적으로 자체 모델이 필요했습니다. 스탠퍼드, 옥스퍼드, 프린스턴의 협력자들과 함께한 PhAI Labs가 이끄는 팀은 하나의 공유된 원칙만으로 충분하다는 것을 보이려 합니다.

그들의 논문 은 조인트 임베딩 예측 아키텍처(JEPA)를 기반으로 하는 JEPA-Anything을 소개합니다. 이 모델들은 픽셀 같은 원시 데이터를 재구성하지 않고, 대신 누락되거나 미래의 상태에 대한 추상적인 요약을 예측하여 관련 없는 세부 정보를 걸러냅니다. 저자들은 표준 접근 방식의 약점을 지적합니다. 모든 것이 단일 예측으로 모이기 때문에 쉬운 패턴이 어려운 패턴을 묻어버리게 됩니다.

하나 대신 여러 개의 특화된 예측

JEPA-Anything은 예측 상태를 여러 부분으로 나누고, 각 부분을 자체 예측 모듈이 처리합니다. 추가된 제약 조건은 모듈들이 같은 것을 학습하는 대신 서로 다른 측면을 포착하도록 유도하며, 그런 다음 모델이 이들의 부분 예측을 완전한 그림으로 재조립합니다.Ad

연구진들은 부분들에 의미를 부여하지 않고, 그 역할이 훈련 과정에서 자연스럽게 나타나도록 합니다. 대신 각 분야의 데이터를 준비하는 방식만 변경합니다.

동역학 테스트에서 큰 향상, 로봇에서는 엇갈린 결과

팀은 동일한 아키텍처를 가지고 동일한 조건에서 동일한 데이터로 훈련된 표준 JEPA와 JEPA-Anything을 비교했습니다. 동적 시스템에서 가장 뚜렷한 향상이 나타났습니다. 목표 개입이 적용된 단순화된 Pong 환경에서 예측 오차가 35퍼센트 감소했습니다. 훈련 중 모델이 본 적 없는 개입 조합의 경우 13퍼센트 감소했습니다.

저자들에 따르면, JEPA-Anything은 물리학, 로봇공학, 일기 예보에 걸친 10개 테스트 과제 전반에서 일관되게 베이스라인을 능가했습니다. 일반적인 유체역학 벤치마크인 버거스 방정식(Burgers equation)에서는 별도의 평가에서 오차가 거의 절반으로 줄었습니다. 50 예측 스텝에 걸쳐서도 우위는 유지되었지만 약 3퍼센트로 줄었습니다. 이 방법은 물, 석영, 아세트아미노펜, 벤젠 시뮬레이션에서도 100 스텝 후에도 최고 점수를 기록했습니다.

단일 세포 데이터의 경우 이 모델은 세포 유형을 더 신뢰할 수 있게 할당했고, 임상 데이터에서는 1,000개가 넘는 가능한 질병 이벤트를 약간 더 잘 예측했습니다. 이미지 과제에서의 차이는 작았습니다. 시뮬레이션된 보행 로봇의 이동 계획에서 JEPA-Anything은 3개 환경 중 2개에서 승리했고, 표준 모델이 나머지 하나에서 앞섰습니다.Ad

모델이 간암 치료법을 표시하여 팀이 이를 테스트했다

팀의 가장 대담한 주장은 간암 연구에서 나왔습니다. 연구진들은 유전자 활성, 단백질 수준, CRISPR 스크린을 포함한 생물학적 데이터로부터 모델이 학습한 부분 예측을 분석했습니다. 최상위 후보는 면역 세포를 활성화하는 신호 분자인 IL-18을, 종양이 주변 면역 반응을 억제하는 데 사용하는 효소 CD73의 차단과 결합한 것이었습니다.

팀은 면역 세포와 함께 배양된 간암 세포, 각각 환자 3명의 오르가노이드와 종양 조직, 그리고 생쥐에서 이 조합을 테스트했습니다. 오르가노이드와 조직 샘플에서 이 조합은 IL-18 또는 CD73 차단 단독보다 더 많은 종양 세포를 죽였고, T 세포와 자연 살해 세포는 더 강한 활성화를 보였습니다. 이 연구는 이것이 실제 치료법이 될 수 있는지 여부를 입증하지는 못합니다.

두 번째 사례에서 연구진은 어떤 물리량도 주지 않고 시뮬레이션된 궤도로 모델을 훈련시켰습니다. 학습된 패턴은 더 큰 궤도의 천체가 훨씬 느리게 움직인다고 말하는 케플러의 제3법칙과 거의 정확히 일치했습니다. 이 법칙은 궤도 진동수를 궤도 크기의 -1.5제곱으로 정하는데, 모델은 -1.4991에 도달했습니다. 팀은 단 한 번의 훈련 실행만 평가했으며 오차가 가장 낮은 것을 골랐습니다.

학습된 부분들이 깔끔하게 분리된다고 해서 그것이 실제 인과관계를 포착한다는 의미는 아니라고 저자들은 경고합니다. 또한 이런 모델이 실험 설계를 안내할 만큼 신뢰할 수 있게 되는 시점도 열린 질문으로 남아 있습니다. 그것이 팀의 장기 목표입니다. AI 에이전트가 JEPA-Anything을 사용해 실험을 제안하고 순위를 매긴 다음, 그 결과를 모델에 다시 입력하는 것입니다. 코드 및 모델은 공개되어 있습니다.

LeCun은 2022년에 생성 모델의 대안으로 JEPA를 2022년 제너레이티브 모델의 대안으로 제안되었습니다. 2025년 6월, Meta는 V-JEPA 2를공개했는데, 이는 12억 개의 매개변수를 가진 JEPA 비디오 모델로 추가 훈련 없이 익숙하지 않은 환경에서 로봇 팔을 제어했습니다. 2025년 11월, LeCun과 Randall Balestriero는 일반적인 우회 방법 없이 훈련을 안정적으로 유지하도록 설계된 이론적 기반인 LeJEPA를이어서 발표했습니다. LeCun은 현재 자신의 스타트업 AMI Labs를, 세계 모델(world models)을 구축하기 위해 2026년 3월에 십억 달러 이상을 조달했습니다.

Google Deepmind는 이미 2025년 10월에 실험실에서 AI가 생성한 암 가설을 테스트했습니다. Gemma 기반 모델인 C2S-Scale 27B는 종양 세포를 면역계에 더 잘 보이게 만들기 위한 약물 silmitasertib을 제안했고, 인간 세포 모델을 사용한 실험이 이 예측을 확인했습니다. Google DeepMind의 멀티 에이전트 시스템인 Co-Scientist는 이제 실험을 계획하고 실험실 장비를 작동하며, JEPA-Anything 팀이 구축하려는 루프의 일부를 다룹니다. 다만 기계에 샘플을 장착하는 것은 여전히 사람을 필요로 합니다.

과장 없는 AI 뉴스 – 인간이 엄선

광고 없는 독서, 주간 AI 뉴스레터, 연 6회 독점 "AI Radar" 프론티어 리포트, 전체 아카이브 접근, 댓글 섹션 이용을 위해 THE DECODER를 구독하세요.