Artificial Analysis Articles수정일

신체화된 AI(embodied AI)의 시대에 오신 것을 환영합니다: AA-Robotics v0.1 소개

Artificial Analysis전체 기사 2026년 10월 14일신체화된 AI(embodied AI)의 시대에 오신 것을 환영합니다: AA-Robotics v0.1 소개 우리는 최첨단 언어 모델이 물리적 세계에서 이해하고, 계획하고, 행동하는 성능을 측정하는 연구 미리보기(research preview)인 AA-Robotics v0.1을 출시합니다. v

이미지 출처 · Artificial Analysis Articles
Artificial Analysis

전체 기사

2026년 10월 14일

신체화된 AI(embodied AI)의 시대에 오신 것을 환영합니다: AA-Robotics v0.1 소개

우리는 최첨단 언어 모델이 물리적 세계에서 이해하고, 계획하고, 행동하는 성능을 측정하는 연구 미리보기(research preview)인 AA-Robotics v0.1을 출시합니다. v0.1에서 각 모델은 6축 로봇 팔(관절 5개와 그리퍼)의 제어권과 간단한 목표를 부여받습니다. 오늘 우리의 첫 여덟 가지 과제에 대한 결과를 공개합니다.

AA-Robotics v0.1

AA-Robotics v0.1 소개

2026년 초부터 최첨단 언어 모델들은 로봇 팔을 제어하는 능력에서 엄청난 발전을 이루어 왔습니다. 이제 우리는 로봇공학의 미래가 강력한 범용 에이전트를 포함할 가능성이 높다고 믿으며, 최첨단 언어 모델이 그 자체로는 프로덕션 로봇공학 용도에 부적합하더라도 로봇공학 과제를 위한 언어 모델의 진전을 추적하는 것이 중요해질 것이라고 결론 내립니다.

AA-Robotics v0.1은 이를 시험하기 위해 우리가 설계한 가장 단순한 실험, 즉 코딩 에이전트 하네스 안에서 언어 모델이 로봇 팔을 직접 제어하는 것에 대한 우리의 연구 미리보기입니다. 각 모델은 6축 로봇 팔(관절 5개와 그리퍼)의 제어권과 과제마다 간단한 목표를 부여받습니다.

우리는 코딩 에이전트 하네스 안의 최첨단 언어 모델들이 최근 실제로 간단한 과제를 위해 로봇 팔을 직접 조작할 수 있게 되었음을 발견했습니다. 오늘날 이들은 거의 두 자릿수나 사람 기준선보다 못한 수준으로, 어떤 종류의 프로덕션 사용에도 너무 느리고 비용이 많이 듭니다. 우리는 이것이 빠르게 변할 것으로 기대합니다.

GPT-6 Astra가 69점으로 AA-Robotics v0.1에서 1위를 차지했고, 그 뒤를 GPT-6.1 Sol, Gemini 4 Argon, Claude Opus 5.5, Claude Fable 5.1이 이었습니다. GPT-6 Astra는 과제당 평균 30분이 걸렸고 비용은 평균 $16.36이 들었습니다.

AA-Robotics 점수

과제당 평균 점수(0부터 100) · 전체 과제

각 시도는 100점 만점으로 채점됩니다: 과제를 완수하면 100점이며, 부분적 결과는 이룬 진행 정도에 따라 점수를 받습니다.

여덟 가지 과제

AA-Robotics v0.1은 일상 활동을 본떠 만든 여덟 가지 테이블톱 과제로 시작하여, 다양한 로봇공학 능력, 즉 정밀한 파지 및 물체 조작과 같은 제어 및 손재주, 물체들이 서로 상호작용하는 방식에 대한 이해와 같은 공간 추론, 그리고 예상치 못한 상황에 모델이 어떻게 대응하는지를 측정하는 적응력을 평가합니다.

결과

작업별 결과

  • 만점 (100)
  • 부분 점수 (1에서 99)
  • 0점 (0)
작업GPT-6 AstraGPT-6.1 SolGemini 4 ArgonClaude Opus 5.5Claude Fable 5.1
빨간 버튼을 누르세요만점, 100점 중 100점만점, 100점 중 100점만점, 100점 중 100점만점, 100점 중 100점만점, 100점 중 100점
악어 장난감을 직사각형 안에 놓으세요만점, 100점 중 100점만점, 100점 중 100점만점, 100점 중 100점만점, 100점 중 100점만점, 100점 중 100점
음료를 컵에 따르세요만점, 100점 중 100점0점, 100점 중 0점만점, 100점 중 100점부분 점수, 100점 중 25점부분 점수, 100점 중 30점
블록을 상자에 정리하세요부분 점수, 100점 중 40점만점, 100점 중 100점부분 점수, 100점 중 40점부분 점수, 100점 중 40점부분 점수, 100점 중 40점
모양 맞추기 과제를 완료하세요부분 점수, 100점 중 44점만점, 100점 중 100점0점, 100점 중 0점부분 성공, 100점 중 38점만점, 100점 중 100점
hello world 작성하기만점, 100점 중 100점만점, 100점 중 100점부분 성공, 100점 중 45점부분 성공, 100점 중 45점0점, 100점 중 0점
가장 높은 탑 쌓기부분 성공, 100점 중 71점0점, 100점 중 0점부분 성공, 100점 중 57점부분 성공, 100점 중 25점0점, 100점 중 0점
상자 측정하기0점, 100점 중 0점부분 성공, 100점 중 17점0점, 100점 중 0점부분 성공, 100점 중 17점0점, 100점 중 0점
AA-Robotics 점수69.464.655.348.846.3

각 시도는 100점 만점으로 채점됩니다: 과제를 완료하면 100점이 부여되고, 부분적인 결과에 대해서는 진행된 정도에 따라 점수가 주어집니다.

GPT 모델은 Codex에서, Claude 모델은 Claude Code에서, 그리고 Gemini 4 Argon은 Antigravity에서 높은 effort 설정으로 실행됩니다.

과제

모델

그리퍼로 버튼을 누르세요.

2:12에 만점

0:00 / 0:00움직임만 표시

AA-Robotics의 작동 방식

모델은 간단한 지침과 함께 격리된 컨테이너에서 실행됩니다: 로봇 팔에 접근하는 방법(간단한 HTTP API를 통해), 자신이 어떤 팔인지(Hiwonder NexArm, 추가 사양 없음), 그리고 시도를 완료로 제출하는 방법입니다. 모델은 테이블 주변에 설치된 세 대와 팔 손목에 장착된 한 대, 총 네 대의 카메라를 통해 장면을 볼 수 있으며, 컨테이너에서 코드를 작성하고 실행하여 움직임을 계획하고 전송할 수 있습니다.

모델이 과제를 검토용으로 제출하면, 최종 상태가 과제의 통과 기준에 따라 채점됩니다. 통과 시 100점이 부여되며, 과제를 완료하지 못한 경우 부분 성공에 대한 점수가 주어집니다. 모든 과제 시도는 zero-shot으로 이루어집니다.

시간 & 비용

오늘날의 언어 모델은 AA-Robotics v0.1에서 사람보다 대략 100배 느립니다. 작업당 약 30분이 걸리는 반면, 사람의 평균은 20초입니다. 전체적으로 보면 테스트된 5개 모델 중 4개는 작업당 약 30분으로 비슷했고, Gemini 4 Argon은 52분으로 가장 느렸습니다. 그러나 이러한 평균치는 작업 간의 큰 차이를 숨기고 있습니다.

GPT-6 Astra는 2.2분 만에 빨간 버튼을 눌렀지만, Claude Fable 5.1은 첫 행동을 하기 전까지 이해와 계획에 약 10분을 소비했습니다. 가장 큰 차이는 악어 배치 작업에서 나타났는데, GPT-6.1 Sol은 5분 만에 완료를 선언한 반면 Claude Opus 5.5는 45분이 걸려 9배 차이를 보였습니다. 모든 작업을 통틀어 Gemini 4 Argon이 행동 개시가 가장 느렸으며, 첫 행동 전까지 관찰과 추론에 평균 21분을 소비해 다른 어떤 모델보다도 거의 2배 오래 걸렸습니다.

작업당 소요 시간

작업당 평균 시간(분) · 전체 작업

AA-Robotics 점수 대비 작업당 소요 시간

작업당 평균 시간(분) · 전체 작업가장 매력적인 사분면모델 파레토 경계

비용 측면에서 사람과 모델 간 격차는 더 좁습니다. 가장 비용 효율적인 모델은 미국 평균 시간당 임금을 받는 사람보다 약 10배의 비용이 들며, 이는 시간 면에서 거의 100배 차이 나는 것과 대조됩니다. 모델 간에는 GPT-6.1 Sol이 가장 저렴하여 작업당 평균 $1.93이고, 가장 비싼 GPT-6 Astra는 $16.36으로 Sol의 8배 이상이지만 점수는 겨우 4점 높습니다(69 대 65). 팔과 장면이 새로운 것이고 모델이 처리해야 하는 시각 정보의 양이 많기 때문에, 비용의 대부분은 입력에 발생합니다. 지출의 70%가 컨텍스트에 사용됩니다.

작업당 비용

작업당 평균 비용(USD) · 전체 작업

AA-Robotics 점수 대비 작업당 비용

작업당 평균 비용(USD) · 전체 작업가장 매력적인 사분면모델 파레토 경계

사람의 비용은 직접 수행 작업 시간에 시간당 $37.81을 적용한 금액으로, 이는 미국 민간 비농업 부문 전체 직원의 평균 시간당 소득입니다(미국 노동통계국, 2026년 9월 잠정 데이터).

모델별 시간 사용 방식

예상대로 모델은 초기 작업 시간의 상당 부분을 팔을 보정하고 장면을 이해하는 데 소비하며, 첫 행동을 취할 때까지 이를 계속합니다. 이후에는 대부분의 시간을 이동 계획에 소비하며, 더 긴 계획 단계 사이에 비교적 짧고 정밀한 팔 움직임이 이루어집니다. 카메라 확인과 메모 작성은 전체 시간에서 상대적으로 작은 비중을 차지합니다.

흥미롭게도 모델은 통과 상태에 도달한 지 한참 뒤에도 시도를 계속 다듬는 경우가 많습니다. 예를 들어 GPT-6.1 Sol은 약 17분 만에 통과하는 타워를 세운 후에도 이후 작업에 실패했습니다. 물리적 공간에서 작업 완료를 추론하는 모델의 능력이 어떻게 향상될지는 지켜볼 일입니다.

활동별 시도 시간 비중

시도 시간 비중(%) · 전체 작업
  • 장면, 팔, 이동 이해
  • 이동 계획
  • 카메라 확인
  • 팔 이동
  • 기타
Gemini 4 Argon42%45%6%6%419분Claude Fable 5.133%37%9%18%249분Claude Opus 5.521%45%9%23%253분GPT-6 Astra20%59%6%13%242분GPT-6.1 Sol17%61%6%13%224분

기타에는 실행 중인 코드 대기, 메모 작성, 최종 보고서 작성이 포함됩니다.

각 단계의 사고 및 도구 시간은 해당 단계의 코드, 이미지, 메시지를 기준으로 하나의 활동에 배정됩니다. 팔 이동은 팔이 명령을 수행하던 시간입니다.

Gemini 4 Argon의 활동 시간은 추정치입니다. Antigravity는 각 단계의 타임스탬프를 제공하지 않기 때문에, 정확히 측정된 팔 명령들 사이에 단계들을 토큰 비율에 따라 배치했습니다.

실행 과정별 활동

실행 시작 후 경과 시간(분)작업

0:00 경과5개 중 0개 완료

  • 장면, 팔, 이동 이해
  • 이동 계획
  • 카메라 검토
  • 팔 움직임
  • 기타
  • 첫 번째 동작
  • 첫 번째 통과 상태 도달
  • 복구 불가능한 실수

기타에는 실행 중인 코드 대기, 메모 작성, 최종 보고서 작성이 포함됩니다.

첫 번째 동작이란 한 번의 실행에서 처음 누르기, 잡기, 밀기, 따르기 또는 펜 획을 말합니다.

복구 불가능한 실수란 모델이 더 이상 만점을 달성할 수 없음을 의미합니다.

Gemini 4 Argon의 활동 시간은 추정치입니다: Antigravity는 각 단계에 타임스탬프를 기록하지 않으므로, 단계들은 정확히 시간이 측정된 팔 명령들 사이에 토큰 수에 비례하여 배치됩니다.

물리적 정확성

잡기 및 정교한 조작은 AA-Robotics v0.1에서 테스트할 핵심 기술이었습니다. 이는 더 정밀한 제어 작업으로 이어질 뿐만 아니라, 더 중요하게는 도구 사용과 그것이 열어주는 훨씬 더 넓은 범위의 능력을 가리키기 때문입니다.

GPT-6 Astra와 Claude Fable 5.1은 가장 높은 성공 시도 비율(~45%)로 가장 우수한 성적을 보여 상당한 정밀 제어 능력을 나타냈으며, GPT-6.1 Sol은 28%로 가장 낮은 점수를 기록했습니다. Gemini 4 Argon은 36%로 그 사이에 위치했으며, 많은 실패가 목표로 한 블록 바로 위나 옆에서 가까이 간신히 빗나갔습니다.

모든 잡기 시도의 결과

잡기 시도 비율(%) · 잡기가 포함된 6개 작업
  • 성공적인 잡기
  • 빗나감, 부분 잡기 또는 잘못된 대상 잡기
GPT-6 Astra45%55%n = 95Claude Fable 5.144%56%n = 89Claude Opus 5.540%60%n = 100Gemini 4 Argon36%64%n = 75GPT-6.1 Sol28%72%n = 111

잡기는 Place Crocodile, Pour Drink, Tidy Box, Match Shapes, Build Tower, Measure Box 작업에서 시도되었습니다. 성공은 들어 올리거나 운반하는 동안 의도한 대상을 계속 쥐고 있는 것으로 정의되며, 빗나감·부분·잘못된 대상 잡기는 그리퍼가 대상을 제대로 쥐지 못하거나, 쥐었다가 미끄러지거나 떨어뜨리거나 들어 올릴 수 없었거나, 착각으로 다른 대상을 쥔 경우입니다.

실수의 벽

클립 위에 마우스를 올리면 무엇이 잘못되었는지 확인할 수 있고, 클립을 클릭하면 확대됩니다. 저희가 골라낸 몇 가지 좋아하는 예시도 확인해 보세요!

성공 또는 실패 판단 - 그리고 언제 멈출지에 대한 오류

부족한 물리적 추론

빗나간 잡기, 잘못된 배치 및 낙하

최신 소식 읽기

Reflection이 첫 번째 모델인 Beam을 출시했습니다

Reflection의 첫 번째 모델 Beam은 Artificial Analysis Intelligence Index에서 30점을 기록하며 미국 오픈 웨이트 모델 중 #2에 올랐습니다

2026년 10월 16일

NVIDIA Vera Rubin NVL72의 첫 AA-AgentPerf 결과

NVIDIA Vera Rubin NVL72는 AA-AgentPerf에서 메가와트당 총 처리량이 GB300 NVL72의 최대 약 5.7배에 달하며, DeepSeek V4 Pro, DeepSeek V4.1 Flash, GLM-5.2 및 Kimi K3에 대한 첫 결과가 발표되었습니다.

2026년 10월 15일

NVIDIA RTX Spark N1X 노트북의 첫 AA-AgentPerf-Local 결과

NVIDIA RTX Spark N1X 노트북은 Qwen3.8 27B로 우리의 로컬 에이전트 워크로드를 18.7분 만에 완료합니다.

2026년 10월 15일

원문 출처

Artificial Analysis Articles

내용 안내

원문 발행 및 권리는 출처에 있습니다.

기계 번역 · 원문을 참고하세요