로봇 분야의 큰 트렌드는 제어권을 생성형 AI 모델에 넘기는 것이지만, 이는 하나의 문제를 동반합니다: 그 아키텍처는 전통적인 알고리즘만큼 예측 가능하지 않다는 것입니다. 새로 투입한 휴머노이드가 안전하다는 것을 어떻게 확신할 수 있을까요?
카네기멜론대학교의 Safe AI 연구소를 이끄는 Ding Zhao 박사는 거의 경력 전반에 걸쳐 이 문제를 연구해 왔습니다. 이제 그는 베테랑 스타트업 임원 Kyle Wong과 머신러닝 엔지니어 Simo Rachidi와 함께 이 문제를 해결하기 위해 Safeworld라는 회사를 설립했습니다.
“우리가 말하는 안전 과제는 두 가지의 결합입니다. 첫째, 정말 진보된 생성형 AI 확률적 평가 — 확률적 시스템의 리스크를 어떻게 인수하겠다는 것인가?”라고 Zhao는 말합니다. “두 번째로 정말 어려운 부분은 신뢰 문제이고, 로봇을 배치하려면 이 둘 모두가 필요합니다.”
Safeworld 는 오늘 스텔스 모드에서 벗어나며 Shine Capital과 a16z Speedrun이 주도하고 Box Group, 카네기멜론대학교 기금, Innovation Endeavors 및 SV Angel이 추가 투자한 1,200만 달러 이상의 시드 라운드를 발표합니다.
“로봇이 설계·배치되는 지금이 업계 안전 표준을 만들기에 적기입니다. 가정에서 로봇이 아이들과 충돌하고 안전 사고를 일으킬 때가 되면 그건 너무 늦은 겁니다.”라고 a16z Speedrun 파트너 Jonathan Lai가 TechCurnch에 말했습니다.
Safeworld의 전문 분야는 현실적인 인간 모델로 채워진 시뮬레이션 환경에서 로봇 제어 시스템을 평가하는 것입니다. 이는 Tesla나 Wayve 같은 회사들이 직면한 과제와 유사합니다. 이들은 도로에서 마주칠 수 있는 다양한 예상치 못한 상황에 차량이 적절히 반응하도록 보장해야 합니다. 하지만 Zhao는 로봇의 경우 더 어려울 것이라고 주장하는데, 그 이유는 로봇이 비정형 환경에서 작동하고, 로봇이 있는 각 시설마다 서로 다른 안전 기준이 적용되기 때문입니다.
“가장 흔한 사례 중 하나는 특정 공장에 사각지대 코너가 있는 경우입니다. 로봇이 특정 인간과 충돌하지 않도록 보장하려면 어떤 속도와 제동 거리가 필요할까요? 예를 들어 인간이 상자를 들고 있다면, 로봇이 그 인간을 감지할 수 있을까요 없을까요?”라고 Wong은 말했습니다.
이 질문에 답하기 위해 Safeworld는 Genesis나 MuJoCo 같은 모델에서 해당 코너의 디지털 버전을 만들고, 평가 대상 로봇의 시뮬레이션을 실제 소프트웨어로 구동되도록 삽입한 뒤, 인간 모델이 로봇과 마주치는 수천 가지 시나리오를 실행합니다. Zhao에 따르면 이는 생각보다 어려운데, 그 이유는 사람이 예측 불가능하기 때문입니다.
“넘어지는 것도 시뮬레이션으로 많은 테스트를 하는 좋은 예입니다. 그렇지 않으면 로봇 앞에서 직접 넘어져야 하는데, 그걸 계속 하기란 쉽지 않은 일이죠.”라고 Wong은 말했습니다.
Safeworld가 구축 중인 플랫폼과 로봇 제작사들이 내부적으로 사용하는 도구 사이에는 분명한 유사성이 있습니다. 그러나 창립자들은 자신들의 전문성 외에도, 경쟁사들 간에 안전 사례 정보를 공유할 수 있도록 로봇 제작사들이 제3자에게 자사 작업의 검증을 맡기기를 원할 것이라고 믿습니다.
“많은 사람들이 이런 엣지 케이스들이 해결하기 얼마나 어려울지 과소평가하고 있습니다. 우리가 걱정하는 것은 진공 상태, 즉 데모 환경에 있는 로봇이 아닙니다. 이전에 로봇을 한 번도 조작해 본 적 없는 사람들과 함께 대규모로 배치되는 로봇입니다.”라고 Zhao는 말했습니다.
Gritt Robotics의 CTO인 Vishal Dugar는 현재 노동자들이 산업 규모 태양광 발전소에서 태양광 패널을 설치하는 것을 돕고 있고 더 복잡한 건설 작업도 수행하기를 목표로 하는 로봇용 AI 두뇌를 개발하고 있습니다. 그의 회사는 안전 시뮬레이션을 개발하면서 Safeworld와 파트너십을 맺고 있습니다.
“우리 시스템 대부분의 어려움은 수학으로 몇 가지 방정식을 써서 그 시스템이 안전하다고 검증됐다고 말하는 식으로 형식적으로 증명하기가 매우 어렵다는 점입니다. 필연적으로 경험적으로 수행해야 합니다.”라고 Dugar는 말합니다.
그의 로봇은 인간 노동자들과 함께 작동하며, 로봇 팔이 사람을 치지 않도록 보장하는 것이 당연히 최우선 과제입니다. 이를 실제로 검증하려면 온갖 종류의 잠재적 시나리오를 고려해야 합니다.
“인간은 다양한 모습을 하고 있습니다. 그들의 몸은 여러 자세를 취할 수 있습니다. 무릎을 꿇을 수도, 서 있을 수도 있습니다. 잠재적으로 넘어질 수도 있고, 웅크릴 수도 있고, 뛸 수도 있습니다. 현장에서 인간이 보일 수 있는 모든 행동에 대응해야 하고, 옷, 크기, 형태, 키, 피부색 등 인간의 외모에 따른 다양한 변형도 함께 고려해야 합니다.”라고 Dugar는 지적합니다.
Safeworld와 로봇 분야의 생성형 AI 모두 아직 초기 단계이며, 회사는 외부 사용자를 위한 플랫폼 또는 서비스 기반 접근 방식 중 어느 것이 최선의 제품 모델인지 아직 고민 중입니다. 하지만 팀은 자신들이 올바른 문제를 다루고 있다고 확신합니다.
“우리는 아마 이 분야에서 최초로 수익을 내는 회사가 될 것입니다. 배치를 원하는 사람이 있다면 상황을 처리하기 위해 우리에게 비용을 지불해야 하기 때문입니다.”라고 Zaho는 말합니다.