윤중(允中), 아페이쓰(凹非寺) 발
양자위(量子位) | 공중계정 QbitAI
최근 NVIDIA Research가 선보인 GPU 연산자 성능 평가 랭킹 SOL-ExecBench [1]에서 인피니전스 AI(Infinigence AI, 无问芯穹)가 눈부신 성적을 거두었다:
L1 기본 연산자, L2 융합 연산자, Quant 양자화 연산자, FlashInfer-Bench 추론 연산자 등 전체 4개 트랙에서 연달아 정상에 올랐다.
SOL-ExecBench란 무엇인가?
SOL-ExecBench는 NVIDIA Research가 2026년 3월 19일에 선보인 연산자 최적화 Benchmark이다. SOL은 Speed of Light의 약자로 ‘광속’을 의미하며, 여기서는 하드웨어 능력을 바탕으로 도출된 이론적 성능 한계를 가리킨다.
기존 평가가 주로 소프트웨어 베이스라인 대비 가속 효과를 비교하는 것과 달리,SOL-ExecBench는 하드웨어 성능 상한을 기준으로 삼는 SOL Score를 도입하였으며, 고성능 컴퓨팅 카드에서 실제 테스트를 수행한다.
랭킹은 124개의 실제 및 최첨단 AI 모델에서 추출한 235개의 연산자 최적화 문제를 포함하며, 언어, 비전, 음성, 비디오 및 멀티모달 등 분야를 아우르고 4개 트랙으로 나뉜다:
- L1 기본 연산자:기본 계산 모듈의 고효율 구현을 평가한다.
- L2 융합 연산자:여러 계산 단계의 융합 실행과 협업 최적화를 평가하여 메모리 접근, 데이터 이동 및 실행 오버헤드를 줄인다.
- Quant 양자화 연산자:FP8, NVFP4 등 저정밀도 계산 기술을 다루며, 대형 모델 추론의 성능과 비용과 밀접한 관련이 있다.
- FlashInfer-Bench 추론 연산자:어텐션 메커니즘, 혼합 전문가 네트워크 등 대형 모델 온라인 추론의 핵심 계산에 초점을 맞춘다.
SOL-ExecBench의 두드러진 특징 중 하나는,실제 최첨단 모델의 계산 그래프에서 직접 워크로드를 추출하고, 이러한 계산들이 신세대 GPU에서의 성능 한계에 초점을 맞춘다는 점이다。
주: 이는 지속적인 경쟁과 고빈도 동적 갱신이 이루어지는 글로벌 랭킹이다. 각 팀이 새로운 최적화 방안을 계속 제출함에 따라 순위도 변화하며, 경쟁이 매우 치열하다.
2026년 10월 26일 기준으로, 无问芯穹은 여전히 L1과 Quant 두 트랙에서 총점 세계 1위, L2와 FlashInfer-Bench 트랙에서 총점 세계 2위를 기록하고 있다. 전체 235개 GPU 연산자 최적화 문제 가운데,88개 문제에서 단일 문제 1위를 차지하며 모든 참가 팀 중 최상위에 올라, 2위 팀의 단일 문제 1위 수를 2배 이상 웃돌고 있다.
특히 복잡한 계산 최적화 능력을 시험하는 L2 융합 연산자 트랙에서 无问芯穹은 82개 문제 중39개 1위를 차지하여 절반에 가까운 비율을 기록했다.
글로벌 최고의 AI 인프라와 에이전트 연구개발 역량이 모인 이 경쟁은, 신세대 AI 연산 최적화 능력을 검증하는 중요한 무대가 되고 있다.
GPU Maxxing에서 Token Maxxing으로, AI 생산력 전환의 글로벌 경쟁
AI 생산력의 가치 실현은 ‘투입-전력/카드-Token-생산력-가치’라는 완전한 전환 사슬을 바탕으로 한다.
초기 Scaling Law의 추진 아래, 더 많은 컴퓨팅 자원을 투입하여 GPU 효율을 극대화하는 것은 모델 성능 돌파와 Token 생산 향상을 이끄는 중요한 수단이었다.
그리고 Agent의 발전과 함께 Token은 최종 산출물이 아니라 과제 수행의 투입물이 되었으며,모델은 더 긴 추론, 더 많은 차수의 시도와 검증을 통해 기존에 해결하기 어려웠던 문제를 돌파할 수 있지만, 단순히 Token 투입을 늘리는 것이 곧 과제 성과 향상으로 이어지는 것은 아니다.
만약 유사한 시도를 계속 반복하면서 실행 피드백으로부터 방향을 수정하지 못한다면, 아무리 많은 Token도 제자리에서 맴돌며 소모될 수 있다.
업계가 주목하는 핵심은 GPU Maxxing에서 한 걸음 더 나아가 Token Maxxing으로 이동하고 있다:「전기」에서 「Token」으로의 변환 효율을 높일 뿐만 아니라, 더 많은 Token이 실제로 모델 능력과 과제 성과로 전환되도록 하여 「Token」에서 「생산력」으로의 효율적인 전환을 실현하는 것이다.
SOL-ExecBench는 이러한 능력을 검증하기 위한 구체적인 시나리오를 제공한다.이 벤치마크는 실제 최첨단 모델에서 연산 워크로드를 추출하여 기본 연산자, 복잡한 융합, 저정밀 연산 및 추론 최적화를 포괄하며, 제출된 코드가 정확성과 성능 요구 사항을 동시에 충족하도록 요구한다. 여기서 Agent는 코드 생성, 컴파일 및 실행, 성능 분석과 반복적인 튜닝을 거쳐야 하며, 그 작업 성과는 최종적으로 실제 하드웨어에서의 실행 결과로 측정된다.
이 평가는 다음 팀들을 비롯한글로벌 데이터·AI 플랫폼 기업 Databricks, Y Combinator가 인큐베이팅한 AI Infra 스타트업 SF Tensor, 유명 AI 코딩 도구 팀 Cursor, 그리고 자동화 연산자 최적화 분야에서 활약하는 Recursive, doubleAI, Geometric 등의 기술 팀들의 참여를 이끌었다。
SF Tensor가 2026년 9월 25일에 공개한 데이터에 따르면, 당시 이미583개 팀이 누적 3.1만 회 이상의 평가를 제출했으며, 평균 약 8분에 한 건꼴의 공개 제출이라는 높은 빈도로 리더보드 갱신을 지속적으로 이끌었다。
많은 참가 팀들이 Agent를 활용해 저수준 연산 코드를 자동으로 생성, 테스트 및 최적화함으로써, 이 대회는 GPU Kernel 최적화 수준뿐만 아니라 모델 능력을 복잡한 엔지니어링 과제를 지속적으로 완수할 수 있는 시스템으로 조직화하는 역량도 시험하게 되었다.
이처럼 치열한 글로벌 경쟁 속에서 无问芯穹(Infinigence)은 L1, L2, Quant, FlashInfer-Bench 네 개 트랙에서 연이어 글로벌 1위를 차지했다.
이는팀이 연산자 최적화와 소프트웨어·하드웨어 협력 분야에서 쌓은 기술적 축적을 보여줄 뿐만 아니라, Agentic Infra를 통해 Token 투입을 검증된 연산 성능 이득으로 전환하고, 이를 바탕으로 AI가 복잡한 과제를 자율적으로 완수하는 효과적인 경로를 탐색하는 팀의 역량을 검증한 것이기도 하다。
AI 생산력으로 Infra 진화를 되먹이고, 기술 실천으로 RSI 공학화 착지를 지원하다
자원 투입에서 Token 생산, 그리고 실제 생산력의 전달과 가치 실현에 이르기까지, 无问芯穹(Infinigence)의 Agentic Infra는 이 체인이 일방적 추진에서 폐쇄 루프 진화로 나아가도록 지속적으로 힘쓰고 있습니다.
팀은Agent가 단순히 Token을 소비해 작업을 완료하는 데 그치지 않고, 창출한 생산력을 인프라 자체에 되먹여 Token 생산을 지속적으로 향상시키며, AI 인프라 RSI의 실현 경로를 탐색하기를 바랍니다.
연산자 최적화 작업은 이 과정을 탐색하기 위한 구체적인 출발점을 제공합니다:GPU Kernel의 실행 효율은 하드웨어 성능 발휘에 직접적인 영향을 미칩니다. Agent가 찾아낸 고효율 구현은 검증을 거쳐 학습 및 추론 시스템에 적용될 경우, 연산 오버헤드를 더욱 낮추고 연산자 최적화의 이익을 Token 생산 단계까지 확장할 수 있을 것으로 기대됩니다.
이 방향을 따라 가장 먼저 해결해야 할 것은 Agent가 신뢰할 수 있는 최적화 성과를 지속적으로 산출하도록 만드는 것입니다. 코드가 올바르게 실행되는지, 성능 병목이 어디에 있는지, 한 번의 수정이 실제 이익을 가져왔는지는 모두 실제 실행을 통해 판단해야 하며, 이것이 다음 라운드 탐색의 근거가 됩니다.
이를 위해 无问芯穹는 SOL-ExecBench를 중심으로 연산자 최적화 Agent를 구축하여, 코드 생성, 실행 검증, 성능 분석 및 경험 축적을 연속적인 워크플로로 조직했습니다.
이어서 컨테이너 격리 실행, Skills 인지와 공유 Memory, 그리고 서로 다른 작업을 위한 최적화 전략의 세 가지 측면에서, 无问芯穹가 Agent가 실제 하드웨어 피드백 하에서 지속적인 개선을 이루도록 구체적으로 어떻게 지원하는지 소개합니다.
컨테이너화 격리 아키텍처
실행 아키텍처 측면에서 시스템은 컨테이너화 격리를 채택하여 Agent 작업 영역, 평가 영역과 디버깅 영역을 분리했습니다.Agent는 네트워크 접속이 허용되고 GPU가 직접 할당되지 않는 작업 영역에서 외부 마운트를 통해 Skills, 공유 Memory와 최적화 전략을 로드하며, 코드 작성을 완료하고 계산 요청을 제출합니다.
호스트 측 자원 스케줄러는 GPU를 통일 관리하며, 요청을 큐잉하고 온디맨드로 할당하여, 각각 공식 평가 환경에 정렬된 이미지와 성능 프로파일링 도구가 통합된 이미지에서 평가와 디버깅을 실행합니다. 두 유형의 실행 컨테이너 모두 네트워크 접근이 금지되며, 결과는 Agent에 회신되어 '코드 생성—평가 검증—성능 분석—전략 조정'의 반복 폐쇄 루프를 형성합니다.
이 격리 설계가 제공하는 것은Agent가 자동 최적화 과정에서 평가 제약을 우회하는 것을 방지하는 것입니다.Agent가 성능 지표를 최적화 목표로 삼을 때, 그 탐색은 연산자 구현 자체에서 벗어나 평가 스크립트 수정, 타이밍 로직 간섭, 참조 결과 접근 또는 환경 취약점 악용을 시도하여 실제 연산 효율 향상이 아닌 점수를 얻을 수 있습니다.컨테이너 격리, 권한 제어와 통제된 제출 인터페이스가 함께 실행 경계를 구성하여, Agent가 후보 연산자를 지속적으로 최적화하는 동시에 평가 과정 자체에 대한 개입을 제한합니다.
모듈화 Skills와 공유 기억 메커니즘
Agent 능력 구축 측면에서 시스템은 모듈화 Skills를 통해 오픈소스 커뮤니티의 기술 축적을 접속할 뿐만 아니라, 전문적인 프레임워크 인지 Skill을 통해 Agent가 관련 프레임워크를 이해하고 사용하도록 돕고, 동시에 공유 Memory를 활용해 최적화 경험을 지속적으로 축적하고 재사용합니다.
- 지식 베이스 및 성능 디버깅 Skills: 오픈소스 커뮤니티에서 제공되며, Agent에 GPU 프로그래밍 지식, 성능 분석 방법 및 최적화 도구 등 능력 지원을 제공합니다.
- 실행 프레임워크 대향 상호작용 Skill: 작업 영역 내 Agent가 자신이 처한 실행 환경, 호출 가능한 능력 및 조작 경계를 명확히 알도록 하며, 통일된 CLI 진입점을 통해 디버깅 요청, 평가 제출, 작업 상태 조회와 결과 읽기를 수행합니다.
- 공유 Memory: 실제 최적화 과정에서 검증된 유효한 전략, 적용 조건과 실무 경험을 기록하여, 서로 다른 작업이 기존 탐색 성과를 재사용할 수 있도록 합니다.
이러한 메커니즘은 함께 Agent가 전문 능력을 호출하고 실행 프레임워크를 올바르게 사용하도록 이끌며, 지속적인 반복 속에서 경험을 축적하고 중복 탐색을 줄입니다.
△ 공유 기억의 축적작업 특성에 맞춘 정밀화된 최적화 전략
최적화 전략 측면에서 시스템은 워크로드 특성, 성능 병목과 시간 예산을 중심으로 계층화된 탐색을 조직합니다.
시스템은 Agent가 최적화 시간 예산에 따라 적합한 프로그래밍 추상화와 DSL(도메인 특화 언어)을 선택하도록 유도하며, Triton, TileLang, CuTe DSL 등 서로 다른 입자의 DSL 사이에서 개발 효율과 성능 잠재력을 저울질하고, 저수준 언어(예: CUDA, PTX)를 층층이 생성함으로써 하드웨어 성능 공간을 지속적으로 발굴합니다.
△ 이미지는 예시 사례일 뿐, 대규모 소거 실험 결과가 아닙니다서로 다른 계산 시나리오에 맞춰 최적화 전략이 더욱 세분화됩니다:
- 연산 집약형 작업: Tensor Core 활용률, 타일링 방식과 데이터 재사용을 중점 평가하고, 비동기 데이터 이동과 파이프라인 중첩을 탐색하며, 동시에 레지스터, 공유 메모리 점유와 유효 병렬도를 저울질합니다.
- 메모리 접근 집약형 작업: 우선 중복된 읽기·쓰기와 중간 결과 저장을 줄이고, 병합된 메모리 접근, 벡터화 접근, 캐시 재사용을 최적화하여 단위 유효 계산에 필요한 데이터 이동량을 낮춘다.
- 다중 연산자 계산 체인: 연산자 융합(fusion)이 메모리 접근 및 기동 오버헤드에 가져다주는 이득을 평가하고, 동시에 융합 후 레지스터 압력, 동기화 복잡도 및 병렬도 변화에도 주목한다. 적용 가능한 의존성 체인의 경우, PDL(프로그래밍 방식 의존성 기동, Programmatic Dependent Launch)을 탐색하여 후속 Kernel에서 선행 결과에 의존하지 않는 작업을 미리 실행하고, 의존 데이터를 읽기 전에 필요한 동기화를 완료할 수 있다; 영속 실행에 적합한 작업의 경우에는 Persistent Kernel을 탐색하여 CTA의 지속 상주와 반복 처리를 통해 여러 작업 단위를 처리함으로써 스레드 블록 스케줄링 및 초기화 오버헤드를 분산하고, 파이프라인 병렬화를 활용해 실행 효율을 한층 더 높인다.
- 소형 Shape, 저지연 작업: 스레드 블록 수, 무효 스레드, 경계 처리, 명령 및 동기화 오버헤드를 제어하는 데 중점을 두고, 과도한 타일링이나 복잡한 파이프라인으로 인해 유효 계산으로 상쇄되기 어려운 과도한 고정 비용이 유입되는 것을 피한다.
개방된 역량 재사용, 계층화된 성능 최적화, 실제 하드웨어 피드백의 결합을 통해, 무문신궁(Infinigence)은 전문가의 경험에 크게 의존하던 GPU 연산자 튜닝을 Agent가 자율적으로 탐색하고, 지속적으로 학습하며, 규모 있게 실행할 수 있는 최적화 과정으로 전환하고자 한다.
지속적으로 혁신하는 Agentic Infra로 지능 진화의 경계를 확장하다
SOL-ExecBench의 성과는 일회성 고립된 기술적 돌파구가 아니라, 무문신궁(Infinigence)이 오랫동안 Agentic Infra 기술 혁신에 깊이 몰두해온 자연스러운 연장선이다.
‘M종 모델’과 ‘N종 칩’을 연결하는 것에서 시작해, ‘다원적 이기종, 소프트·하드웨어 협력, 자율형 AI’를 핵심으로 하는 ‘전방 매장·후방 공장·하나의 센터’의 Agentic Infra 전략적 배치에 이르기까지, 무문신궁(Infinigence)은 줄곧 AI 생산성 사슬의 핵심 환절을 중심으로 기술 탐색과 실천을 전개해왔다.
이번 SOL-ExecBench에서의 탐색과 성과는 그동안의 기술 로드맵이 저수준 컴퓨팅 최적화 분야에서 보여준 단계적 성과일 뿐이다. 더욱 중요한 것은, 이것이 다음을 입증했다는 점이다:이러한 효율 최적화 역량을 AI 자체에 다시 맡기는 RSI 경로의 실현 가능성이며, Token 생산에서 생산력 창조로, 다시 생산력이 Infra를 되먹이는 진화의 순환 고리를 초기적으로 실현하였다.
다음 단계로, 우먼신충(无问芯穹)은 이러한 탐색을 Agent 자체의 작업 실행 프레임워크로 확장하고자 한다. 작업 계획, 도구 호출, 메모리 관리 및 피드백 메커니즘을 수정하고 검증함으로써, Agent가 작업을 수행하는 과정에서 문제 해결 방법을 점진적으로 개선하도록 만든다.
최적화 성과가 연산 효율을 높일 뿐만 아니라 최적화 방안을 산출하는 메커니즘 자체를 개선할 수 있다면, 지속적인 탐색은 지속적인 능력 성장으로 전환될 기회를 갖게 된다.
RSI와 AGI의 미래 진화를 바라보며, 자신감을 갖는 동시에 우먼신충의 기술 팀은 단일 지점의 기술 돌파가 진정한 시스템 수준의 역량에 이르기까지는 아직 먼 길이 있음을 냉정하게 인식하고 있다. 부분적 최적화가 실제 생산력으로 진정 전환되기 위해서는 더 많은 기술적 탐색과 협동 역시 필요하다.
AI가 연산 자원을 더 효율적으로 사용하도록 하는 것에서 AI가 연산 시스템 자체의 최적화에 참여하도록 하는 것까지, 우먼신충은 인프라가 AI 혁신을 지원하는 단계를 넘어 AI와 함께 진화하는 단계로 나아가도록 지속적으로 추진하며, 효과적인 AI 생산력의 지속적인 전달을 위한 새로운 경로를 탐색하고 있다.
감사의 글:
Humanize 커뮤니티(https://github.com/humanfia/humanize)
참고문헌:
[1] SOL-ExecBench: 실제 GPU 커널을 하드웨어 한계에 대비하여 광속 기준으로 벤치마킹. 2026. https://arxiv.org/abs/2603.19173
[2] KernelBench: LLM은 효율적인 GPU 커널을 작성할 수 있는가? ICML 2025. https://arxiv.org/abs/2502.10517
[3] MultiKernelBench: 커널 생성을 위한 멀티 플랫폼 벤치마크. 2025. https://arxiv.org/abs/2507.17773
[4] CANN Bench: 에이전트가 생성한 커널을 실제 NPU 및 알고리즘 한계에 대비하여 벤치마킹. 2026. https://arxiv.org/abs/2607.20518
*본문은量子位가 승인을 받아 게재한 것으로, 견해는 원저자에게 귀속된다.