중국산 대형 모델의 경쟁이 모델 계층에서 연산력 계층으로 확장되고 있다: 아무리 강력한 모델도 결국 연산자를 기반으로 칩 위에서 실행된다. 같은 모델, 같은 칩이라도 더 우수한 연산자 세트로 교체하면 때로 수 배의 성능 향상을 가져온다. 연산자의 효율은 같은 그래픽카드가 얼마나 빠르게 동작할 수 있는지를 결정하며, 토큰당 가격도 결정한다.
DeepSeek는 최근 추론 프레임워크 DeepInfer를 전면 오픈소스로 공개했다. 모델 가중치와 FlashMLA, DeepGEMM 등 연산자 라이브러리에 이어, 이들은 모델이 실행되는 전체 파이프라인을 공개했다. 그중 FlashMLA는 엔지니어가 칩 위에서 한 줄씩 수동으로 튜닝한 버전이 있으며, 연산자 성능이 하드웨어 한계의 90% 이상에 도달했다. 이는 현재까지 인간의 기술이 일부 칩에서 달성한 한계 성적이기도 하다.
그리고 이 한계는 같은 주에 AI에 의해 갱신되었다. 알려진 바에 따르면, 10월 22일 기준으로 완전히 AI가 작성한 연산자로, 사람이 한 줄씩 튜닝하지 않은 ForgeKernel이 동시에 두 개의 연산자 평가 순위에서 정상을 차지했다: 엔비디아의 홈그라운드인 SOL-ExecBench FlashInfer-Bench 합산 집계 1위, 그리고 승텅(Ascend) CANN 공식 저장소가 관리하는 CANNBench A3 하드웨어 순위 1위를 차지했으며, 벤치마크 가속비는 1.835×로 2위에 25% 앞섰다. 순위 외에도, AI가 스스로 연산자를 최적화하는 능력은 결코 얕볼 수 없다: DeepSeek v4.1 Flash의 연산자에서 ForgeKernel은 DeepSeek가 오픈소스로 공개한 엔비디아 버전과 비교해, 0부터 AI로 반복 개발하는 방식으로 성능을 능가했다.
이는 지능 진화의 계주이다. DeepSeek의 오픈소스 정신이든 연산자 최적화 순위의 치열한 경쟁이든, 결국 모두 같은 방향을 향하고 있다: 중국산 지능이 모든 칩 위에서 더 빠르게 실행되도록 하는 것이다.
엔비디아 SOL-ExecBench FlashInfer-Bench
승텅 CANNBench A3 하드웨어 순위