DeepSeek는 이날 공식 발표를 통해, 일련의 대규모 모델, TileLang 컴파일 도구, 추론 연산자 라이브러리를 차례로 내놓은 데 이어, 자사의 내부 추론 프레임워크 DeepInfer까지 전면 오픈소스로 공개했다. 이 회사가 채우고자 하는 것은 오랫동안 조명 밖에 가려져 있던 단계, 즉 추론 프레임워크다.
DeepSeek의 정의에 따르면, 모델 능력의 상한은 모델 자체가 결정하지만, "합리적인 비용으로 초대규모 모델을 어떻게 제공할 것인가"는 이 중간 아키텍처에 달려 있다. 훈련이 모델을 학습 완성 상태로 만든다면, 추론이야말로 모델을 사람들이 쓸 수 있게 하는 단계다. 방대한 사용자가 동시에 호출할 때, 추론 프레임워크는 복잡하게 얽힌 연산 클러스터를 통합 조율하며, 그 효율의 높낮이는 AI 서비스의 연산 비용과 전력 소비를 직접 좌우한다. 모델 가중치처럼 주목을 끌지는 못하지만, 실험실의 능력을 현실로 옮기는 핵심 관문이다.
오픈소스는 코드만 주는 것이 아니라, AI 사용 가격까지 낮추는 것
DeepSeek의 의도는 분명하다. 내부 배포 경험을 공개하여 개발자와 기업 조직이 대규모 추론의 처리량과 지연 시간을 최적화하도록 돕고, 프라이빗 또는 퍼블릭 클라우드 배포를 더 효율적으로 구축하게 하여 연산 비용과 전력 소모를 줄이는 것이다. 한마디로, 더 저렴한 가격으로 더 많은 사람에게 지능을 전달하여 "진정한 대규모 모델 보편화"를 실현하겠다는 것이다.
이 프레임워크는 허풍이 아니다. DeepInfer를 기반으로 DeepSeek는 공식적으로 DeepSeek V4.1 Flash의 고처리량, 저지연 대규모 추론 서비스를 이미 구동하고 있다. 앞으로 새 모델의 추론 코드와 후속 튜닝도 이곳에서 지속적으로 업데이트될 예정이다. 공개된 기능 목록을 보면, DeepInfer는 고성능 연산자와 깊이 최적화된 추론 엔진을 통합했으며, 분산 추론, 추측 디코딩, SWA Bounded Replay, 구조화된 출력 등의 기능을 지원하고, 동시에 엔비디아와 화웨이 승텐 두 플랫폼과 호환된다. 수출 통제가 국산 대체를 압박하는 지금, 이러한 "양대 스택 모두 커버"하는 적응성은 국내 개발자에게 특히 실질적이다.
프레임워크와 함께 오픈소스로 공개된 것에는 deepseek-recipe라는 프로덕션급 토큰 인코딩·디코딩 컴포넌트도 있으며, 처리 로직이 DeepSeek 공식 API와 완전히 정렬되어 있어 커뮤니티가 얻는 경험이 공식 배포와 똑같음을 보장한다. 두 코드는 각각 GitHub의 deepseek-ai/DeepInfer와 deepseek-ai/deepseek-recipe에 호스팅되어 있다.
모델에서 연산자 라이브러리, 추론 프레임워크까지, DeepSeek는 "모델을 만드는" 전체 기술을 오픈소스 커뮤니티로 옮기고 있다. 연산 비용이 AI 보급의 최대 장벽이 된 지금, 효율의 핵심을 내놓는 것이 몇 개의 가중치를 공개하는 것보다 생태계를 더 크게 움직일 수 있다. 어차피 업계가 매 kWh, 매 장의 카드에서 더 높은 산출을 짜낼 수 있게 돕는 이가 바로 보편화 서사의 진짜 주도권을 쥐는 사람이기 때문이다.