DeepSeekはこの日、一連の大モデル、TileLangコンパイルツール、推論演算子ライブラリを相次いで公開してきた後に、さらに自社の内部推論フレームワークDeepInferを全面オープンソース化すると公式発表した。同社が補おうとしているのは、長い間スポットライトの外に隠れていた環節——推論フレームワークである。
DeepSeekの定義では、モデルの能力の上限はモデルそのものによって決まるが、「どのように合理コストで超大規模モデルを提供するか」は、この中間アーキテクチャの層に依存する。訓練がモデルを学び完成させるのに対し、推論こそがモデルを実用に結びつける。膨大なユーザーが同時に呼び出す際、推論フレームワークは複雑に入り組んだ計算クラスタの統括・調度を担い、その効率の高低はAIサービスの計算コストと電力消費を直接左右する——モデルの重みほど注目を集めないが、研究室の能力を現実に移すための鍵となる関門である。
オープンソースはコードを提供するだけでなく、AI利用のコストをも下げる
DeepSeekの意図は明確だ。内部での運用経験をさらけ出し、開発者や企業組織が大規模推論のスループットとレイテンシを最適化できるよう支援し、プライベートクラウドでもパブリッククラウドでもより効率的にデプロイを構築できるようにして、計算コストを下げ、電力消費を抑える。一言でいえば、より安い価格で知能をより多くの人々に届け、「真の大モデルの普惠」を実現することだ。
このフレームワークは単なる言葉ではない。DeepInferに基づき、DeepSeekは公式にDeepSeek V4.1 Flashの高スループット・低レイテンシの大規模推論サービスをすでに実現している。今後の新モデルの推論コードやその後のチューニングも、ここで継続的に更新される予定だ。公開された能力リストによると、DeepInferは高性能演算子と深く最適化された推論エンジンを統合し、分散推論、推測デコード、SWA Bounded Replay、構造化出力などの機能をサポートし、NVIDIAとHuawei昇騰の両プラットフォームに同時対応している——輸出規制が国産代替を後押しする今、この「両スタック対応」の適応性は、国内の開発者にとって特に有益だ。
フレームワークと同時にオープンソース化されたのは、deepseek-recipeという本番レベルのTokenエンコード・デコードコンポーネントであり、処理ロジックはDeepSeek公式APIと完全に一致しており、コミュニティが得る体験が公式デプロイと全く同じになることを保証する。両コードは、GitHubのdeepseek-ai/DeepInferとdeepseek-ai/deepseek-recipeにそれぞれホストされている。
モデルから演算子ライブラリ、そして推論フレームワークへと、DeepSeekは「モデルを作る」技術一式をオープンソースコミュニティへ移し始めている。計算コストがAI普及の最大のハードルとなっている今、効率の中核を差し出すことは、単にいくつかの重みを公開するよりも、エコシステムを揺り動かす力になるかもしれない——業界が1キロワット時の電力、1枚のカードからより高い生産性を絞り出す手助けができる者が、普惠という物語の真の切り札を握るのだから。