中国製大規模モデルの競争は、モデル層から計算資源層へと広がりつつある：どれほど強力なモデルも、最終的には演算子を通じてチップ上で実行される。同じモデル、同じチップでも、より優れた演算子に置き換えることで、時には数倍の性能向上が得られることもある。演算子の効率は、同じ GPU がどれだけ速く動けるかを決め、token あたりの価格も決める。
DeepSeek はこのほど、推論フレームワーク DeepInfer を全面オープンソース化した。モデルの重みや FlashMLA、DeepGEMM などの演算子ライブラリに続き、モデル実行の一連のパイプラインを公開した。その中の FlashMLA には、エンジニアがチップ上で一行ずつ手作業でチューニングしたバージョンがあり、演算子性能はハードウェア限界の 90% 以上に達しており、これは現在人間の技が一部のチップ上で到達した限界の成績でもある。
しかもこの限界は、同じ週に AI によって塗り替えられた。伝えられるところによると、10 月 22 日時点で、完全に AI が演算子を記述し、人手による1行単位のチューニングを一切行っていない ForgeKernel が、二つの演算子評価ランキングで同時に首位に立った。すなわち、NVIDIA の本拠地である SOL-ExecBench FlashInfer-Bench コレクションの第1位、および昇騰 CANN 公式リポジトリが管理する CANNBench A3 ハードウェアランキングの第1位で、ベンチマーク加速比は 1.835×、2位に 25% の差をつけた。順位以外にも、AI による演算子の自律的最適化能力は決して見過ごせない。DeepSeek v4.1 Flash の演算子において、DeepSeek がオープンソース化した NVIDIA 版と比べ、ForgeKernel も 0 から AI で反復する方式によって性能を逆転させたのだ。
これは知能進化のリレーだ。DeepSeek のオープンソース精神であれ、演算子最適化ランキングの熾烈な競争であれ、最終的にはすべて同じ方向に向かっている：中国製知能をすべてのチップ上でより速く動かすことだ。
NVIDIA SOL-ExecBench FlashInfer-Bench
昇騰 CANNBench A3 ハードウェアランキング