IT之家 10 月 23 日付の報道によると、中国信息通信研究院（略称「中国信通院」）人工智能研究所、人工知能大モデルおよびソフトウェア・ハードウェア評価工業情報化部重点実験室、中国人工智能産業発展連盟は、本日（10 月 23 日）『大モデルトークンサービス性能モニタリング報告（2026 年）』を共同発表した。
報告書によると、大モデル技術の急速な迭代に伴い、トークン（Token）サービスが技術から応用へ向かう鍵となるポイントとなり、我国のトークン日次平均呼び出し量は増加し続けており、2026 年 6 月には、国内のトークン日次平均消費量は約 500 兆となり、2025 年 12 月の約 4 倍に達した。
産業界では、ますます多くの MaaS（Model as a Service、モデル即サービス）プラットフォーム事業者が、パブリッククラウド API 方式で大モデルのトークンサービスを提供している。しかし、ユーザーはトークンサービスの性能を直感的に判断する根拠に欠けており、選定の難しさなど各種の問題に直面している。
報告書は 2026 年 1 月から 8 月までのモニタリングデータに基づき、各プラットフォームのトークンサービス呼び出し成功率、スループット速度、最初のトークンの遅延、安定性、価格、コンテキストウィンドウなどの次元をめぐって分析を行い、オリジナル大モデルの公式プラットフォーム、および DeepSeek、Qwen、GLM、Kimi の 4 種のオープンソースモデルのサードパーティプラットフォーム上での性能差を比較し、トークンサービス性能に影響を与える鍵となる要素をさらに分析し、産業の核心的な観察をまとめ、次の段階の作業計画を明確にして、ユーザーの選定に参考を提供するとともに、産業界のサービス能力の最適化に方向性の指針を提供することを目指している。
1. 国内トークンサービスの毎秒スループットは 2025 年に比べて倍増するも、海外には及ばず
報告書は、8 月の国内各モデルの平均 TPS（毎秒出力トークン数）が 78.23（個 / 秒）に達し、2025 年の平均値 38.25（個 / 秒）と比べて倍増を実現した。しかし 8 月の海外の代表的モデルの TPS 平均値は 112.82（個 / 秒）であり、2025 年 12 月の 51.35（個 / 秒）と比べて 2 倍以上の向上となっており、全体として国内を上回っている。
2. トークンサービスの遅延がやや増加、国内外で傾向は一致
報告書は、今年に入ってから、国内各モデルの平均 TTFT（最初のトークンの遅延）は増加し続ける傾向を示し、8 月の平均値は 1.26 秒に達し、2025 年の平均値 0.78 秒に比べて明らかに増加した。しかし同時に、8 月の海外の代表的モデルの TTFT 平均値は 2.08 秒に達し、4 月の 1.04 秒に比べてこれも明らかに増加している。
注目すべきは、TTFT の上昇は単純な性能の退化ではなく、モデルのパラメータ量の増加、コンテキスト長の増加、呼び出し量の増加など複数の要因に伴って同時に生じた結果であるということである。
3. 2026 年のトークンサービス価格が明らかに回復
報告書は、過去 2 年間の価格戦を経て、2026 年には国内外のモデルサービス価格が明らかに上昇したと指摘している。国内の 2025 年下半期の正規化平均価格は 6.8 元であったのに対し、今年に入ってからの平均価格は 13.46 元となり、上昇幅はほぼ 1 倍に達した。しかし海外の価格は依然として国内を上回っており、2026 年以降に発表された代表的モデルの平均正規化価格は約 117.8 元である。
4. モデルのコンテキスト長が絶えず百万級の長さへ拡大
報告書は、モニタリング対象のモデルのうち、コンテキスト長が 1M（100 万トークン）に達したモデルの割合は 47.8%、200K 以上の合計は 95.7% に達し、2025 年末の割合に比べて 76 ポイント以上上昇しており、一方で 200K 未満のモデルの割合は減少し続けていると指摘している。
5. オープンソースモデルのトークンサービス性能が大幅に向上、同一モデルでもプラットフォーム間で性能のばらつきが大きい
報告書によると、5月に4種類のオープンソースモデルの新バージョンの監視を更新したところ、TPSは継続的に向上し、TTFT遅延は絶えず圧縮されていることが分かった。例えば8月にはDeepSeek-V4-ProのTPSがDeepSeek-V3.2の2倍に達した。
遅延の面では、5月に主要モデルの世代交代アップグレードが完了した後、TTFTは一時的に上昇したが、推論最適化措置の実施に伴い、遅延指標は徐々に世代交代前の水準まで回復した。
同時に、4種類のモデルは、プラットフォームごとにTPS、TTFT、呼び出し成功率の性能が異なる。一部のサードパーティプラットフォームは、公式プラットフォームが提供するモデルサービスを明確に上回る性能を示しており、同一モデルのTPSの差はプラットフォーム間で最大2倍近くに達する。各プラットフォームにおける同一モデルへの推論加速、最適化戦略、コスト管理の違いが、性能格差を生じさせる主な原因である。