10月16日、北京– 范式智能技術集団有限公司（“范式”または“集団”、株式コード：6682.HK）と北京睿思智聯科技有限公司（“睿思智聯”）は、生産レベルのAI導入プラットフォーム「模域」(ModelSphere)が正式に公開されたと発表しました。このプラットフォームは企業ユーザー向けに無料でオープンソースとして提供され、計算能力の管理、モデルの導入、運用最適化を統一プラットフォーム内で行うことで、導入と運用のハードルを低減し、安全で安定した実際の業務に利用可能なAIサービスへ計算能力を効率的に変換することを支援します。このプラットフォームはGitHubでオープンソースとして公開されています。
Githubアドレス：https://github.com/modelsphere/modelsphere
大規模モデルが事業化の段階に入るにつれて、企業は計算能力の管理、モデルの展開、効率の最適化において、資源の利用率が低い、チップエコシステムが断絶している、展開のハードルが高い、生産環境の調整が難しいなどの問題に直面しています。 モドウは、これらの作業を一つの統一されたデプロイと管理プロセスに統合することに努めています。その結果、企業が基盤システムの適応、リソースの調整、日常の運用管理において行う過度な投資を減らすことができます。技術チームは、コンパイルやハードウェアの適合といった複雑な作業を深く習得する必要なく、各種オープンソースの大規模モデルを核心業務プロセスに組み込むことができるようになります。これにより、技術チームはアプリケーション開発と業務要求の実施により集中できるようになります。
モード域は4つの主要な利点を持っています：
1.展開を簡素化し、モデルサービスの安定した運用を保証する：モデルエリアはグラフィカル操作パネルと事前設定された展開機能を提供し、環境設定コードの誤差を減らす。これにより開発者は迅速に大規模モデルによる推論サービスを構築でき、異なるチップクラスタの展開も簡素化される。プラットフォームには、自動的な弾力性のある拡張、PD分離展開、三段階のKVキャッシュ、高可用性の負荷分散およびサービス切断時の自動再接続などの企業レベルの機能が内蔵されており、モデルサービスが生産環境で安定して運用されることをサポートする。
2.継続的な自動化最適化を行い、モデルの運用効率を向上させる：プラットフォームにはAutoTuneスマートモデルスケジューリング戦略が内蔵されており、ハードウェア加速機能と組み合わせた自己適応型負荷均衡スケジューリングも実装されている。これにより、モデルのリクエスト処理能力と最初の応答速度が最適化され、システムの限界スループット効率は基準値比で約285%向上し、性能は4倍に高まる。つまり、計算能力が「最大限」まで発揮されることになる。
3. 様々なチップを一元管理し、重複した適合作業を減らす：プラットフォームはEngineX推論エンジンを統合し、多種のコンピューティングチップに対して深い最適化を実施します。これにより、華為昇腾、天数智芯、モールスレッド、海光DCUなどの国産コンピューティングリソースを一元的かつ混合的に調整可能となり、ユーザーは異なるチップに対して根本的なロジックコードを書き直す必要がありません。
4. 主流モデルへの適合を継続的に最適化し、アプリケーションの導入を加速する：モデルチームはオープンソースコミュニティのイテレーションを継続的にフォローし、DeepSeek-V4/V4-Flash、Qwen、Kimi、MiniMax、GLMなどの主流モデルに適合・最適化を行っています。モデルのリリース後、迅速に導入でき、性能を生産環境に合わせて調整することで、企業が新しいモデルを実際の業務に活かすことが可能になります。
技術的な面では、モデルエンジンはvLLMやSGLangなどの推論エンジンと連携しています。推論エンジンは単一サーバーの計算効率を向上させる役割を担い、モデルエンジンはクラスターアーキテクチャレベルの管理と最適化を行います。これには負荷やキャッシュの認識に基づくリクエストルーティング、統一されたKVキャッシュプール、サービス品質に基づく自動拡張・縮小、サービス切断時の自動再接続、オンラインデータに基づく自動パフォーマンス調整、運用監視およびサービス管理などが含まれます。これにより、生産環境下でのシステムの高性能と高可用性が保証されます。
モデル領域は緩やかなApache 2.0プロトコルを採用して完全にオープンソースとなっており、大規模モデルのデプロイと最適化の技術能力をより多くの企業や開発者に開放します。同時に産業界の力を結集し、さまざまなチップやモデルへのサポートを継続的に向上させ、ハードウェアの対応障害を減らし、大規模モデルの活用のハードルを下げ、企業が既存のコンピューティング能力を有効に活用し、異種コンピューティング能力の商業的潜在力を効率的に発揮できるようにします。
本文はファン・パンが提供し、量子位が許可を得て転載したもので、意見は原作者に帰属する。