科大讯飞は本日午後、グローバル1024開発者祭で、訊飛星火X2.6端云一体大模型を正式に発表した。その最も特徴的な点は、初めて国産コンピューティング能力を基盤とし、コードとインテリジェントアプリの両方の能力を同時に実現したことである。会見で劉慶峰会長は、現在の大モデルを開発している企業の中で、星火だけが純粋に国産コンピューティング能力で訓練していると指摘した。他の企業はほとんどニューラビディアのカードを使用しており、科大讯飞のモデルのサイズはその中で最も小さいという。
国産コンピュータリングの効率を向上させるために、讯飞は今回、国産チップの重大な問題に直面した——グラフィクスメモリの帯域が限られており、長距離タスクの混合学習時の効率が向上しない。 劉慶峰は、X2.6が国産チップの長距離タスクの訓練効率のボトルネックを先駆的に突破したと述べました。これは、国産プラットフォームに適合した長距離タスクの動的並行訓練技術によるものです。推論側では、2つの革新が行われました。1つは国産異質計算能力に基づく分散型推論技術で、「訓練が速くない」帯域幅のボトルネックを解決します。もう1つは国産装置に基づく開発技術で、多くの中間結果を再計算する必要なく、元の結論を直接再利用できるようにします。
端側のこのモデルも一歩前進した。星火X2.6-4Bオープンソース端側大モデルが同時に公開され、初めて端側モデルがインテリジェントアプリの能力において飛躍的な進化を遂げ、各種スコアがX2.5-4Bと比べて明らかに向上した。9月1日にX2.5-4Bがオープンされた以降、そのダウンロード数は世界の端側モデルのトップ4に入っている。X2.6シリーズは現在、讯飞星火の公式ウェブサイトで試用が可能であり、星火大モデルの端云一体協同アーキテクチャが初公開された。
パラメータと価格設定も同時に公開されました。X2.6は国産コンピューティング能力によるトレーニングを基に、293B-A30Bのパラメータを持つMoEアーキテクチャを採用し、文脈長を1Mに設定しています。コードとアインセットの能力は業界トップクラスで、専門的なセキュリティ保護が提供され、タスクシナリオに応じた独自のセキュリティポリシーをサポートします。推論の限定価格は以下の通りです：百万トークンあたり0.9元、キャッシュ命中時0.08元、出力時3.6元です。 そして、X2.6-4Bの端側モデルは、コード、アイドル、長文、多言語能力において大幅に向上しています。新たに3つの推論モードが追加され、自社開発の推論フレームワーク下での効率性はollamaよりも優れており、推論の料金は無料で限定時間限りです。