摩尔スレッド（Moore Threads）、階躍星辰のStep 5 Preview大規模モデルのDay-0対応をいち早く完了

摩尔スレッド（Moore Threads）、階躍星辰のStep 5 Preview大規模モデルのDay-0対応をいち早く完了

AIbase基地

大規模モデルと国産ハードウェアのエコシステム融合に加速ボタンが押されている。10月15日、階躍星辰は新世代大規模モデル Step5Preview を正式にオープンソース化した。同日、摩尔スレッドは公式に、同社のMTT S5000 AI演算カードおよび付属のMUSAソフトウェアスタックがいち早くこのモデルのDay-0対応を完了したと発表し、極めて高い対応力とイテレーション効率を示した。

技術パラメータの面では、Step5Preview は先進的なスパースMoEアーキテクチャを採用し、総パラメータ数は600Bに達し、トークンごとの活性化パラメータは27B、さらに最大100万トークンの超長コンテキストウィンドウをネイティブでサポートしている。強力なハードウェアとソフトウェアの基盤に支えられ、摩尔スレッドの今回の対応作業は、混合注意機構、混合精度推論、投機的デコーディングなどの中核部分を深くカバーしている。

今回の両社の効率的な協業は、最先端の超大規模モデルエコシステムに対する国産AI演算ハードウェアの支援能力が新たな段階に踏み出したことを示すだけでなく、多くの開発者が国産演算プラットフォーム上で複雑な長文テキストの大規模モデルをデプロイ・実行するための成熟した信頼性の高い基盤的な実装パスを提供するものである。

本記事はAIbaseデイリーから

【AIデイリー】コーナーへようこそ!ここは毎日人工知能の世界を探求するためのガイドです。毎日AI分野のホットな話題をお届けし、開発者に焦点を当て、技術トレンドの把握や革新的なAI製品・アプリケーションの理解をサポートします。