AIbase更新日

インテルが大規模モデルの推論市場に参入!GPU Dシリーズを発表:最高で480GBのメモリを搭載し、兆単位のパラメータを扱う推論に特化しています

OCPグローバルサミットで、インテルはAI推論向けの新しいGPU Dシリーズ(コードネームCrescent Island、製品ページはD270)を発表した。このアクセラレーターカードはゲームレンダリング用GPUとは異なり、長いコンテキスト処理と複数の同時推論に特化して設計されており、最大480GBのLPDDR5Xメモリをサポートしている。高いメモリ容量、低消費電力、シームレスな互換性を特徴とし、AI推論分野への参入を示している。

オープンコンピューティングプロジェクト(OCP)の世界会議で、インテルはAI推論分野向けの新しいGPU Dシリーズ(コードネームCrescent Island、公式製品ページではD270と記載)の神秘を正式に明かした。ゲームレンダリングに特化した従来のGPUとは異なり、このシリーズの加速カードは長いコンテキスト処理と複数の並行推論を解決するために設計されており、インテルがAI推論分野で再び力を入れることを示している。

核心的な優位指標:高い記憶容量、低消費電力、シームレスな互換性

大量のGPUメモリ上限:Dシリーズは最大480GBのLPDDR5Xメモリをサポートする。公式データによると、1枚のカードで3000億パラメータのモデルを処理でき、8枚のカードが相互に接続されたシステムでは1万亿パラメータの巨大なモデルをスムーズに実行できる。(注:インテルのオフィシャルPCIeカードの標準仕様は160GBのメモリであり、480GB版はODMパートナー向けのカスタマイズ可能な上限である)

計算とエネルギー効率の性能:新しいXe3Pアーキテクチャを基に、メモリ帯域幅は1.5TB/sに達し、FP8精度で1.3PFLOPSの計算能力を実現でき、同時にチップ全体の消費電力上限は350Wに抑えられている。

開封すぐに使用可能:標準のPCIe形状と風冷冷却設計を採用しており、既存のデータセンターに高額な液体冷却の改造を行う必要がなく、企業の導入ハードルを大幅に下げます。

なぜLPDDR5Xを選ぶのか?

通常、高消費電力のトップクラスのAIアクセラレーターカードは、高帯域幅のHBMメモリを採用することが多いですが、LPDDR5Xは消費電力に敏感なモバイルデバイスでよく使用されます。インテルがデータセンターレベルのGPUでLPDDR5Xを選択した主な理由は、非常に高いエネルギー効率と大容量です。

480GBの容量を直接アクセラレーターカードに搭載することで、大規模モデルの重みパラメータや推論過程におけるコンテキストデータを一つのカードのメモリにできるようになります。これにより、モデルがカード間で分割されるネットワーク通信のコストが大幅に減少し、長いプロンプト処理、企業レベルのAIサービス、マルチテナントの並行処理、ロボットのリアルタイム応答といった頻繁に発生するアプリケーションにおいて非常に適しています。

 市場導入進捗

現在、インテルGPU Dシリーズは顧客へのサンプル提供段階にあり、公開価格や正式発売の正確な日付はまだ発表されていません。この重要な製品が登場することで、データセンターのAI推論市場の競争は間違いなく新たな段階に進むでしょう。

原文の出典

AIbase

内容について

原文の公開と権利は出典元に帰属します。

機械翻訳 · 原文をご参照ください