AIbaseActualizado el

Intel entra en el mercado de inferencia de modelos grandes! Lanzamiento de la serie GPU D: la versión más avanzada tiene 480 GB de memoria…

En la cumbre global de OCP, Intel lanzó una nueva serie de GPU D para la inferencia de IA (código de producto: Crescent Island; página del producto: D270). Esta tarjeta de aceleración es diferente de las GPU de…

En la cumbre global del proyecto Open Compute (OCP), Intel reveló oficialmente el misterio de la nueva serie de GPUs D para el campo de la inferencia de IA (código de producto oficial: D270, denominada Crescent Island). A diferencia de las GPU tradicionales dedicadas a la renderización de juegos, estas tarjetas de aceleración están diseñadas específicamente para el procesamiento de contextos largos y inferencias concurrentes múltiples, marcando otro intento poderoso de Intel en el campo de la inferencia de IA.

Indicadores clave destacados: alta memoria, bajo consumo de energía y compatibilidad sin interrupciones

Límite máximo de memoria gráfica masiva: La serie D admite hasta 480 GB de memoria LPDDR5X. Según datos oficiales, una sola tarjeta puede soportar modelos con hasta 300 mil millones de parámetros, mientras que un sistema de interacción de ocho tarjetas puede operar sin problemas con modelos enormes con más de 1 billón de parámetros. (Nota: la versión estándar de la tarjeta PCIe original de Intel tiene 160 GB de memoria gráfica, mientras que la versión de 480 GB está reservada para personalización por parte de socios ODM.)

Cálculo y rendimiento de eficiencia energética: basado en la nueva arquitectura Xe3P, el ancho de banda de memoria visual alcanza 1.5TB/s, y con precisión FP8 puede generar una capacidad de cálculo de 1.3PFLOPS, mientras que el consumo máximo de energía de toda la placa se mantiene en 350W.

Despliegue listo para usar inmediatamente: utiliza una forma estándar PCIe y un diseño de refrigeración por aire, lo que no requiere la transformación costosa en refrigeración líquida del centro de datos existente, reduciendo significativamente el umbral de despliegue para las empresas.

¿Por qué elegir LPDDR5X?

Por lo general, las tarjetas de aceleración AI de alto rendimiento con alta consumo de energía utilizan priormente memoria gráfica HBM de alta banda ancha, mientras que el LPDDR5X es común en dispositivos móviles sensibles al consumo de energía. La razón principal por la que Intel ha elegido el LPDDR5X para los GPU a nivel de data center es su alto ratio de eficiencia energética y su gran capacidad.

La capacidad de hasta 480 GB se instala directamente en la tarjeta de aceleración, lo que permite que los parámetros de peso y los datos del contexto durante el proceso de inferencia de modelos grandes queden “residentes” en la memoria de una sola tarjeta. Esto reduce significativamente el costo de comunicación de red cuando el modelo se divide entre varias tarjetas, y es ideal para aplicaciones frecuentes como el procesamiento de prompts largos, servicios de IA de nivel empresarial, concurrencia multi-tenant y respuestas en tiempo real de robots.

 Progreso de lanzamiento al mercado

Actualmente, la serie D de GPUs de Intel ya ha entrado en la fase de envío a clientes, y aún no se ha anunciado un precio público ni el momento exacto de su lanzamiento oficial. Con la introducción de este producto importante, la competencia en el mercado de inferencia de IA para centros de datos sin duda experimentará una nueva etapa de intensificación.

Fuente original

AIbase

Notas sobre el contenido

La publicación original y los derechos pertenecen a la fuente.

Traducción automática · Consulte el original