IT之家 El 11 de noviembre, AMD anunció en la hora local del día 9 de este mes que colaborará con Spectro Cloud para lanzar la plataforma de programación asistida por IA empresarial Instinct Coder 355. Este sistema soporta el despliegue de inferencia GLM-5.3 y logra un 98% de rendimiento en modelos avanzados en el entorno local.
El corazón de la Instinct Coder 355 es 8 aceleradores de tarjetas AMD Instinct MI355X, junto con 2 CPUs EPYC 9575F “Zen 5” de 64 núcleos, además de 3TB de RAM DDR5-6400 RDIMM y un total de 63.36TB de almacenamiento SSD. Existen diferencias en las especificaciones entre la versión Dell y la versión Supermicro.
El sistema permite que cada nodo satisfaga las necesidades de un máximo de 85 desarrolladores (con 50 en paralelo). Spectro Cloud proporciona al sistema Instinct Coder 355 el software de gestión PaletteAI Inference Launchpad, que llama por defecto a la potencia de cálculo local en lugar de a los API en la nube.