Puntos clave
- Google presenta dos nuevos sistemas en su gama de chips de IA de octava generación, el TPU 8tx y el TPU 8i Max, ambos construidos sobre procesadores existentes.
- El TPU 8tx mantiene los datos confidenciales cifrados durante el procesamiento, mientras que el TPU 8i Max duplica la memoria y la potencia de cómputo dentro del mismo rack al combinar dos chips en un único encapsulado.
- Junto con herramientas de software como TorchTPU, Google busca reducir las barreras para los desarrolladores y comercializar cada vez más su hardware a clientes externos para la inferencia de modelos en el día a día.
Con dos nuevas variantes de TPU, Google apunta a cargas de trabajo de IA confidenciales y a aplicaciones con gran demanda de memoria. La expansión consolida el giro estratégico de Google hacia el posicionamiento de sus chips de IA propios como una plataforma amplia para clientes externos.
Google ha añadido dos nuevos sistemas a su gama de aceleradores de IA de octava generación: el TPU 8tx para computación confidencial y el TPU 8i Max para cargas de trabajo con uso intensivo de memoria. Con estas incorporaciones, Google afirma haber lanzado cuatro sistemas TPU en un solo año por primera vez.
Ambas nuevas variantes están construidas sobre silicio existente. Google no introduce aquí una nueva generación de chips, sino nuevas configuraciones de sistema: distintos encapsulados, distintas redes y distintas configuraciones de memoria alrededor del mismo procesador. La empresa presenta este enfoque modular como una decisión de diseño deliberada que le permite entregar nuevas variantes de hardware en meses en lugar de años.
El TPU 8tx mantiene los datos sensibles cifrados incluso durante el procesamiento
El TPU 8tx está dirigido a empresas y agencias gubernamentales que trabajan con datos confidenciales. Normalmente, los datos se cifran durante el almacenamiento y la transmisión, pero deben descifrarse en la memoria una vez que un procesador trabaja con ellos.Ad
El TPU 8tx está diseñado para cerrar esa brecha. Según Google, los datos y los pesos del modelo permanecen protegidos y aislados incluso durante el uso activo. Nvidia ya ofrece una función comparable para GPU mediante su arquitectura de computación confidencial.
El sistema utiliza la misma red Boardfly de baja latencia que Google desarrolló para la inferencia en tiempo real y se espera que ofrezca hasta el doble de reducción de latencia en comparación con el TPU 8t. Google afirma que las empresas pueden usar un solo sistema para ajustar modelos, destilar modelos grandes en otros más pequeños y entrenar agentes de IA con aprendizaje por refuerzo, todo sin mover datos sensibles entre diferentes clústeres.
El TPU 8i Max duplica la potencia de cómputo en el mismo rack
El TPU 8i Max aborda un problema diferente: el cuello de botella de la memoria. Cuando los agentes de IA trabajan simultáneamente sobre grandes bases de código u horas de video, el ancho de banda de la memoria se convierte en el punto crítico. Google resolvió esto colocando dos chips TPU 8i en un único encapsulado.
El resultado es el doble de potencia de cómputo, el doble de memoria y el doble de ancho de banda de memoria en el mismo formato de rack, lo que significa un rendimiento significativamente mayor por metro cuadrado de espacio de centro de datos.Ad
Google reduce las barreras para la adopción de TPUs
Más allá del hardware, Google está trabajando para facilitar el uso de los TPUs. La empresa ha lanzado TorchTPU como código abierto, de modo que el código de PyTorch debería ejecutarse en TPUs con cambios mínimos. También se admiten frameworks de inferencia populares como vLLM y SGLang.
El mercado de la inferencia impulsa la carrera por los chips personalizados
La expansión es una respuesta directa al giro estratégico de Google de tratar los TPUs como una herramienta puramente interna a comercializarlos como una plataforma competitiva para clientes externos. La empresa ahora cuenta con casi 100 clientes externos de TPU.
Una tendencia de mercado más amplia impulsa este empuje. A medida que las aplicaciones de IA se extienden, el foco se desplaza de las costosas sesiones de entrenamiento a la inferencia, es decir, la operación diaria de los modelos. Los chips especializados como los TPUs pueden explotar sus fortalezas precisamente en esta área. Por eso también Amazon, Microsoft y OpenAI están desarrollando sus propios aceleradores.
Nvidia ha respondido reforzando su propia oferta de inferencia mediante su adquisición-contratación y acuerdo de licencias con Groq.