El martes, Google anunció que TorchTPU, su esperada versión de PyTorch, ya está disponible como un proyecto de código abierto. Con esto, Google se suma a Amazon en el intento de romper el dominio de Nvidia en la industria de la IA, donde la mayoría de las aplicaciones de IA están escritas por defecto para ejecutarse en los chips de Nvidia, o GPU.
PyTorch es el popular kit de herramientas de código abierto que los desarrolladores de aplicaciones de IA y las startups utilizan para construir, entrenar y ejecutar modelos de IA. Según algunas estimaciones, lo usa el 85% de las aplicaciones de IA. PyTorch fue desarrollado originalmente por Meta (entonces Facebook) en 2016, mucho antes de que el mundo tuviera la menor idea de que los LLM cambiarían el mundo. En ese momento, las GPU de Nvidia ya eran el hardware estándar para la investigación en IA, por lo que muchas de las características de PyTorch se construyeron para funcionar específicamente con ellas. En 2022, Meta cedió PyTorch a la Linux Foundation, una organización sin fines de lucro que gestiona muchos proyectos importantes de código abierto.
La versión de Google, TorchTPU, permite que las aplicaciones de IA se ejecuten en los chips de IA de Google, llamados Tensor Processing Units (TPU). También facilita el traslado de las aplicaciones PyTorch existentes a las TPU y, por lo tanto, a Google Cloud. Los desarrolladores pueden hacerlo con un simple cambio de configuración y sin reescribir sus aplicaciones.
Amazon hizo un anuncio similar el lunes, cuando lanzó su propia versión de PyTorch, llamada TorchNeuron. TorchNeuron permite portar las aplicaciones de IA al chip de IA propio de Amazon, Trainium, y a AWS sin necesidad de reescribir. Amazon también dijo que va aún más lejos en su esfuerzo por debilitar el control de Nvidia sobre PyTorch. Está enviando código al proyecto principal de PyTorch que desacopla varias características de los chips de Nvidia, haciéndolo más abierto a cualquier hardware por defecto.
Sin embargo, Google podría estar superando a Amazon en algunos aspectos. Dice que trabajó directamente con Meta, Hugging Face, Inferact (creador de vLLM), RadixArk (creador de SGLang) y otros para garantizar que las características y bibliotecas de código de TorchTPU funcionen bien con estas populares herramientas de desarrollo de IA, al igual que lo hace el PyTorch original.
Además, el gigante de las búsquedas ha lanzado una herramienta dedicada, el TPU agent suite, para ayudar a los desarrolladores a trasladar sus aplicaciones a los chips y la nube de Google y corregir errores en el camino. Incluso actualizó su popular herramienta LiteRT, que ejecuta IA en teléfonos, portátiles y dispositivos integrados, para que funcione mejor con las aplicaciones de IA de PyTorch.
Nada de esto significa que los desarrolladores de aplicaciones de IA abandonarán automáticamente el hardware de Nvidia en masa solo porque ahora pueden trasladarse fácilmente a chips y nubes alternativos. Pero Amazon y Google claramente están trabajando para poner fin a la ventaja de Nvidia.