IT之家 Home 21 de octubre (mensaje): Google anunció el martes, hora local, que TorchTPU, el framework nativo de PyTorch para las TPU de Google, ya está disponible como código abierto en GitHub. Con ello, Google intenta, junto con Amazon, romper el monopolio de NVIDIA en la industria de la inteligencia artificial. Actualmente, la gran mayoría de las aplicaciones de inteligencia artificial se desarrollan y ejecutan por defecto sobre chips de NVIDIA, es decir, unidades de procesamiento gráfico (GPU).
PyTorch es una popular biblioteca de herramientas de código abierto de la que dependen los desarrolladores de aplicaciones de inteligencia artificial y las empresas emergentes para construir, entrenar y desplegar modelos de inteligencia artificial. Según algunas estadísticas, el 85% de las aplicaciones de inteligencia artificial utilizan PyTorch. PyTorch fue desarrollado inicialmente por Meta en 2016, en una época en la que la gente aún no era consciente en absoluto de que los grandes modelos de lenguaje cambiarían el mundo. En aquel momento, las GPU de NVIDIA ya eran el hardware estándar para la investigación en inteligencia artificial, por lo que muchas de las funciones de PyTorch se crearon específicamente para adaptarse a las GPU de NVIDIA. En 2022, Meta entregó PyTorch a la Fundación Linux, una organización sin fines de lucro que gestiona muchos proyectos importantes de código abierto.
TorchTPU, presentado por Google, permite que las aplicaciones de inteligencia artificial se ejecuten en las TPU (unidades de procesamiento de tensores), los chips de inteligencia artificial desarrollados por la propia Google. También permite migrar de manera sencilla las aplicaciones PyTorch existentes a las TPU y, a partir de ahí, a Google Cloud. Los desarrolladores solo necesitan realizar pequeñas modificaciones en la configuración y pueden completar la migración sin reescribir el código de la aplicación.
Amazon publicó un anuncio similar el lunes, hora local, al lanzar su propia versión de PyTorch, TorchNeuron. TorchNeuron permite trasladar aplicaciones de inteligencia artificial a Trainium, el chip desarrollado por la propia Amazon, y a Amazon Web Services (AWS) sin necesidad de reescribir el código. Amazon también declaró que debilitará aún más el control de NVIDIA sobre PyTorch. La empresa está enviando código al proyecto principal de PyTorch para desacoplar las diversas funciones de los chips de NVIDIA, de modo que PyTorch sea compatible de forma nativa con todo tipo de hardware.
Sin embargo, IT之家 observa que las medidas de Google podrían ser más ambiciosas que las de Amazon en algunos aspectos. Google afirma que ha colaborado directamente con Meta, Hugging Face, Inferact (desarrollador de vLLM), RadixArk (desarrollador de SGLang) y otras partes para garantizar que las funciones y la base de código de TorchTPU sean tan compatibles con estas principales herramientas de desarrollo de inteligencia artificial como lo es el PyTorch original.
Además de esto, el gigante de las búsquedas lanzó una herramienta especializada, el TPU Agent Kit (kit de agentes TPU), para ayudar a los desarrolladores a migrar sus aplicaciones a los chips y a la plataforma en la nube de Google, y a detectar y corregir errores durante el proceso de migración. Google también actualizó la herramienta LiteRT, de uso generalizado, que se emplea para ejecutar modelos de inteligencia artificial en teléfonos móviles, portátiles y dispositivos integrados; tras la actualización, ofrece un mejor soporte para las aplicaciones de inteligencia artificial desarrolladas sobre PyTorch.
Estos avances...