IT之家 Message du 21 octobre : Google a annoncé mardi, heure locale, que TorchTPU, un framework PyTorch natif pour les TPU de Google, est désormais disponible en open source sur GitHub. Par ce biais, Google tente, aux côtés d'Amazon, de briser le monopole de NVIDIA dans le secteur de l'intelligence artificielle. Actuellement, la grande majorité des applications d'IA sont développées et exécutées par défaut sur des puces NVIDIA, c'est-à-dire des processeurs graphiques (GPU).
PyTorch est une bibliothèque open source très populaire sur laquelle s'appuient les développeurs d'applications d'intelligence artificielle et les startups pour construire, entraîner et déployer des modèles d'IA. Selon certaines statistiques, 85 % des applications d'intelligence artificielle utilisent PyTorch. PyTorch a été développé à l'origine par Meta en 2016, à une époque où personne ne se doutait encore que les grands modèles de langage allaient changer le monde. À l'époque, les GPU de Nvidia étaient déjà le matériel standard de la recherche en intelligence artificielle, c'est pourquoi de nombreuses fonctionnalités de PyTorch ont été conçues spécifiquement pour s'adapter aux GPU de Nvidia. En 2022, Meta a confié PyTorch à la Fondation Linux, un organisme à but non lucratif qui gère de nombreux projets open source importants.
TorchTPU, lancé par Google, permet aux applications d'intelligence artificielle de fonctionner sur les TPU (Tensor Processing Units), les puces d'IA développées en interne par Google. Il facilite également la migration des applications PyTorch existantes vers les TPU, et donc vers Google Cloud. Les développeurs n'ont qu'à modifier simplement la configuration pour effectuer la migration, sans avoir à réécrire le code de leur application.
Amazon a publié une annonce similaire lundi, heure locale, en lançant sa propre version de PyTorch, TorchNeuron. TorchNeuron permet de porter des applications d'intelligence artificielle vers Trainium, la puce développée en interne par Amazon, ainsi que vers le cloud d'Amazon (AWS), sans réécriture de code. Amazon a également déclaré qu'il affaiblirait davantage le contrôle de NVIDIA sur PyTorch. L'entreprise soumet du code au projet principal de PyTorch afin de découpler diverses fonctionnalités des puces NVIDIA, permettant ainsi à PyTorch d'être nativement compatible avec tous les types de matériel.
Toutefois, IT之家 a remarqué que Google va peut-être plus loin qu'Amazon sur certains aspects. Google affirme avoir travaillé directement avec Meta, Hugging Face, Inflection (Inferact, développeur de vLLM), RadixArk (développeur de SGLang) et d'autres partenaires pour garantir que les fonctionnalités et la base de code de TorchTPU soient compatibles avec ces principaux outils de développement d'IA, tout comme le PyTorch original.
En outre, le géant de la recherche a lancé un outil dédié, la TPU Agent Suite (TPU 智能体套件), pour aider les développeurs à migrer leurs applications vers les puces et la plateforme cloud de Google, et à détecter et corriger les erreurs au cours de la migration. Google a également mis à jour LiteRT, un outil très utilisé permettant d'exécuter des modèles d'IA sur téléphones, ordinateurs portables et appareils embarqués, qui prend désormais mieux en charge les applications d'IA développées avec PyTorch.
Ces avancées ne signifient pas que les développeurs d'applications d'IA abandonneront en masse le matériel NVIDIA simplement parce qu'ils peuvent facilement migrer vers d'autres puces et plateformes cloud. Mais Amazon et Google s'efforcent manifestement de mettre fin à la position dominante de NVIDIA.