Le lundi, Amazon Web Services a lancé une outil appelée TorchNeuron qui permet aux start-ups de l’IA de transférer facilement leurs applications IA sur le chip d’IA d’Amazon, Trainium. En faisant cela, Amazon s’attaque également directement à l’avantage logiciel qui a permis à Nvidia de devenir la solution matérielle de référence pour les applications IA, et qui a stimulé sa montée en tant que fournisseur de matériel d’IA de choix.
TorchNeuron fonctionne avec PyTorch, un outil gratuit et open source que les développeurs utilisent pour construire, entraîner et exécuter des modèles d’IA. Il permet aux applications d’IA écrites avec PyTorch de fonctionner sur Trainium en modifiant simplement une seule ligne de configuration, selon Amazon – sans nécessité de réécrire le code.
Amazon indique que environ 85 % des applications d’IA sont écrites avec PyTorch. Facebook les a initialement développées, mais depuis 2022, elles font partie de la Linux Foundation, qui gère des projets open-source. Nvidia a consacré des années à s’assurer que son logiciel CUDA – l’infrastructure logicielle permettant aux applications de fonctionner sur les GPU et autres équipements Nvidia – soutienne sans problème les applications d’IA écrites avec PyTorch. Par conséquent, le matériel Nvidia est désormais profondément intégré dans l’ensemble des outils, par défaut.
TorchNeuron est adapté de PyTorch ; ainsi, les développeurs qui connaissent PyTorch savent déjà comment l’utiliser. Amazon n’est pas la première entreprise à tenter de mettre facilement ses puces sur cette plateforme. Les utilisateurs de PyTorch peuvent également porter leurs applications sur des GPU AMD ou même sur les puces d’Apple, grâce à une simple modification de configuration.
Cependant, Amazon affirme que le transfert vers Trainium n’est pas seulement simple ; cela permet également aux start-ups d’IA d’accéder à l’ensemble du cloud d’Amazon. Comme on pouvait s’y attendre, AWS déclare que c’est une meilleure option pour les start-ups que d’utiliser des neoclouds, dont beaucoup sont liés à Nvidia et à son matériel, tels que Coreweave, Nebius et Firmus.
« Vous construisez sur AWS. Vous ne misez pas sur un fournisseur de calcul à une seule fonction, et vous ne vous débutez pas à construire tout le reste autour de lui », a déclaré Colin Brace, vice-président des logiciels technologiques chez AWS Annapurna Labs (l’unité qui fabrique les puces personnalisées d’Amazon), à TechCrunch par e-mail. « Sur AWS », poursuivit-il, « l’infrastructure permettant de passer du prototype à la production est déjà présente, ce qui permet aux fondateurs de progresser rapidement et de se scaler lorsqu’ils en ont besoin. »
AWS indique que, puisque le même chip gère à la fois l’entraînement (apprentissage du modèle d’IA) et l’inférence (utilisation du modèle prêt à fonctionner, comme lorsqu’il répond à une question d’un utilisateur), et qu’il est étroitement intégré à l’infrastructure cloud dont ont besoin les startups, son service cloud leur fera économiser de l’argent, même si AWS ne propose pas le prix le plus bas par token.
« La valeur de Trainium réside dans son rapport prix-performance, et surtout dans le fait qu’il s’agit d’une seule plateforme pour l’entraînement et l’inférence, ce qui améliore les économies lors d’un travail complet », a déclaré Brace. « Regardez Deepgram – ils » déplacé à Trainium En utilisant le PyTorch natif, ils offrent un soutien et permettent de traiter 70 % plus d’audio par dollar, avec une précision de niveau de production. Deepgram est un fournisseur d’applications de voix IA, concurrent de ElevenLabs.
Mais Amazon ne se contente pas de donner aux développeurs d’applications PyTorch une option simple pour passer vers son cloud.
Amazon indique également qu’elle encourage PyTorch à ne pas être trop centré sur Nvidia, et qu’elle contribuera le code nécessaire pour cela au projet principal de PyTorch. Dans le blog post annonçant l’outil nouveau, l’entreprise a écrit :
« L’approche d’Amazon va au-delà de ses propres équipements. L’entreprise apporte des modifications en amont à PyTorch lui-même, en collaborant avec la communauté de PyTorch pour éliminer le code qui relie le framework à des puces spécifiques. L’objectif est de rendre PyTorch plus indépendant du matériel pour toute la communauté de développeurs, et non seulement pour les utilisateurs de Trainium. »
Alors que cette tactique est sans aucun doute bénéfique pour ceux qui vendent du matériel et des services cloud concurrents avec Nvidia, l’une des caractéristiques de PyTorch est de cacher toutes les difficultés épineuses liées à l’exécution du code d’IA sur du matériel. Il faudra attendre pour voir si pousser Nvidia aussi loin apportera aux développeurs plus de choix et des options plus abordables, comme Amazon le promet, ou simplement davantage de problèmes de configuration.
D’une manière ou d’autre, si Amazon réussit à séparer profondément PyTorch de Nvidia, cela pourrait avoir des conséquences beaucoup plus importantes pour le géant des GPU que simplement faire face à des concurrents de chips. Comme Brace a dit : « L’histoire réelle est la suppression de cette dépendance qui empêchait les développeurs de faire une véritable choix. »