IT之家 Message du 24 octobre : selon Andy Jassy, PDG d'Amazon, les coûts d'inférence de l'IA restent trop élevés,pour que l'IA soit largement appliquée aux logiciels d'entreprise, il faudrait que les coûts baissent à environ un dixième de leur niveau actuelet les puces développées en interne par Amazon devraient contribuer à réduire ces coûts.
Jassy a révélé dans une interview publiée le 23, heure locale, par la société de capital-risque a16z : « À mon avis, pour que l'IA soit adoptée aussi largement que possible, les coûts d'inférence restent un ordre de grandeur trop élevés. »
Amazon prévoit cette année 220 milliards de dollars (note d'IT之家 : soit environ 1,47 billion de yuans au taux de change actuel) de dépenses en capital, mais ne parvient toujours pas à construire suffisamment d'infrastructures pour répondre à la demande en IA. Jassy révèle que les capacités de calcul pour 2026 sont pratiquement complètes, que la majorité de celles de 2027 est déjà réservée par les clients et qu'une partie considérable de 2028 est également déjà vendue. Selon lui, la demande étant si forte, même si Amazon investissait beaucoup plus d'argent, ce ne serait pas du gaspillage.
Jassy compare la demande d'IA à un « haltère » : à une extrémité se trouvent les laboratoires d'IA, qui consomment une puissance de calcul « sans précédent » ; à l'autre, les clients entreprises, qui utilisent principalement l'IA pour des tâches spécifiques comme le service client et la détection de fraude.
Ce qui n'est pas encore véritablement exploité, c'est le marché intermédiaire, c'est-à-dire les divers logiciels utilisés quotidiennement par les entreprises. Ces logiciels n'ont pas encore intégré largement l'IA, mais Jassy estime que la plus grande demande d'IA à l'avenir pourrait précisément venir de ce domaine.
Le principal facteur limitant l'adoption de l'IA par les entreprises est le coût d'inférence. Chaque réponse à une question ou accomplissement d'une tâche par un modèle d'IA consomme de la puissance de calcul. Si les bénéfices apportés par l'intégration de l'IA ne suffisent pas à compenser des frais d'exploitation plus élevés, les entreprises n'ont guère de motivation pour restructurer leurs logiciels existants.
Jassy fait une comparaison avec l'expérience d'Amazon il y a plusieurs années. À l'époque, Intel dominait le marché des processeurs pour serveurs cloud. Amazon souhaitait obtenir de meilleures performances de calcul au même coût, mais a eu du mal à convaincre Intel de répondre en priorité à cette demande, et a finalement décidé de développer elle-même le processeur Graviton. À ses yeux, « la même histoire se rejoue dans le domaine de l'IA ».
Le marché des puces IA est actuellement dominé par NVIDIA. Amazon propose quant à elle ses puces Trainium développées en interne, espérant offrir à ses clients une option moins coûteuse. Dans l'interview, Jassy n'a pas nommé directement NVIDIA, s'est contenté de souligner que le fournisseur dominant du marché reste un partenaire important d'Amazon.
Selon les informations, le rapport qualité-prix de Trainiumest supérieur d'environ 30 % à 40 % à celui des processeurs similairesles clients obtiennent plus de puissance de calcul pour le même prix : « Notre activité de puces joue un rôle important dans la réduction des coûts d'inférence. »
Amazon avait précédemment révélé que Trainium avait obtenu plus de 225 milliards de dollars (soit environ 1,5 billion de yuans au taux de change actuel) d'engagements de revenus futurs, incluant des accords conclus avec Anthropic et OpenAI.