Neolab, incapable d'entraîner des modèles, se met à revendre des GPU.
Neolab, laboratoire d'IA émergent et projet de capital-risque le plus en vogue du moment — c'est-à-dire ces startups d'IA fondées par des chercheurs vedettes, qui obtiennent d'abord un financement massif avant d'investir dans le développement de modèles.
Nées sous les Projecteurs, elles sont officiellement toutes dédiées aux technologies de pointe, mais bon…
Récemment, un modèle économique « absurde » a commencé à faire surface, au point que même Elon Musk s'est déplacé pour observer :
Ces Neolab qui, grâce à leurs financements massifs, ont sécurisé à l'avance d'énormes quantités de puissance de calcul peuvent, même sans avoir entraîné de bons modèles,gagner gros en vendant des GPU.
Face à cette opportunité, le fondateur de Modal, licorne du cloud computing pour l'IA, a déclaré :
L'année prochaine, nous verrons probablement un grand nombre de Neolab se transformer en Neocloud (fournisseurs de cloud de calcul pour l'IA).
Les internautes ont déjà tout prévu pour les Neolab : dans le meilleur des cas, ils réalisent une percée technologique et deviennent le prochain OpenAI ; ensuite, ils peuvent se reconvertir dans les Agents verticaux pour entreprises afin de survivre ; et dans le pire des cas, si l'entraînement des modèles échoue, ils peuvent toujours sous-louer des GPU et verser des dividendes aux actionnaires pour garantir un plancher.
Voilà qui maîtrise véritablement la gestion du cycle et la couverture du risque.
Les pirates de la puissance de calcul arrivent
Dans l'entrepreneuriat des grands modèles, la puissance de calcul constitue le plus groscoût irrécupérable, représentant souvent la moitié, voire plus de 70 % des dépenses totales d'un Neolab.
Pour éviter qu'un cluster ne tombe soudainement à court de ressources en pleine période d'entraînement, la plupart des laboratoires, après avoir bouclé leur tour d'amorçage ou leur tour de série A, signent en priorité avec des fournisseurs de cloud ou de grands centres de données des contrats de location ferme de 1 à 3 ans.
De l'autre côté, pour diverses raisons, le marché au comptant de la puissance de calcul est actuellementsous forte tension.
Les loyers de marché du H200 ont grimpé jusqu'à environ 160 %, la nouvelle pépite du calcul B200 a augmenté de 120 %, et même le prix au comptant du H100 conserve une prime d'environ 35 %.
Face à cet énorme écart entre prix d'achat et de revente, nombre de laboratoires dont la recherche est bloquée et qui n'arrivent pas à produire de modèles se sont mis à jouer les pirates de la puissance de calcul.
En plus delancer des modèles avancés et de vendre des tokens, ils ont trouvé trois façons de gagner de l'argent.
La première consiste à revendre directement avec une prime leurs contrats de location de calcul à long terme à des courtiers, empochant une marge intermédiaire sans risque ;
la deuxième consiste à mettre en vente des instances GPU au comptant, à découper les nœuds inutilisés et à vendre de la puissance de calcul à court terme, au jour ou à la semaine, aux petites équipes en manque cruel de capacité de calcul ;
la troisième consiste à envelopper des modèles open source pour de l'inférence : abandonnant carrément le pré-entraînement, elles reconfigurent directement leurs puces pour héberger les principaux grands modèles open source et proposer des services API facturés au token.
Bref, elles gagnent de l'argent de toutes les façons, ça n'a aucune commune mesure.
Face à cette tentation de monétiser la puissance de calcul, un professeur associé de l'université Carnegie Mellon a également avoué sur X :
Génies de l'IA qui se lancent en entreprise, le capital-risque de la Silicon Valley commence à faire les comptes
En tant qu'espèce la plus attirante pour l'argent du capital-risque ces deux dernières années, les Neolab jouent tous à l'identique.
Elles sont généralement fondées par de célèbres scientifiques en chef de grands groupes de premier plan comme OpenAI, DeepMind ou Meta, ne se lancent jamais dans un développement applicatif fastidieux, annoncent dès leur lancement qu'elles veulent conquérir l'AGI, et grâce à une densité de talents exceptionnelle, elles mobilisent souvent des financements de plusieurs centaines de millions dès le stade de la simple présentation PowerPoint.
Cependant, selon le dernier rapport publié par Dealroom, une autorité européenne en matière de données sur le capital-risque, les 29 AI Neolab les plus représentatifs au monde ont cumulé un financement total de 23 milliards de dollars (soit 166 milliards de yuans), et parmi eux, seuls ceux qui ont réellement lancé des produits commercialisés vendus au public...représentent moins de 35 %.
Autrement dit,au moins 19 laboratoiresen sont encore au stade de la recherche fermée, ou n'ont publié qu'un livre blanc technique ou une démo.
Un exemple assez typique est Safe Superintelligence (SSI), cofondée par Ilya Sutskever, ancien scientifique en chef d'OpenAI.
Grâce à l'aura technologique incomparable de son équipe fondatrice, SSI a vu sa valorisation poussée à 32 milliards de dollars alors qu'elle existait depuis moins d'un an et comptait moins de quelques dizaines de membres. Une telle vitesse aurait été difficile à imaginer avant 23.
Pourtant, dès sa création, SSI a déclaré publiquement qu'avant d'atteindre la « superintelligence sûre (SSI) », l'équipe ne développerait absolument aucun produit commercial destiné aux consommateurs ou aux entreprises.
La nostalgie est certes noble.
Mais un VC de la Silicon Valley a fait le calcul suivant : aujourd'hui, un cycle complet d'entraînement ordinaire d'un modèle de baseIl faut brûler au moins 10 millions de dollars de puissance de calcul.
Si l'on veut récupérer cet argent uniquement en fournissant ensuite une API et en vendant des tokens petit à petit, cette entreprise doit, après déduction des coûts d'électricité, de bande passante et d'amortissement, vendre avec succès au marché un volume cumulé d'appels effectifs de 10 trillions de tokens.
De plus, dans le contexte actuel où les grands acteurs de tête bradent des modèles open source sous forme de subventions, voire gratuitement, les laboratoires dépourvus de flux de travail d'entreprise et de données monopolistiques qui voudraient rentabiliser leur investissement uniquement en vendant des API, ce n'est pas très réaliste.
Par ailleurs, selon Business Insider, Matt Murphy, vétéran de la Silicon Valley qui avait participé aux premiers investissements dans Google et mené l'investissement de Menlo dans Anthropic, estime queNeolab est actuellement l'un des domaines d'investissement les plus surmédiatisés.
Selon lui, le succès des débuts de Google s'apparentait à « jeter une allumette dans un feu de camp », tandis que certains Neolab d'aujourd'hui tentent de « rallumer une allumette avec une pile de feux de camp ».
À ses yeux, injecter d'un coup des dizaines de milliards de dollars dans des laboratoires de pointe en phase de démarrageélève artificiellement, au contraire, le seuil de leur succès commercial.
One More Thing
Face à cette opération de revente de puissance de calcul des Neolab, Musk s'est lui aussi invité pour commenter.
Autrement dit, acheter autant de cartes ne sert à rien, car la pénurie actuelle de puissance de calcul ne concerne pas les cartes,mais l'électricité.
Selon les dernières recherches de Goldman Sachs, la demande mondiale en électricité des centres de données devrait augmenter de 170 % entre 2025 et 2030, mais la construction du réseau électrique, les approbations et l'expansion des infrastructures ne suivent absolument pas le rythme.
En octobre de cette année, 86 projets de centres de données ont déjà été annulés ou gravement retardés dans le monde.
Musk a aussi prédit hier que le secteur des Neocloud connaîtrait une vague massive de consolidation et de faillites.
Le chemin de la transformation des Neolab risque d'être difficile…