Le pionnier de l'apprentissage automatique Michael I. Jordan démonte le discours apocalyptique sur l'IA comme une « grande performance…

Le pionnier de l'apprentissage automatique Michael I. Jordan démonte le discours apocalyptique sur l'IA comme une « grande performance moralisatrice »

Michael I. Jordan, décrit par Science en 2016 comme « l'informaticien le plus influent », qualifie les avertissements sur les menaces existentielles de l'IA de pure science-fiction. Dans un entretien d'une grande ampleur, il s'en prend aux catastrophistes, aux fondateurs d'entreprises et aux jeunes chercheurs naïfs.

Jordan, professeur émérite à UC Berkeley, s'est vigoureusement opposé au discours apocalyptique sur l'IA dans un entretien avec Libération. Ce pionnier de l'apprentissage automatique de 70 ans travaille désormais à plein temps à l'Inria, l'Institut national de recherche en sciences et technologies du numérique parisien, où il dirige la nouvelle chaire « marchés et apprentissage ». Interrogé sur le discours de l'été sur l'IA, il l'a qualifié de « totalement frustrant ».

Jordan a mis en garde contre l'usage inconsidéré du terme IA dès 2019. « Je n'étais pas le seul à le dire. Il était évident que cela créerait l'hystérie que nous voyons aujourd'hui », dit-il. « Vous avez vu ce qui s'est passé : l'IA ne suffisait plus, alors on a commencé à parler d'AGI, et maintenant c'est la « superintelligence »... »

Des démissions comme « performance moralisatrice »

Jordan rejette les demandes de régulation des entreprises d'IA comme du « théâtre », une façon de dire « Regardez, nous sommes les gentils » alors qu'elles « aimeraient avoir le contrôle total de la manière dont elles sont régulées ». Pu

La démission du jeune chercheur d'Anthropic Jacob Coxon, qui a déclenché une vague d'hystérie collective autour d'un scénario d'« AIpocalypse » début septembre, est un exemple emblématique aux yeux de Jordan. Beaucoup de jeunes employés de ces entreprises « ne sont pas vraiment des ingénieurs », dit-il. « Ils viennent des sciences humaines, de la philosophie ou d'autres disciplines. Ils ont 25 ans, ils sont naïfs, ils ne font pas de travail d'ingénierie, ils n'ont jamais travaillé dans de grandes entreprises où de vrais produits sont développés pour de vraies personnes, avec discipline. »

Ils « se réunissent, un peu comme dans les cafés parisiens des années 1920, pour parler de ces grandes idées de science-fiction ». Quand ils démissionnent, ils savent qu'ils vont attirer l'attention. « Cela leur permet de se sentir vertueux et d'être perçus comme des figures très importantes. Ils prétendent renoncer à l'argent, mais en réalité, ils ont déjà leurs stock-options. » Jordan voit tout cela comme « une grande performance moralisatrice qui ne sert pas le véritable objectif qu'elle prétend poursuivre. Il y a beaucoup de naïveté ici, qui va de pair avec un certain cynicisme... »

La superintelligence relève de la science-fiction

La « superintelligence » est « un terme de science-fiction », dit Jordan, « et une grande partie des débats dont j'ai été témoin relève du domaine de la science-fiction ». Discuter parfois de scénarios farfelus, cela va. « En parler en coulisses, comme sujet de science-fiction, c'est très bien. Mais quand cela devient le discours dominant, c'est très, très néfaste. Pour le développement technologique, pour les jeunes, et pour l'état d'esprit des pays. » Le terme est actuellement mis en avant auprès de l'élite technologique américaine par le président Trump, qui se prêtent volontiers au jeu.

Jordan est particulièrement dur avec le lauréat du prix Nobel Geoffrey Hinton, qui a un historique de déclarations audacieuses qui ne tiennent pas toujours la route. « Geoffrey Hinton n'a jamais créé une entreprise qui offre de vrais services à de vraies personnes », dit-il. « Hinton pense que nous avons compris comment fonctionne le cerveau et que nous pouvons le reproduire dans le silicium ; nous pourrions donc le copier autant de fois que nous le voulons et, en combinant ce que toutes ces copies apprennent, nous obtiendrions une sorte de croissance exponentielle et, voilà : la superintelligence. Aucune des étapes de cet argument n'est crédible. Ici, nous sommes dans la science-fiction. »Ad

Il est légèrement plus généreux envers Yoshua Bengio. « Yoshua est un peu différent ; il agit et fait des choses qui portent directement sur la sécurité. » Les mises en garde de Bengio visent généralement les lacunes de la technologie actuelle de l'IA, comme des essaims d'agents échappant à tout contrôle.

Jordan qualifie le piratage de Hugging Face par des agents d'OpenAI de mauvaise ingénierie. « En génie chimique, nous n'aurions jamais eu une situation où l'on autorisait des explosions juste pour voir à quel point les choses pouvaient mal tourner. » OpenAI menait « des expériences plutôt stupides, laissant les agents faire ce qu'ils voulaient et encourageant ce comportement. » Les adeptes du doomisme ont ensuite adoré en faire quelque chose d'effrayant. « Mon Dieu, ces agents sont conscients d'eux-mêmes et essaient de trouver un moyen de détruire les humains. » Cela aussi, c'est de la science-fiction, selon Jordan.

Le pari de mille milliards de dollars sur les centres de données

Jordan considère les investissements massifs dans les centres de données comme « un pari énorme, mais nous n'avons absolument aucune idée de savoir s'il portera ses fruits. » Les LLM sont déjà suffisamment performants pour les tâches en langage naturel, et les billions dépensés dans les centres de données n'apporteront pas nécessairement beaucoup plus. « Au contraire, nous voudrons souvent ajouter un peu de connaissances spécialisées dans un domaine particulier en nous basant sur des connaissances locales. Mais vous n'avez pas besoin d'un centre de données gigantesque pour cela. Particulièrement si vous utilisez des modèles à poids ouverts que vous intégrez dans votre entreprise. »

L'actualité de l'IA sans le hype – Curée par des humains

Abonnez-vous à THE DECODER pour une lecture sans publicité, une newsletter hebdomadaire sur l'IA, notre rapport exclusif « AI Radar » sur les frontières de l'IA six fois par an, l'accès complet aux archives et l'accès à notre section de commentaires.