Andrej Karpathy d'Anthropic déclare que « le monde extérieur a vu l'aperçu » de ce que l'IA peut réellement faire

Andrej Karpathy d'Anthropic déclare que « le monde extérieur a vu l'aperçu » de ce que l'IA peut réellement faire

Points clés

• Le co-fondateur d'OpenAI et désormais chercheur chez Anthropic Andrej Karpathy décrit un fossé croissant dans la compréhension des capacités de l'IA.
• Environ 75 pour cent de la population mondiale n'a presque jamais touché aux grands modèles de langage. Les utilisateurs occasionnels les voient surtout comme des aides à la rédaction ou un meilleur moteur de recherche.
• Seuls environ 20 millions de professionnels des mathématiques et de la programmation utilisent des modèles de pointe pour le travail, selon l'estimation de Karpathy. Environ 5,000 personnes dans le monde ont accès aux systèmes de pointe internes.

Andrej Karpathy, co-fondateur d'OpenAI, décrit un fossé qui se creuse rapidement dans la façon dont les gens comprennent les capacités de l'IA. Alors que le public traite les chatbots comme un meilleur moteur de recherche Google, les systèmes de pointe internes s'attaquent déjà à des tâches qui prendraient des années aux meilleurs experts.

Karpathy décompose la base d'utilisateurs des grands modèles de langage en quatre niveaux. Environ six milliards de personnes, soit environ 75 pour cent de la population mondiale, n'ont pratiquement jamais été en contact avec les LLM. Un à deux milliards d'autres sont des utilisateurs occasionnels de produits gratuits de type ChatGPT qui les considèrent « un peu comme un meilleur moteur de recherche Google, une aide à la rédaction, ou etc. »

La plupart des gens n'ont aucune idée de ce que l'IA peut déjà faire

Même de nombreux professionnels hors des mathématiques et du code relèvent de ce niveau. Les dirigeants et les personnes occupant des rôles similaires passent la majeure partie de leur temps à parler à d'autres personnes, si bien que « bien qu'ils comprennent intellectuellement ce qui se passe, cela reste de seconde main et un peu abstrait », écrit Karpathy.

Le troisième niveau couvre environ 20 millions de personnes, soit environ 0.2 pour cent de la population mondiale. Ce sont des utilisateurs professionnels de LLM de niveau pointe en mathématiques et en code qui constatent de première main que « de grands projets complexes qui leur prenaient auparavant des semaines ou des mois peuvent désormais être réalisés par des agents avec un simple prompt ». Karpathy cite comme exemples « créer des applications, copier des applications, traduire des applications, décompiler des applications à partir de binaires ».Ad

Il ajoute que ce changement s'est produit rapidement. En octobre 2024, Karpathy qualifiait les agents d'IA de pur marketing à peine fonctionnel. Quelques mois plus tard seulement, il a complètement arrêté d'écrire du code à la main, passant de la « saisie de commandes informatiques mémorisées dans un éditeur de code caractère par caractère » à la délégation du travail aux agents. Il a ensuite rejoint Anthropic, malgré son statut de co-fondateur d'OpenAI.

Une minuscule élite voit ce que le public ne peut pas voir

Environ 5,000 personnes, soit environ 0.00006 pour cent de la population mondiale, ont accès à des systèmes internes de niveau pointe selon l'estimation de Karpathy. « Le monde extérieur a vu l'aperçu », écrit-il. Ce que ce groupe voit « ressemble à des essaims de milliers d'agents collaborant pendant des semaines sur des mégaprojets logiciels : découverte de zero days, cyberattaques et défenses menées à la vitesse des machines, découverte de nouvelles sciences, progression de la frontière des mathématiques ». Ce sont « des choses qui auraient demandé des années de travail aux meilleurs professionnels du secteur ».

Parallèlement, « la revue et la compréhension humaines commencent à prendre du retard ». Il souligne que des personnes font encore de l'« archéologie » sur l' incident OpenAI-HF survenu il y a plusieurs mois, et note que les mathématiciens « pourraient passer un certain temps à examiner les 722 manuscrits sur les mathématiques de pointe . »

Karpathy appelle cela « l'étrangeté du moment ». Le grand public n'a pour la plupart pas interagi avec ces systèmes, et « quand il l'a fait, cela ressemblait à un chatbot stupide ». La plupart des professionnels constatent encore « seulement un modeste gain ». Et « une petite fraction des professionnels ressent le vertige de la courbe qui devient verticale ». Tout cela se produit en même temps.Ad

Le PDG d'OpenAI, Sam Altman, a fait une affirmation similaire début septembre lors du G20 Innovation Ministerial, déclarant qu'un outil actuel de codage par IA pouvait accomplir en « 17 minutes » ce qu'une startup avait auparavant construit en trois mois. « Le monde n'a pas encore pris la mesure de ce que cela va signifier », a déclaré Altman.

Karpathy affirme que les capacités des LLM atteignent actuellement leur apogée dans des domaines « numériques, vérifiables et économiquement précieux ». C'est parce qu'elles « émergent de l'apprentissage par renforcement sur des récompenses vérifiables», et que les entreprises dirigent leurs ressources d'entraînement vers les domaines présentant le plus fort potentiel de revenus. Pour l'instant, cela signifie le codage et les mathématiques.

L'actualité de l'IA sans le hype – Curatée par des humains

Abonnez-vous à THE DECODER pour une lecture sans publicité, une newsletter hebdomadaire sur l'IA, notre rapport exclusif « AI Radar » sur la frontière six fois par an, un accès complet aux archives et l'accès à notre section de commentaires.