Par Mengyao, depuis Qiaofeisi
QbitAI | Compte public QbitAI
Lorsque l'IA commence à participer au développement de la prochaine génération d'IA, l'humanité se trouve peut-être déjà à la veille d'une « explosion d'intelligence ».
Incroyable ! La rétro-amélioration autonome (RSI), qui fait ultra-méga-furieusement parler d'elle ces derniers temps, voilà que même le parrain de l'IAHintons'y met personnellement ??
Le premier article sur la RSIde Hinton, lauréat du prix Nobel de physique et du prix Turing,aborde d'emblée une question pour le moins explosive :
que se passe-t-il si l'IA commence à participer massivement à la fabrication de l'IA de prochaine génération.
Puis, cette IA de nouvelle génération revient continuer à accélérer la recherche et le développement.
Si ce processus se répète tour après tour… pourrait-il déboucher directement sur une courbe d'explosion d'intelligence ?
L'article s'intitule《Que se passerait-il si l'automatisation de la R&D en IA déclenchait une explosion de l'intelligence ?》。
Les auteurs qui ont participé à sa rédaction constituent également une équipe All-Star du monde académique de l'IA :
Parmi les 22 auteurs figurent les deux parrains de l'IA Geoffrey Hinton et Yoshua Bengio, le pionnier de l'apprentissage par renforcement Andrew Barto, le scientifique en chef d'OpenAI Jakub Pachocki, parmi bien d'autres chercheurs.
Autant de sommités de l'IA réunies pour discuter de la plus ancienne question de science-fiction du domaine de l'IA : « l'explosion d'intelligence ». Découvrons d'abord les points clés de l'article ——
- Dès que l'IA peut participer pleinement àla fabrication de l'IA de prochaine génération, la rétro-amélioration autonome peut véritablement se boucler.
- Une fois que l'automatisation de la recherche et du développement en IA franchit un certain point critique, des progrès en IA qui prennent des années pourraient être compressés enquelques mois, voire moins.
- À l'avenir, l'échelle de recherche et développement des laboratoires d'IA pourrait théoriquement passer directement de quelques milliers de personnes à plusieursmillionsde chercheurs.
- Des progrès en IA accomplis aujourd'hui en un an pourraient, dans des cas extrêmes, ne plus nécessiter à l'avenir qu'environ5 semaines。
- . Une explosion d'intelligence ne nécessite pas forcément que l'IA devienne d'abord superintelligente ; il suffit que la recherche et le développement en IAEfficacité de l'automatisationsuffisamment élevée, la boucle de rétroaction pourrait se déclencher en premier.
Alors… Hinton… le vieux monsieur… les grands noms… qu'ont-ils exactement dit autour du RSI… vite…
L'IA commence vraiment à entrer dans la chaîne de production « de la prochaine génération d'IA »
Explosion d'intelligenceCe terme, en fait, est assez ancien.
Dès 1965, le mathématicien I.J. Good avait imaginé une machine superintelligente.
Si une machine est déjà plus douée que l'humain pour concevoir des machines, alors elle peut continuer à concevoir une version plus intelligente.
La nouvelle version participe ensuite à la vague d'amélioration suivante, vague après vague, formant finalement une boucle de rétroaction auto-renforçante.
Le jugement central de Good à l'époque était en réalité très simple —
Si « l'amélioration des machines » elle-même peut être réalisée de mieux en mieux par des machines, alors la croissance des capacités peut à son tour continuer à accélérer la croissance des capacités.
Cette conception est devenue par la suite la source théorique la plus classique de « l'explosion d'intelligence », et elle s'inscrit en réalité dans la même lignée que l'auto-amélioration récursive (RSI), très en vogue cette année.
Seulement, aujourd'hui, l'objet des discussions sur le RSI a discrètement changé.
Ce qui préoccupe désormais tout le monde, ce n'est plus seulement de savoir si une IA peut modifier son propre code et ajuster ses paramètres, mais une question bien plus concrète :
L'IA peut-elle réellement entrer dans l'ensemble du processus de R&D de la prochaine génération d'IA, et rendre ce processus de R&D lui-même de plus en plus rapide ?
Or le jugement clé que Hinton et ses co-auteurs avancent dans cet article est précisément le suivant :
l'IA commence véritablement à entrer dans le pipeline de R&D de l'IA, et à une vitesse franchement déroutante...
Si nous le disons, c'est parce que l'article s'appuie sur un ensemble de données internes provenant d'Anthropic et d'autres laboratoires de premier plan.
Au 1er janvier 2025, la proportion de code approuvé généré par l'IA ne représentait encore qu'un faible pourcentage à un seul chiffre.
Un an à peine plus tard, au 5e mois de l'année 2026, cette proportion avait déjà dépassé80%。
Ce qui a encore plus changé, c'est la proportion de travaux de R&D menés par l'IA de manière « autonome ».
Au 3e mois de l'année 2026, Claude était capable d'accomplir de façon autonome environ 1 % des travaux de R&D, sous la seule supervision humaine de haut niveau.
Au 8e mois de la même année, ce chiffre était monté à26%。
Autrement dit, en environ six mois, le chiffre a été multiplié par plus de vingt.
Bien entendu, ce chiffre ne doit pas être interprété comme signifiant que Claude a automatiquement réalisé un quart de l'ensemble des recherches d'Anthropic.
Il mesure principalement la proportion de travaux internes de R&D en IA pouvant être confiés de manière autonome à l'IA, sous supervision humaine de haut niveau.
Anthropic souligne elle-même qu'à l'heure actuelle, Claude n'a atteint sur aucune catégorie mesurée de R&D en IA un niveau fonctionnant en totale autonomie ; quoi qu'il en soit, la tendance est déjà très claire.
L'article mentionne également qu'à la date du 9e mois de l'année 2026, les systèmes d'IA internes d'OpenAI pouvaient déjà fréquemment accomplir des tâches de R&D qui exigeaient auparavant plusieurs jours de travail à des employés humains.
Un changement ici est particulièrement déterminant :la longueur des tâches que l'IA peut traiter de manière indépendante n'a cessé de croître.。
Ce qui détermine réellement si l'IA peut travailler comme un chercheur, ce n'est pas simplement la hauteur d'un score sur un benchmark donné.
Ce qui compte davantage, c'est sa capacité à enchaîner des dizaines d'étapes de manière continue et à faire progresser un même objectif de recherche pendant plusieurs heures, plusieurs jours, voire plus longtemps encore.
En combinant les tendances des benchmarks et les progrès internes des laboratoires, l'article estime quedans les années à venir, l'IA pourrait automatiser la majeure partie des travaux de R&D en IA, voire les automatiser entièrement.
Écrire du code ne constitue qu'une partie de la R&D en IA : la R&D en IA au sens complet inclut également la formulation d'hypothèses de recherche, la conception des expériences, leur mise en œuvre, l'analyse des résultats, l'identification des causes d'échec, l'ajustement de la trajectoire, puis le recommencement.
Si l'une quelconque de ces étapes, prise isolément, est automatisée, cela ne relève encore que de la recherche assistée par IA ; le point vraiment sensible, c'est lorsqu'elles commencent à être enchaînées en une longue chaîne.
Dès lors qu'un système d'IA peut enchaîner ces étapes sur une longue durée, le rôle qu'il assume se rapproche de plus en plus de celui d'un véritable chercheur.
Par un curieux hasard, la R&D en IA se prête justement particulièrement bien à ce type d'automatisation...
L'IA se déploie massivement dans un environnement numérique : le code peut être exécuté directement, les résultats des expériences sont rapidement restitués, et les capacités des modèles peuvent être vérifiées immédiatement au moyen d'indicateurs tels que les benchmarks, la loss ou la récompense (reward).
Comparée à la chimie, à la biologie ou à l'industrie manufacturière, la R&D en IA comporte beaucoup moins d'étapes obligeant à attendre un retour du monde réel.
C'est précisément pour cette raison que le cycle, qui paraissait si lointain à Good à l'époque, commence aujourd'hui pour la première fois à disposer d'un chemin d'ingénierie relativement concret :
l'IA participe à la R&D de l'IA de prochaine génération, l'IA de prochaine génération est plus capable, l'IA plus capable revient à son tour participer au cycle de R&D suivant, la boucle se poursuit, et la capacité de R&D elle-même se met à contribuer à la croissance de la capacité de R&D.
L'article désigne ce type de trajectoire sous le nom de software-driven intelligence explosion, c'est-à-direune explosion d'intelligence pilotée par l'amélioration logicielle.
Il convient principalement de noter que cela diffère quelque peu de la fabrication de puces plus rapides.
La conception des puces, leur fabrication (taping-out) et la construction d'usines obéissent à de longs cycles, tandis que les algorithmes, les méthodes d'entraînement, les workflows d'agents et les stratégies de données synthétiques, une fois leur efficacité validée, peuvent en théorie être rapidement redéployés dans le cycle de R&D suivant.
C'est pourquoi la véritable question qui préoccupe les auteurs est de savoir si le cycle de retour de l'IA progressera de plus en plus vite ; et c'est là la raison pour laquelle on rediscute aujourd'hui de l'auto-amélioration récursive :
Dès lors que l'IA peut prendre en charge de manière de plus en plus complète la R&D des modèles de prochaine génération, la boucle de rétroaction d'auto-amélioration est déjà apparue.
Quelques milliers de chercheurs deviennent des millions, et un an de progrès de l'IA pourrait se réduire à 5 semaines ??
Vient ensuite la partie la plus « dramatique » de tout l'article.
La participation de l'IA à la R&D ne suffit pas en soi à constituer une explosion d'intelligence ; ce qui compte vraiment, c'est une très grande différence qui la distingue des chercheurs humains ordinaires —Les chercheurs en IA peuvent être copiés.
Supposons qu'un laboratoire compte aujourd'hui 1000 chercheurs de premier plan, et qu'à l'avenir il développe un Agent dont les capacités atteignent le niveau d'un chercheur IA humain de haut niveau.
À partir de ce moment, les règles du jeu concernant l'agrandissement de l'équipe de recherche changent complètement.
Former un chercheur humain de premier plan peut demander cinq ans de doctorat, puis des années d'expérience de recherche ; pour un chercheur IA, il suffit de lancer une nouvelle instance ~
Il peut en outre travailler 24 heures sur 24, avec des milliers d'instances exécutant des tâches simultanément. Dès que le modèle sous-jacent est mis à jour, toute l'équipe de R&D en IA peut être mise à niveau en même temps.
Cela permet de contourner directement la contrainte de croissance la plus rigide de la recherche scientifique humaine :la vitesse de formation des talents。
Pour l'humanité, passer de 1000 chercheurs de premier plan à 1 million ressemble presque à un projet à l'échelle des générations.
Un système IA peut théoriquement s'étendre, en augmentant la puissance de calcul d'inférence et le nombre d'instances, dans un délai bien plus court.
À ce sujet, l'article introduit spécifiquement un concept :
effective R&D workforce, c'est-à-direla main-d'œuvre de R&D effective.
Les auteurs estiment que si l'IA atteint le niveau des meilleurs chercheurs en IA, et si les coûts d'inférence restent du même ordre de grandeur que ceux des modèles de pointe actuels —
alors la puissance de calcul existante d'une entreprise d'IA de premier plan pourrait théoriquement soutenirune main-d'œuvre de R&D en IA équivalente à plusieurs millions de chercheurs humains de premier plan au minimum.
Il faut savoir que l'équipe de recherche d'un laboratoire d'IA de pointe se limite aujourd'hui à quelques milliers de personnes ; l'écart entre les deux se chiffre en plusieurs ordres de grandeur...
Et ces millions de chercheurs possèdent une caractéristique difficile à reproduire pour une organisation humaine : leurs capacités peuvent être mises à jour simultanément.
Dès que le modèle sous-jacent est mis à niveau, il n'est pas nécessaire de reformer des millions de personnes : toutes les instances peuvent théoriquement acquérir les nouvelles capacités en même temps.
Il convient de mentionner que c'est ici qu'un malentendu survient le plus facilement : 100 dizaines de milliers de chercheurs en IA n'apporteront pas automatiquement une vitesse de R&D 1000 fois supérieure.
La recherche scientifique est naturellement soumise à des rendements décroissants : 10 personnes étudiant un problème peuvent aller bien plus vite qu'1 seule personne.
Mais 1 million de personnes travaillant sur le même problème entraîneraient probablement énormément de travail en double, une compétition pour les ressources expérimentales, et des bonnes idées de plus en plus difficiles à trouver.
L'article cherche donc en réalité à calculer autre chose : les gains apportés par la nouvelle main-d'œuvre de R&D en IA peuvent-ils l'emporter sur la difficulté croissante de la recherche elle-même ?
Ainsi apparaît une variable cruciale de tout l'article : returns to research effort, notée r.
En termes simples : lorsque l'investissement en recherche augmente, de combien la vitesse du progrès technique peut-elle augmenter à son tour.
Lorsque r est faible, après une forte augmentation de l'investissement en recherche, les rendements diminuent rapidement.
Lorsque ce chiffre est suffisamment élevé, le progrès apporté par les nouvelles capacités de R&D permet à son tour de créer des chercheurs IA encore plus puissants, et c'est alors que la boucle de rétroaction commence à accélérer.
L'article cite une étude des données historiques de trois sous-domaines de la recherche en IA, dont l'estimation centrale de r se situe autour de1.2—1.9。
En supposant que l'automatisation totale de la R&D en IA soit réalisée, que des rendements de recherche similaires se maintiennent, et qu'aucun nouveau goulot d'étranglement — calcul, données, etc. — ne bloque soudainement l'ensemble du système à court terme, le résultat obtenu par le modèle est :
la vitesse du progrès technologique en IA pourrait être multipliée par 10 en environ 1,5 an.
En d'autres termes, un progrès de l'IA qui nécessite aujourd'hui une année entière ne demanderait plus, à ce stade, qu'environ5 semaines。
De plus, l'article a fait un autre calcul.
Si la R&D en IA devient entièrement automatisée et que seule la tendance actuelle d'amélioration de l'efficacité logicielle se maintient, la main-d'œuvre automatisée de R&D en IA pourrait s'étendre en quelques mois à quelques années d'un facteur100。
Et cette croissance pourrait d'ailleurs provenir de deux lignes de progression simultanées.
D'un côté, le nombre de chercheurs en IA augmente ; de l'autre, chaque chercheur en IA individuel devient lui-même toujours plus puissant.
C'est ainsi qu'apparaît le véritable point contre-intuitif de l'explosion d'intelligence.
Par le passé, une limite naturelle de la croissance technologique était la lenteur de la formation des chercheurs : former un chercheur véritablement excellent exige plus de dix années d'éducation et d'entraînement.
Les chercheurs IA ne connaissent pas cette limite : une fois une capacité suffisante atteinte, l'étape de formation peut se transformer en copie de modèles et en allocation de puissance de calcul.
Ainsi, la recherche scientifique pourrait pour la première fois faire face à un choc d'offre extrêmement étrange : la capacité de recherche elle-même devient un logiciel.
Et une fois que la capacité de recherche devient un logiciel, les deux variables — le nombre de chercheurs et la capacité des chercheurs — peuvent être propulsées simultanément par le progrès technique.
C'est là que réside le véritable danger de « l'explosion d'intelligence » dont parle l'article : la source de l'accélération est elle-même en train d'être accélérée.
La RSI a déjà pointé le bout de son nez, mais l'explosion d'intelligence n'a pas encore bouclé la boucle
En lisant ceci, on arrive facilement à une conclusion particulièrement grisante : c'est fichu, l'explosion d'intelligence a déjà commencé. (pleure)
Mais dans cet article de Hinton, la tonalité donnée de bout en bout est que les preuves actuelles sont encore de loin insuffisantes pour démontrer que l'explosion d'intelligence s'est déjà produite. (sourire)
Car les gains de productivité apportés actuellement par l'automatisation de la R&D en IA n'ont toujours pas franchi clairement le seuil nécessaire pour déclencher une accélération explosive.
Les auteurs vont même jusqu'à rappeler directement qu'entre l'automatisation de la R&D en IA et l'explosion d'intelligence, il reste une longue chaîne de conditions.
Premièrement, l'IA doit être suffisamment fiable pour travailler de manière autonome pendant de longues durées ; ensuite, elle doit réellement augmenter la production de R&D ; puis, ces nouveaux résultats de recherche doivent en retour renforcer de manière manifeste la capacité de R&D de l'IA elle-même.
Et même si, à l'avenir, des millions de chercheurs IA apparaissaient, plusieurs murs bien réels se dresseraient encore devant eux.
Premier mur : la puissance de calcul.
Les chercheurs IA peuvent être copiés, les GPU ne se copient pas à partir de rien ; si un grand nombre d'expériences cruciales nécessitent d'exécuter de grands modèles, même une multitude d'agents pourrait finir par faire la queue pour obtenir des cartes.
En particulier, entraîner ne serait-ce qu'une fois un véritable modèle de pointe peut déjà nécessiter plusieurs mois : même 100 × 10 000 chercheurs en IA assis devant leur ordinateur ne pourraient pas compresser une tâche d'entraînement qui exige physiquement trois mois en cinq minutes.
C'est l'une des plus grandes contraintes réelles d'une explosion d'intelligence pilotée par logiciel : l'itération logicielle peut être extrêmement rapide, mais l'expansion de l'infrastructure de calcul sous-jacente reste limitée par le monde physique.
Deuxième mur : les données.
Les données naturelles d'Internet n'augmenteront pas au même rythme que le nombre de chercheurs IA.
Selon la tendance discutée dans l'article, les données naturelles de haute qualité existantes risquent de devenir de plus en plus difficiles à satisfaire aux besoins croissants d'entraînement.
La question de savoir si l'on pourra à l'avenir continuer à fournir des signaux d'entraînement de haute qualité grâce aux données synthétiques, aux tâches vérifiables, aux interactions avec l'environnement ou à d'autres moyens reste aujourd'hui sans conclusion.
Troisième mur : le temps des expériences.
Certaines choses sont intrinsèquement difficiles à paralléliser à l'infini : entraîner un modèle prend du temps, fabriquer des puces prend du temps, et construire de nouveaux centres de données prend aussi du temps.
Même si 100万 agents proposaient simultanément des protocoles expérimentaux, ils devraient finalement se partager des GPU, des clusters expérimentaux et des fenêtres d'entraînement limités.
Il reste enfin une question plus fondamentale encore : la recherche scientifique va devenir de plus en plus difficile.
Les améliorations algorithmiques faciles à trouver seront peut-être d'abord épuisées, et ensuite, chaque gain de capacité exigera des investissements de plus en plus importants.
L'article appelle cela diminishing returns —
plus la recherche avance, plus la prochaine percée risque d'être coûteuse ; si la difficulté de la recherche augmente plus vite que la capacité de R&D de l'IA, l'explosion d'intelligence ne pourra évidemment pas décoller.
En résumé, bien que l'article ne fournisse pas de preuves suffisantes pour établir que l'explosion d'intelligence se produira à coup sûr, les preuves existantes suffisent déjà à transformer cette question de science-fiction en un problème réel nécessitant une préparation anticipée.
Et la chose qu'est l'auto-amélioration récursive s'éloigne en effet de plus en plus du « décor de science-fiction ».
Peut-être qu'en regardant en arrière dans le futur, le véritable jalon à retenir de 2026 ne sera pas qu'un modèle ait encore gagné quelques points.
Ce sera sans doute la première fois que l'humanité commence à prendre sérieusement conscience que le plus fulgurant Scaling de l'IA pourrait se produire dans la chose même qui consiste à « faire de la recherche sur l'IA ».
Lien de référence :
[1] https://x.com/geoffreyhinton/status/2106122709285368061?s=20