OpenAI a publié des solutions à trois problèmes mathématiques majeurs qui ont longtemps embarrassé les chercheurs. L'une était un rejet surprenant de l'hypothèse du temps exponentiel (ETH), une hypothèse solide en informatique qui joue un grand rôle dans notre compréhension de ce qui est difficile à calculer.
Comme pour les publications de preuves précédentes du laboratoire de pointe, les communautés scientifiques ont réagi avec un mélange d'enthousiasme et de consternation. Le mathématicien d'Anthropic Levent Alpöge a suggéré qu'OpenAI fondait ses solutions sur des travaux préexistants, et quelques heures plus tard, Anthropic a ensuite publié sa propre réfutation de l'ETH.
Cependant, le processus d'OpenAI évolue. Cette fois, le laboratoire a structuré ses publications différemment pour chacune des trois disciplines impliquées : les mathématiciens ont reçu les travaux déposés sur GitHub ; les informaticiens ont formé un groupe de travail, demandé que les preuves soient partagées publiquement et qu'OpenAI finance une conférence pour en discuter ; les physiciens ont formé un groupe de travail qui déterminera comment leur résultat sera publié.
Le professeur du MIT Ryan Williams est l'informaticien qui organise la réponse de sa discipline à cette nouvelle découverte. Williams, dont les travaux portent sur ces questions de complexité computationnelle, a critiqué par le passé l'approche d'OpenAI, qualifiant son dépôt de preuves au début du mois d'octobre d'« attaque DDOS contre les mathématiciens ».
Cependant, il a accepté de collaborer avec les laboratoires de pointe afin d'aider à encadrer des idées essentielles pour la discipline, a-t-il déclaré à TechCrunch. Le laboratoire lui a demandé de l'aider à interpréter la solution, aux côtés des informaticiens de l'UC San Diego Russell Impagliazzo et Ramamohan Paturi, qui ont publié l'ETH pour la première fois en 1999.
Leur première étape a été de publier une lettre ouverte invitant les scientifiques intéressés par ces problèmes à faire part de leurs retours et à engager une discussion sur les normes entourant les contributions de l'IA à leurs travaux.
« Certaines parties [de la preuve d'OpenAI] sont, pourrais-je dire, banales, mais oui, il y a deux ou trois parties d'apparence extraterrestre, et ce sont précisément ces parties que j'ai vues qui m'ont fait penser : waouh, c'est quelque chose sur lequel toute la communauté doit travailler ensemble », a déclaré Williams à TechCrunch.
Êtes-vous au fait de P versus NP ?
L'ETH fait partie d'une classe plus large de problèmes connue sous le nom de P versus NP, qui anime l'informatique et bien d'autres domaines depuis des décennies. De manière simplifiée, les chercheurs tentent de comprendre si tout problème dont la solution peut être facilement vérifiée (NP) peut aussi être facilement résolu (P).
Un exemple simple est le jeu du Sudoku : une fois qu'une solution à une grille est en place, elle peut être vérifiée rapidement, mais trouver la solution prend du temps. Cette dynamique est vraie pour toute une série de problèmes importants, et cette intuition sous-tend les systèmes cryptographiques : lorsque vous avez la clé d'un message encodé, vous pouvez le révéler, mais casser un code efficace prend en réalité trop de temps pour être utile.
Cependant, les scientifiques n'ont pas encore prouvé si cela est toujours vrai. « P = NP signifie que, non seulement vous pouvez vérifier les solutions du Sudoku lorsqu'elles existent, mais vous pouvez simplement les générer », a déclaré Williams. « P = NP affirme que c'est vrai pour chaque problème que vous pouvez vérifier rapidement — si vous pouvez le vérifier rapidement, vous pouvez le résoudre rapidement. Alors cela semble tout simplement trop beau pour être vrai. »
C'est pourquoi la plupart des scientifiques supposent que P ≠ NP. L'ETH apportait des preuves en ce sens. Elle dit essentiellement que même l'algorithme informatique le plus rapide a besoin d'un temps exponentiellement plus long pour trouver une solution à mesure que le nombre de variables augmente dans une classe spécifique de casse-tête logiques complexes.
Les affirmations d'OpenAI et d'Anthropic sont que leurs modèles ont conçu des algorithmes qui résolvent ces casse-tête en temps « sous-exponentiel », c'est-à-dire plus rapidement que les vitesses précédemment jugées possibles. Si c'est vrai, ils auraient peut-être prouvé que l'ETH est fausse — réfutée, en termes scientifiques — et peut-être ouvert une voie vers des algorithmes qui réalisent généralement P = NP.
« Chaque informaticien devrait probablement accorder un peu plus de poids à la plausibilité de P = NP, mais ce poids peut varier d'une personne à l'autre », a déclaré Williams. « Je pense effectivement que cela remet en question beaucoup d'intuitions que nous pensions avoir sur … la facilité avec laquelle [les problèmes NP difficiles] peuvent être traités. Je pense aussi que ce n'est probablement pas la réponse définitive non plus. Je ne pense pas que l'algorithme d'OpenAI puisse être le meilleur algorithme possible. »
Le travail qui attend les informaticiens
La solidité de l'ETH a conduit à son inclusion dans de nombreux articles scientifiques au cours de la dernière décennie, qui devront être réexaminés si les affirmations des laboratoires d'IA selon lesquelles ils l'ont prouvée fausse se vérifient, a déclaré Williams.
« C'est en partie pour cela que je demandais ou poussais OpenAI à soutenir une conférence sur ce sujet — cela va affecter les travaux de nombreux chercheurs, et nous devons comprendre, bon, que se passe-t-il ensuite en dehors de la compréhension des algorithmes. Nous devons comprendre, comment les fondements devraient-ils changer par rapport à ce que nous avions auparavant ? », a-t-il déclaré.
Avant les préoccupations scientifiques, il y a les questions de cybersécurité. Williams a déclaré qu'un algorithme amélioré pourrait signifier que des systèmes cryptographiques reposant sur certaines tailles de clés pourraient être considérés comme cassés. Ainsi, l'une des premières questions qu'il a posées au responsable scientifique d'OpenAI, Dan Roberts, « était de savoir s'ils avaient vérifié que cela affectait des systèmes cryptographiques… est-ce que quelque chose est devenu non sécurisé maintenant ? Et apparemment, ils ont vérifié, et ils étaient raisonnablement confiants que cela n'impliquait aucune brèche. »
Ce nouveau paradigme de découverte scientifique par l'IA est encore un travail en cours, mais Williams se dit optimiste malgré de réelles préoccupations, notamment concernant la formation de la prochaine génération de scientifiques. Le fait d'être un informaticien qui pratique les mathématiques de haut niveau a peut-être rendu l'adaptation plus facile pour lui que pour les mathématiciens purs.
Néanmoins, il affirme que l'IA « oblige les gens à être un peu plus ambitieux quant au type de travail qu'ils font, et à réfléchir plus profondément, bon, si toutes les choses sur lesquelles je travaillais sont désormais des fruits à portée de main pour l'IA, comment puis-je relever la barre pour le type de questions scientifiques que je veux poser ? »