IT之家 Nouveau du 9 octobre : OpenAI a publié en octobre 719 solutions mathématiques générées par IA, couvrant 372 familles de résultats mathématiques et impliquant des centaines de questions de recherche ouvertes ; cependant, après sa publication, la release a été jugée comme n'ayant pas pleinement atteint les normes proposées par le « Groupe consultatif sur les mathématiques et l'intelligence artificielle » (AGMAI).
IT之家 avait précédemment rapporté qu'OpenAI avait initialement publié sur GitHub, le 6 octobre, un total de 722 manuscrits mathématiques générés par IA, couvrant 372 familles de résultats et plusieurs questions de recherche ouvertes. Toutefois, le 7 octobre, 3 manuscrits ont été retirés en raison d'une erreur de notation et de ses effets en cascade, le catalogue publiquement disponible comptant désormais 719 documents.
OpenAI a indiqué avoir consulté avant la publication le « Groupe consultatif sur les mathématiques et l'intelligence artificielle » (AGMAI), dirigé par l'Institute for Advanced Study de Princeton, et s'être référé à ses recommandations publiques. Cependant, selon les informations disponibles, cette publication n'a pas pleinement atteint les normes proposées par ce groupe.
L'AGMAI avait précédemment recommandé aux laboratoires d'IA de pointe de cesser de tester des problèmes mathématiques de haute difficulté sur des modèles propriétaires inaccessibles de l'extérieur,et exigeait la divulgation du nom du modèle, des prompts, des chaînes de raisonnement, du temps de calcul et des coûts de calcul ; mais OpenAI a cette fois encore utilisé des modèles propriétaires, et seuls 10 manuscrits sont accompagnés de la chaîne de raisonnement du modèle.
En ce qui concerne l'intelligibilité humaine, le groupe consultatif soulignait que les preuves générées par IA devraient être facilement vérifiables et exploitables par les mathématiciens ; mais selon les rapports, environ 42 % des preuves publiées par OpenAI n'ont pas été formalisées, et aucune métadonnée lisible par machine reliant les preuves en langage naturel aux artefacts formalisés n'a été fournie.
L'AGMAI a également déclaré que son rôle de consultation ne constitue pas une validation de l'obtention ou de la publication de ces résultats par OpenAI, et qu'il appartient finalement à la communauté mathématique d'évaluer si les recommandations ont été pleinement appliquées. Cet événement relance le débat sur la transparence, la vérification formelle, la revue par les pairs et l'autonomie de la recherche académique concernant les résultats mathématiques générés par IA.
Le 7 octobre, Tao Zhiquan a publié un message sur mathstodon indiquant qu'il n'est pas opposé à ce que l'IA fasse des mathématiques, et qu'il est même un utilisateur actif de l'IA pour la recherche assistée ;mais il s'oppose fermement à faire de « la résolution rapide de problèmes célèbres grâce à l'IA » un objectif principal ou une démonstration de produit. Il estime que cela sape les mécanismes de compréhension, d'enseignement, de collaboration et d'exploration ouverte sur lesquels repose la communauté mathématique.
Tao Zhiquan fait remarquer qu'en mathématiques traditionnelles, une percée sur une conjecture ancienne ne se réduit pas à « obtenir la réponse » : l'auteur donne des exposés, participe à des séminaires, échange avec ses pairs, puis la preuve est simplifiée, expliquée, intégrée dans des manuels, et donne naissance à de nouvelles questions, à de nouveaux collaborateurs et à de nouvelles pistes de recherche.
Or la pratique actuelle d'OpenAI et de sociétés similaires consiste souvent à faire résoudre des problèmes de manière autonome par l'IA, sous l'impulsion d'un prompteur ;une fois l'objectif « résolu », la compréhension ultérieure, les exposés, les discussions entre pairs et le développement du domaine surviennent rarement. Selon Tao Zhiquan, les publieurs peuvent même être incapables d'expliquer les sorties de l'IA, de répondre aux questions ou d'interagir avec le domaine.
Il qualifie cette situation d'« indigestion de preuves » pour la communauté mathématique : l'IA peut générer à grande vitesse des propositions, des preuves et des contre-exemples,mais les humains n'ont pas le temps de vérifier, comprendre, rédiger, enseigner et assimiler, ce qui aboutit à une multitude de « preuves que personne ne peut digérer ».
Ce qui l'inquiète particulièrement, c'est qu'OpenAI s'attaque aux équations de Navier-Stokes et à d'autres problèmes du millénaire comme bancs d'essai des capacités de ses modèles. À ses yeux, cela fait du « nombre de problèmes résolus et de la vitesse de résolution » la mesure de la « compréhension et de la perspicacité » ; or la vitesse et la quantité ne constituent pas en elles-mêmes la compréhension mathématique.
Tao Zhiquan souligne que,une fois qu'un problème est publiquement « résolu », il devient presque impossible de le ramener à l'état « non résolu ».Même si l'on souhaite ensuite explorer des voies différentes ou en extraire de nouvelles méthodes, le simple fait de savoir que la réponse existe « pollue » ce processus d'exploration.
Il critique donc une « récolte » massive et non durable : traiter les problèmes ouverts comme des ressources consommables en série finira par rendre l'ensemble du domaine mathématique moins fertile que dans le cadre de la recherche traditionnelle.
Note d'IT之家 : Tao Zhiquan est l'un des mathématiciens les plus renommés de notre époque, professeur de mathématiques à l'Université de Californie à Los Angeles (UCLA) et lauréat de la médaille Fields 2006 ; il est souvent surnommé « le Mozart des mathématiques ».
À lire également :