Après des mois de bombardement des mathématiciens par une série incessante de résultats générés par l’IA, Sam Altman, PDG d’OpenAI, déclare qu’il compatit avec les chercheurs qui ont du mal à comprendre tout cela. Mais il n’a pas l’intention de s’arrêter – et il laisse entendre qu’il pourrait y avoir encore beaucoup plus à venir de la collection de découvertes de l’entreprise.
« Je pense que, sur Internet, le monde mérite de comprendre comment l’univers fonctionne », a déclaré Altman lors d’une épisode du podcast Cheeky Pint publié jeudi. « Mais j’ai de l’empathie pour cette méthode. »
Ses commentaires marquent l’une des premières fois où le chef d’OpenAI reconnaît directement l’impact de l’entreprise sur les mathématiciens. Après une série de résultats génialement impressionnants générés par l’IA, dont les déploiements chaotiques et manque de communication ont confusé les chercheurs et rendu leur suivi difficile, même dans un contexte de grande excitation concernant le potentiel de l’IA en tant que outil de découverte.
Altman a affirmé que le droit du public à les nouvelles connaissances scientifiques « l’emporte » sur les perturbations causées par les publications d’OpenAI, bien qu’il reconnaisse que l’entreprise doit améliorer la manière dont elle communique ses découvertes. « Je suis catégorique à ce sujet : l’humanité mérite des connaissances fondamentales, et nous ne devrions pas rester sans partager une importante découverte en science fondamentale », a-t-il dit. « Le monde le mérite également. »
Relatif
- Tout le drama autour de la prise de contrôle de la mathématique par l’IA
- Les chercheurs sont fatigués de la surveillance de OpenAI sur ses avancées
- ‘Pure folie’ : Les mathématiciens mettront des années à comprendre la dernière décision d’OpenAI
Mathématiciens parlant The Verge Il a récemment critiqué OpenAI pour la manière dont il annonce ses résultats, en soulignant une attribution insuffisante, un peu de contexte manquant et une vérification insuffisante. Les chercheurs affirment que cela les oblige à effectuer un travail pénible pour vérifier et comprendre leurs résultats, alors que l’entreprise continue à faire plus. Ce mois-ci seul, OpenAI a publiés des centaines de résultats mathématiques, souvent avec peu plus que de brefs résumés que les chercheurs ont qualifiés de mal écrits et difficiles à suivre.
Cependant, OpenAI fait aujourd’hui face à des critiques pour avoir exactement ce que Altman affirme qu’elle ne devrait pas faire : se contenter de découvertes potentiellement importantes. Des mathématiciens et des scientifiques qui ont parlé à The Verge cette semaine ont exprimé leur frustration face à ce qu’ils considèrent comme la contrôle de OpenAI sur la recherche, après l’annonce de trois avancées majeures en mathématiques, en physique et en informatique. Les détails d’une des résultats réclamés – qui concerne la théorie de Yang-Mills, les fondements mathématiques de la physique des particules moderne – n’ont pas été rendus publics. OpenAI affirme que c’est à la suite des recommandations d’un groupe d’experts choisis par elle qu’elle a consulté pour savoir comment le divulguer le mieux. Cette pratique va directement à l’encontre des conseils d’un groupe de mathématiciens précédent que la entreprise a consulté, mais fait partie de ce que l’entreprise considère comme une nouvelle méthode pour communiquer ses découvertes.
Dans le podcast, Altman laisse entendre que OpenAI possède encore de nombreuses découvertes mathématiques non publiées. Lorsqu’on lui demande si l’entreprise possède plus de cent preuves que celles qu’elle a déjà publiées, Altman répond : « Oui, bien sûr. »
Altman a également reconnu que la poursuite par OpenAI de problèmes mathématiques avait « dépassé les limites » pendant une courte période, mais il a dit que c’était intentionnel et nécessaire pour explorer les limites de ses modèles d’IA. Il a mentionné un canal Slack interne nommé « Model Name-Hold My Beer », où les employés « lançaient simplement ces idées sur les problèmes les plus difficiles qu’ils pouvaient imaginer » afin de voir comment les modèles se comporteraient.
Altman a également estimé que OpenAI a dépensé des centaines de millions de dollars pour résoudre des problèmes mathématiques, dont environ 10 millions de dollars – « peut-être un peu plus » – pour sa solution Navier-Stokes, l’un des problèmes légendaires du prix Millénaire en mathématiques. Ces dépenses montrent les vastes ressources que les laboratoires d’IA mettent en œuvre pour résoudre des problèmes scientifiques, ce qui suscite des inquiétudes parmi les chercheurs quant à savoir si ils seront empêchés de progresser dans leurs domaines.
Il semble que les mathématiciens et les autres chercheurs qui espèrent un moment de repos ne soient pas chanceux.
Suivez les sujets et les auteurs de cette histoire pour voir plus de contenu similaire sur votre flux personnalisé d’accueil, et pour recevoir des mises à jour par e-mail.