Le lauréat de la médaille Fields et professeur à l'université de Chicago, Deng Yu, a exposé de manière systématique, dans le discours inaugural du forum « Zhishi Fenci » / « Saixiansheng » du 26 octobre, comment il faut pratiquer les mathématiques à l'ère de l'IA.
Il a d'abord souligné deux atouts de l'IA par rapport à l'humain : un champ de connaissances si vaste qu'il n'a pas de limites, et un coût d'essai-erreur si faible qu'il est négligeable. Mais il insiste : que ce soit en mathématiques ou ailleurs, l'humain doit être le sujet, et l'IA n'est qu'un outil que nous utilisons.
Puis, changeant de ton, Deng Yu a pointé ses critiques vers les entreprises d'IA. Selon lui, si l'on considère vraiment l'IA comme un chercheur, il faut respecter les règles académiques — lorsqu'une conclusion majeure est démontrée, il est raisonnable d'exiger la publication de la chaîne de raisonnement. Or, dans la réalité, la plupart de ces entreprises refusent de la publier au nom de la « protection contre la distillation », et parmi les preuves déjà publiées, seules une infime partie montrent réellement leur chaîne de raisonnement.
« Vous ne pouvez pas distiller, bien largement, toute la littérature et les connaissances en ligne de l'humanité entière, tandis que lorsque d'autres veulent simplement connaître la chaîne de raisonnement, vous dites que c'est impossible, que c'est interdit. » Cette ironie pointe le double standard des géants de la technologie : « autoriser les magistrats à mettre le feu tout en interdisant au peuple d'allumer une lampe ». Deng Yu propose donc de s'appuyer sur des modèles mathématiques open source, afin que la communauté mathématique tienne entre ses mains les modèles qui lui appartiennent, tout en encadrant, selon les normes académiques, l'utilisation des données, la divulgation des chaînes de raisonnement et leur traçabilité.
25 lauréats de la médaille Fields signent une protestation conjointe
Il ne s'agit pas d'un cri isolé. Le 11 septembre, heure locale, 25 lauréats de la médaille Fields, dont Terence Tao, Deng Yu et Peter Scholze, ont signé conjointement une déclaration intitulée « Le grave désalignement de l'intelligence artificielle en mathématiques », avertissant que les objectifs des entreprises d'IA et de la communauté mathématique sont gravement déconnectés. La déclaration souligne que les solutions d'IA sont souvent publiées à la hâte, sans temps pour une rédaction formelle, l'isolement de nouvelles méthodes ou la citation des travaux d'autrui, ce qui engendre de graves risques en matière de paternité et de plagiat.