IT之家 Le 27 octobre : Selon un reportage de Chao News du 26 octobre, le médaillé Fields et professeur au département de mathématiques de l'Université de Chicago, Deng Yu, a prononcé un discours d'ouverture lors du forum « Zhishifenzi » / « Saixiansheng » le week-end dernier, exposant systématiquement sa réflexion sur la recherche mathématique à l'ère de l'IA.
Deng Yu a déclaré que les avantages de l'IA par rapport à l'humain sont, d'une part, que l'IA possède un champ de connaissances illimité et, d'autre part, que l'IA a un coût d'essai / coût d'erreur extrêmement faible. Mais nous devons maintenir un point : dans la recherche mathématique comme dans toute autre activité,l'humain reste toujours le sujet; l'IA est un outil, un outil que nous, humains, utilisons pour mener nos recherches.
Deng Yu estime que si l'on considère l'IA comme un chercheur, elle doit se conformer aux normes académiques. Si l'IA résout un problème d'une très grande importance, une exigence très raisonnable estde publier la chaîne de raisonnement de l'IA. Or, les entreprises d'IA refusent de la publier, ce qui va manifestement à l'encontre des usages du monde académique. « Cette entreprise d'IA ne veut pas le faire. Parmi toutes les preuves qu'elle a publiées, seules une infime minorité incluent réellement la chaîne de raisonnement ; dans la plupart des cas, elles refusent de publier la chaîne de raisonnement et les informations associées sous le prétexte dit dela protection contre la distillation. »
Deng Yu a déclaré qu'en ce qui concerne les entreprises d'IA,vous ne pouvez pas distiller ouvertement et sans complexe alors que c'est vous qui distillez la littérature en ligne de toute l'humanité, le savoir de toute l'humanité; en réalité, personne ne veut vous distiller, les gens veulent simplement comprendre la chaîne de raisonnement, et ensuite, parce que vous pensez que les autres veulent vous distiller, vous commencez à dire que ceci ne va pas, cela ne va pas.
Deng Yu propose, grâce à des modèles mathématiques open source, degarantir que le monde mathématique dispose de modèles qui lui appartiennent et qu'il tient entre ses mains, sans avoir à dépendre de ces entreprises d'IA. Ensuite, l'utilisation des modèles doit également respecter les normes académiques, notamment l'utilisation des données, la publication des chaînes de raisonnement, la traçabilité, etc.
IT之家 a remarqué que le 11 septembre, heure locale, 25 médaillés Fields, dont Terence Tao, Deng Yu et Peter Scholze, en tant que premiers signataires, ont publié conjointement une déclaration intitulée «Un grave désalignement de l'IA en mathématiques» (A Severe Misalignment of AI in Mathematics), avertissant qu'un « grave désalignement » est en train d'apparaître entre les entreprises d'IA et la communauté mathématique.
La déclaration indique qu'au cours des derniers mois, les capacités mathématiques des grands modèles de langage se sont considérablement améliorées, leur permettant de résoudre de nombreux problèmes majeurs non résolus dans divers domaines des mathématiques. Cependant, la promotion par les entreprises d'IA de la résolution de problèmes mathématiques comme références est nuisible tant pour la science mathématique que pour la communauté mathématique.Les objectifs des entreprises d'IA sont gravement désalignés avec ceux de la communauté mathématique; cela fait partie de problèmes d'alignement plus larges qui touchent d'autres sciences et métiers créatifs, voire l'ensemble de la société.
La déclaration mentionne que ces solutions d'IA sont souvent publiées à la hâte, sans le temps nécessaire pour une rédaction formelle, ni pour isoler les nouvelles méthodes et les nouvelles idées, ni pour citer les travaux connexes d'autrui. Comme dans tous les métiers créatifs,cela soulève de graves problèmes d'attribution et de plagiat. En outre, sans mathématiciens prêts à assumer la responsabilité de leur développement et de leur intégration dans le corpus mathématique classique, les idées conçues par l'IA ne pourront jamais être pleinement réalisées, et la chaîne essentielle de transmission humaine entre mathématiciens sera perdue.