IT之家 Bericht vom 9. Oktober: OpenAI veröffentlichte im Oktober 719 AI-Math-Lösungen, die 372 mathematische Ergebnisgruppen umfassen und sich auf Hunderte offener Forschungsfragen beziehen. Nach der Veröffentlichung wurde jedoch argumentiert, dass sie noch nicht vollständig den Standards des „Advisory Group on Math and AI“ (AGMAI) entsprechen.
IT Home berichtete zuvor, dass OpenAI am 6. Oktober 722 mathematische Manuskripte generiert durch KI auf GitHub veröffentlicht hat, die 372 Ergebnisfamilien und mehrere offene Forschungsfragen umfassen. Am 7. Oktober wurden jedoch 3 Manuskripte wegen eines Symbolfehlers und dessen Folgen zurückgezogen, sodass der aktuelle Veröffentlichungsumfang nun 719 beträgt.
OpenAI teilte mit, dass sie vor der Veröffentlichung den „Advisory Group on Mathematics and Artificial Intelligence“ (AGMAI) des Princeton Institute for Advanced Study konsultiert habe und auf deren öffentlichen Empfehlungen zurückgegriffen habe. Aus den öffentlichen Informationen geht jedoch hervor, dass die Veröffentlichung noch nicht vollständig den von der Gruppe gestellten Standards entspricht.
AGMAI empfahl zuvor, dass die führenden AI-Labore die Tests mit schwierigen mathematischen Aufgaben auf privaten, nicht zugänglichen Modellen einstellen sollten und die Nennung der Modellnamen, Prompt-Informationen, Inferenzketten, Zeitaufwand und Rechenkosten verlangte; doch OpenAI verwendet erneut ein privates Modell und nur 10 Manuskripte enthalten Inferenzketten des Modells.
In Bezug auf die Verständlichkeit für Menschen betont das Beratungsgremium, dass die von der KI erstellten Beweise für Mathematiker leicht zugänglich sein sollten und einfach zu lesen sind; doch berichten Quellen, dass etwa 42 Prozent der von OpenAI veröffentlichten Beweise nicht formalisiert sind und keine maschinenlesbaren Metadaten vorhanden sind, mit denen die natürliche Sprachbeweise mit ihren formalisierten Ergebnissen verbunden werden könnten.
AGMAI erklärt gleichzeitig, dass seine Beratungsrolle keine Zustimmung dafür darstellt, dass OpenAI diese Ergebnisse erhält oder veröffentlicht, und dass die mathematische Gemeinschaft letztendlich noch überprüfen muss, ob die entsprechenden Vorschläge ordnungsgemäß umgesetzt werden. Dieser Vorfall löst erneut Kontroversen bezüglich der Transparenz, der formalen Überprüfung, des Peer-Reviews und der Autonomie der akademischen Forschung bei der Erzeugung mathematischer Ergebnisse durch KI aus.
Tao Zhexuan veröffentlichte am 7. Oktober auf Mathstodon, dass er nicht gegen die Verwendung von KI in der Mathematik sei, und sogar ein aktiver Nutzer von KI-gestützten Forschungsmethoden sei; aber er lehnt es vehement ab, dass „die schnelle Lösung bekannter Probleme mit KI“ zum Hauptziel oder zum Produkt wird. Er glaubt, dass dies das Verständnis, die Unterrichtung, die Zusammenarbeit und das offene Experimentieren, auf denen die Mathematikgemeinschaft basiert, zerstören würde.
Tao Zhexuan weist darauf hin, dass in der traditionellen Mathematik ein Durchbruch bei einem langjährigen Rätsel nicht nur darin besteht, „die Antwort zu erhalten“: Der Autor verfasst Berichte, nimmt an Workshops teil und kommuniziert mit Kollegen. Anschließend wird die Erklärung vereinfacht, in Lehrbücher aufgenommen und es entstehen weitere Probleme, Kooperationspartner sowie neue Forschungsrichtungen.
Die aktuelle Vorgehensweise von Unternehmen wie OpenAI ist oft so, dass der Promptgeber das AI dazu bringt, die Aufgabe selbst zu lösen;sobald das Ziel „gelöst“ ist, kommt es kaum zu weiteren Verständnissen, Berichten, Diskussionen mit Kollegen oder der Entwicklung des Bereichs. Tao Ze-Xuan glaubt, dass die Veröffentlicher möglicherweise nicht ausreichen, um das Ergebnis des AI, seine Antworten oder seine Interaktionen mit dem Bereich zu erklären.
Er nennt diese Situation im mathematischen Bereich „Unverdauliche Beweise“: Die KI kann schnell Aussagen, Beweise und Beispiele erzeugen, aber die Menschen haben keine Zeit, sie zu überprüfen, zu verstehen, zu schreiben, zu unterrichten und zu absorbieren, sodass es viele „unverdauliche Beweise“ gibt.
Er macht sich besonders Sorgen darüber, dass OpenAI die Millennium-Probleme wie die Navier-Stokes-Gleichungen als Benchmark für die Modellfähigkeit anwendet. Seiner Ansicht nach werden „wie viele Aufgaben und wie schnell“ gelöst, was als Indikator für „Verständnis und Einsichten“ angesehen wird; doch Geschwindigkeit und Menge allein bedeuten nicht mathematicales Verständnis.
Tao Zhexuan betont, dass sobald ein Problem offenlegt und „gelöst“ ist, es fast unmöglich ist, es wieder in einen „ungelösten“ Zustand zurückzusetzen. Selbst wenn die Menschen später versuchen, andere Wege zu finden und neue Methoden zu entwickeln, würde allein das Wissen um die Existenz der Lösung diesen Erkundungsprozess „verseuchen“.
Daher kritisiert er dies als eine nicht nachhaltige Massen-„Ernte“: Offene Probleme werden als massenhaft verfügbare Ressourcen behandelt, was letztendlich dazu führt, dass das gesamte mathematische Feld weniger fruchtbar ist als unter traditionellen Forschungsmethoden.
IT Home Hinweis: Terence Tao ist einer der heutigsten berühmten Mathematiker, Professor für Mathematik an der UCLA in Los Angeles und Gewinner des Fields Award 2006; er wird oft als „Mozart der Mathematik“ bezeichnet.
Relevante Lesestoffe: