Einige Mathematiker rufen zum OpenAI-Boykott auf, nachdem KI-generierte Beweise ihr Fachgebiet überfluten

Einige Mathematiker rufen zum OpenAI-Boykott auf, nachdem KI-generierte Beweise ihr Fachgebiet überfluten

Nachdem OpenAI Hunderte KI-generierte mathematische Manuskripte veröffentlicht hat, ruft die Association for Human Mathematics zu einem Boykott auf. Viele Arbeiten sind so dicht und seltsam geschrieben, dass selbst führende Experten KI-Hilfe benötigen, um sie zu entziffern – sofern sie es überhaupt können. Es zeichnet sich ein Streit darüber ab, ob ein Problem als gelöst gelten kann, bevor sein Beweis unabhängig nachvollzogen und für Menschen verständlich gemacht wurde.

Die Association for Human Mathematics (AHM) beschuldigt OpenAI, Kernnormen der wissenschaftlichen Forschung verletzt zu haben, indem es die KI-Beweise veröffentlichte, und fordert Mathematiker auf, die Zusammenarbeit mit dem Unternehmen einzustellen.

Der Fields-Medaillenträger Terence Tao, der der Gruppe vorsteht, teilte die Erklärung als Gastbeitrag auf seinem Blog und zeichnete auf Mastodon zugleich das Zeitalter eines "Math 2.0" nach, in dem das Lösen von Problemen nicht mehr im Mittelpunkt der Disziplin stehen soll. Der Komplexitätstheoretiker Scott Aaronson beschrieb die Situation auf seinem Blog.

als "Mathocalypse". Die AHM-Erklärung eskaliert eine monatelange Debatte. OpenAI hatte bereits für Aufsehen gesorgt, indem es behauptete, ein internes Modell habe mehr als 100 offene mathematische Probleme in einem einzigen Monat gelöst, darunter einen Lösungsansatz für das Navier-Stokes-Millenniumsproblem. Als Reaktion auf die wachsende Kritik richtete OpenAI die Beratungsgruppe AGMAI am Institute for Advanced Study ein, wobei die Gruppe jedoch ausdrücklich kein Mitspracherecht über das Tempo der internen Forschung des Unternehmens hat.

AHM sieht in der Veröffentlichung eine Macht Demonstration

Die AHM sagt, OpenAI habe die zentrale Prämisse der AGMAI-Empfehlung bereits ignoriert, der zufolge fortgeschrittene mathematische Probleme nicht an internen Modellen getestet werden sollten. "Mathematiker haben nicht darum gebeten, dass diese Arbeit geleistet wird", heißt es in der Erklärung, die die Veröffentlichung von mehr als 700 Dateien auf einmal als "keine Demonstration von Wissenschaftlichkeit, sondern eine Demonstration von Macht" beschreibt.

Der einleitende Absatz der Erklärung erwähnt auch die vielen Urheberrechtsklagen, die OpenAI weltweit ausficht, und deutet – ohne es direkt auszusprechen – an, dass das Unternehmen diese Ergebnisse nur deshalb erzielen konnte, weil es auf der Arbeit von Mathematikern trainiert hat, ob legal oder nicht.

Derselbe Streit kam auf, als OpenAI vor Kurzem eine Lösung des Navier-Stokes-Problems ankündigte, kurz bevor zwei Mathematiker ihre eigene KI-gestützte Lösung präsentieren konnten. Die beiden hatten in ihrer Arbeit ChatGPT verwendet, und OpenAI bestritt den Verdacht, dass es Daten aus diesen Interaktionen verwendet hatte, um sein eigenes System zu trainieren und schneller eine Lösung zu erreichen.

Aaronson stellt dem gegenüber, was er das "Anthropic-Modell" nennt. OpenAI veröffentlicht rohe KI-Beweisentwürfe in einem einzigen Schub, was ein Wettrennen um ihre Ausarbeitung auslöst. Anthropic ging stattdessen eine Partnerschaft mit zwei Algorithmenforschern ein deren KI-Modell die entscheidende Idee für die Widerlegung zwei jahrzehntealter Vermutungen lieferte. Die Forscher erhielten eine Vergütung und verfassten eine Fassung des Beweises, die Menschen nachvollziehen konnten.

Beide Ansätze haben Nachteile. OpenAIs Methode lässt die Gemeinschaft die danklose Arbeit erledigen, Beweise lesbar zu machen – und das kostenlos. Anthropics Methode erlaubt es einem privaten Unternehmen zu bestimmen, welche Mathematiker als "Emissäre" eines Ergebnisses auftreten dürfen.

KI knackt mathematische Probleme schneller, als irgendjemand die Ergebnisse überprüfen kann

Tao hatte sich zuvor 24 weiteren Fields-Medaillistenangeschlossen, darunter Peter Scholze, Maryna Viazovska und Martin Hairer, um eine Erklärung zu unterzeichnen, die vor einer „schwerwiegenden Fehlausrichtung“ zwischen den Zielen der KI-Industrie und denen der Mathematik warnt. Problemlösen sei, so argumentieren sie, nur ein Werkzeug für das eigentliche Ziel der Disziplin, das konzeptuelle Verständnis, und die massenhafte Produktion gelöster Probleme in immer schnellerem Tempo könnte „fruchtbaren Boden zerstören, statt neue Ideen mit Leben zu erfüllen.“

Die Unterzeichner kritisieren auch die überstürzten Ankündigungen KI-generierter Lösungen ohne ordentliche Ausarbeitungen oder Zitate relevanter früherer Arbeiten und sagen, dies werfe „schwerwiegende Fragen zu Urheberschaft und Plagiat“ auf.

Auf Mastodongeht Tao nun weiter. In der traditionellen Mathematik würden Beweise lange offener Probleme zu Vorträgen, Workshops, neuen Kooperationen und zur Aufnahme in Lehrbücher führen und junge Forschende anziehen, die daran arbeiteten, sie zu verstehen und einzuordnen.

Jetzt sieht er das Gegenteil. Probleme werden autonom von KI-Nutzern gelöst, die kein Interesse an dem Fach haben und die Ergebnisse nicht gut genug verstehen, um Fragen zu beantworten oder Vorträge zu halten, was deutlich weniger Seminare und Kooperationen hervorbringt als traditionelle Durchbrüche. Forschende halten zudem vielversprechende Richtungen zurück aus Angst, dass Konkurrenten ihnen die Lösung zuvorkommen.

Für Tao ist der Schaden irreversibel. Einmal als gelöst betrachtet, kann ein Problem nicht wieder als ungelöst gelten. Schon das Wissen, dass eine Lösung existiert, kann – wie er es ausdrückt – die Suche nach anderen Ansätzen, die weitere Erkenntnisse bringen könnten, „kontaminieren“. Lösungen werden in großem Maßstab „geerntet“, sodass ganze Zweige der Mathematik weniger fruchtbar sind als zuvor.

Tao argumentiert, dass die „Math 2.0“-Ära aufhören muss, Problemlösen als ihr hauptsächliches Fortschrittsmaß zu behandeln, und stattdessen anfangen muss, Erklärung, Gemeinschaftsbildung und die Eröffnung neuer Forschungsrichtungen wertzuschätzen, mit entsprechenden Änderungen daran, wie Ausbildung, Veröffentlichung und Karriereaufstieg bewertet werden.

Dies baut auf Taos früherer Vision der „industriellen Mathematik“ aus dem Jahr 2024 auf, wobei in jener Version noch die Menschen das Tempo vorgaben. KI sollte Mathematiker unterstützen, ähnlich wie Motoren Schachspieler unterstützen, und breite, relativ oberflächliche Forschung ermöglichen, die die tiefere Arbeit menschlicher Experten ergänzte. Heute sieht Tao diese Rollen vertauscht. Die KI löst die tiefen Probleme, während die Menschen die Ergebnisse im Nachhinein aufarbeiten. Wie viele andere Expertenhat Tao offenbar das Tempo der KI-Entwicklung massiv unterschätzt.

Drei Stunden KI-Rechenleistung können nun die gesamte Karriere eines Mathematikers erreichen

Aaronson veranschaulicht, was dies für einzelne Forschende bedeutet, am Beispiel seiner Frau Dana Moshkovitz, die ihre gesamte Karriere der Unique Games Conjecture gewidmet hat, einem offenen Problem der theoretischen Informatik. Die Veröffentlichung enthält einen behaupteten Beweis dafür.

In Textnachrichten an Aaronson in der Nacht der Veröffentlichung schrieb sie: „Es fühlt sich an, als hätte es jemand geschrieben, der auf Psychedelika ist.“ Große Teile des Dokuments waren unklar. Das Paper zitierte zahlreiche Werke, ohne zu erklären, warum sie anwendbar waren, obwohl frühere Ergebnisse das hätte ausschließen müssen.

„Im Grunde ist das Paper so schrecklich geschrieben, dass es ohne KI-Hilfe unmöglich zu lesen ist“, sagte Moshkovitz. Der Beweis stützte sich auf eine völlig neue, bizarre Konstruktion, die sie als „irgendein außerirdischer Wahnsinn“ beschrieb.

Aaronson listet weitere Ergebnisse aus der Komplexitätstheorie, Zahlentheorie und Algorithmusforschung auf, darunter Teilerfolge bei mehreren verbliebenen Clay Millennium Problems. Jedes einzelne davon hätte, so seine Einschätzung, für sich genommen zu den Top-Ergebnissen des Jahres gehört.

Ein Bereich fehlt in der Veröffentlichung jedoch auffällig. Kryptografie. Unter Berufung auf ungenannte Quellen berichtet Aaronson, dass KI-Unternehmen nun still Schwachstellen in kryptografischen Protokollen und Primitive ausloten. Insgesamt wurden etwa 8,000 Probleme getestet, mit einer Erfolgsquote von etwa fünf Prozent und durchschnittlich drei Stunden Rechenleistung auf GPT-Pro-Niveau pro Problem. Verwendet wurde wahrscheinlich ebenfalls OpenAIs aktuelles internes Modell, das in den kommenden Monaten für zahlende ChatGPT-Kunden ausgeliefert werden könnte.

Mathematiker uneinig darüber, ob ein Boykott hilft

Die Kommentare zu Taos Blogbeitrag zeigen, wie gespalten das Fach ist. Mehrere Kommentierende unterstützen den Boykott und schlagen vor, dass Forschende keine OpenAI-Produkte mehr nutzen, während sie zugleich besseren Schutz von Preprint-Servern wie arXiv gegen das massenhafte Einsammeln von Trainingsdaten fordern.

Andere halten die Position des AHM für unrealistisch und argumentieren, dass OpenAI nicht aufhören wird, an Mathematik zu arbeiten, und dass öffentliche Ergebnisse besser sind als private. Ein anderer Kommentator fragt, ob ein Problem wirklich als gelöst gelten kann, wenn weder die Autoren noch jemand anderes den Beweis vollständig versteht. Im Fall der Navier-Stokes-Gleichungen bleibt unklar, ob das Ergebnis tatsächlich das Verständnis irgendjemandes für Strömungsmechanik vertieft.

AGMAI selbst nimmt eine diplomatischere Haltung ein als das AHM und betrachtet die Veröffentlichung als einen ersten Schritt, bei dessen mathematischem Verständnis der Ergebnisse erst jetzt begonnen wird. Dennoch warnt die Gruppe, dass die Zukunft der mathematischen Forschung nicht darin bestehen kann, Ergebnisse von KI-Labors durchzuarbeiten.

"Mathematiker müssen in der Lage sein, ihre eigenen Fragen zu formulieren, eigene Ansätze zu entwickeln und Richtungen zu erkunden, die nicht als Beispiele für die Fähigkeiten eines KI-Systems ausgewählt wurden. Gerechter Zugang zu leistungsfähigen Forschungswerkzeugen und angemessenen Rechenressourcen sind für diese Freiheit essenziell", schreibt die Organisation.

KI-News ohne Hype – kuratiert von Menschen

Abonnieren Sie THE DECODER für werbefreies Lesen, einen wöchentlichen KI-Newsletter, unseren exklusiven "AI Radar"-Frontier-Report sechs Mal pro Jahr, vollen Archivzugang und Zugang zu unserem Kommentarbereich.

Lesen Sie weiter für das vollständige Bild.
Abonnieren Sie für Berichterstattung ohne Hype.

• Voller Zugriff auf jeden Artikel auf THE DECODER
• Keine Werbung
• An den Kommentaren und Community-Diskussionen teilnehmen
• Eine wöchentliche KI-News-Zusammenfassung per E-Mail
• 6x/Jahr: "AI Radar" — tiefgehende Analysen zu den wichtigsten KI-Themen
• Tägliche KI-Nachrichten, immer auf dem neuesten Stand
• Unser komplettes zehnjähriges Archiv
• Berichterstattung durch ein Team mit über 10 Jahren Erfahrung in KI