Forscher sind es leid, dass OpenAI seine Durchbrüche kontrolliert

Am Montag verkündete OpenAI beeindruckende Fortschritte in Mathematik, Informatik und Physik, sowie einen sich entwickelnden Ansatz zur Kommunikation seiner Erkenntnisse. Doch trotz der scheinbaren Korrektur des Kurses sind die mit The Verge sprechenden Forscher immer mehr von den Manövern des Unternehmens genervt.

Es waren turbulente Monate zwischen OpenAI und Mathematikern, die immer noch mit den Hunderten von vorläufigen Publikationen ungerecht über sie geworfenen zu Beginn des Oktober angekommen sind. Diesmal sagt OpenAI, dass es mit Experten „Hütern“ zusammenarbeitet, um zu entscheiden, wie am besten seine neuesten Erfolge teilen soll.

Verwandt

• „Reine Verrücktheit“: Mathematiker werden Jahre brauchen, um die neueste Entwicklung von OpenAI zu verstehen
• Die Übernahme der Mathematik durch Künstliche Intelligenz hat begonnen
• OpenAI will einfach nur gewinnen

Alle drei Ergebnisse betreffen einige der wichtigsten ungelösten Probleme in Mathematik, Informatik und Physik. Einige erweitern die vorherigen Arbeiten von OpenAI, andere schlagen neue Wege ein. Nach den Ratschlägen von OpenAIs „Herdenführern“ verfolgt jedes eine unterschiedliche Veröffentlichungsstrategie. Für das mathematische Ergebnis hat OpenAI die von der KI erstellte Ausgabe veröffentlicht, „um die Forscher frei zu lassen, ihre eigenen Bemühungen zur Erklärung des Ergebnisses anzustellen“. Für seine computergestützten Forschungsergebnisse wird OpenAI ebenfalls eine externe Gruppe von Forschern zusammenstellen, „um das Ergebnis zu erklären“. Die Physik wurde hingegen überhaupt nicht veröffentlicht, und OpenAI sagte, dass es „auf eine externe Gruppe von Experten warten“ wird, um zu entscheiden, wie die Materialien veröffentlicht werden sollen.

• Das mathematische Ergebnis ist erstaunlich. Es soll die Kakeya-Vermutung in allen Dimensionen lösen. Kurz gesagt: Die Frage ist, wie wenig Raum benötigt wird, um einen Nadel oder einen Bleistift in jeder Richtung zu drehen. Eine Beweisführung für die dreidimensionale Version war einer der Erfolge, für die der Mathematiker aus NYU Hong Wang mit der renommierten Fields-Medaille ausgezeichnet wurde. Der Mathematikprofessor an der Brown University, Brendan Hassett, sagte zu The Verge: Opsicht OpenAI sei „gut unterstützt“, obwohl er betonte, dass er die formalisierte Version von Lean noch nicht überprüft habe – ein Mittel zur computergestützten Überprüfung der Ergebnisse.

• Das physikalische Ergebnis untersucht das Standardmodell, das erfolgreichste und vollständigste theoretische Rahmenwerk in der Physik. Es betrifft die Quantenchromodynamik, die die starke Kernkraft beschreibt – eine der vier grundlegenden Kräfte der Natur (neben der Gravitationskraft, der elektromagnetischen Kraft und der schwachen Kernkraft) – sowie ihre Beziehung zur Yang-Mills-Theorie, einem Eckpunkt der modernen Teilchenphysik. Die Yang-Mills-Theorie steht auch im Mittelpunkt einer der sieben Millennium-Prize-Fragen in Mathematik, obwohl die Arbeit von OpenAI nicht die ungelöste „Massenlücke“ behandelt.

• Das endgültige Ergebnis behauptet, die Exponentialzeit-Hypothese zu widerlegen – eine weit verbreitete Annahme in der theoretischen Informatik, nach der bestimmte Probleme nicht schneller als durchbrüchische Ansätze gelöst werden können. Dies ist eng mit P versus NP verbunden, einem weiteren Millennium-Prize-Problem und einem der größten ungelösten Probleme im Bereich, das fragt, ob Probleme, deren Lösungen leicht überprüft werden können, auch leicht gelöst werden können.

Angesichts der unterschiedlichen Graden der Offenlegung und der Komplexität der Bewertung solcher Arbeiten ist es für Forscher schwierig, die Erkenntnisse der Firma vollständig zu beurteilen. Selbst mit allen Informationen würde dies Zeit in Anspruch nehmen. Doch Experten, die mit The Verge sprachen, sagten, dass es gute Gründe gibt, die Ergebnisse ernst zu nehmen – sie beschreiben sie als „groß“, „wichtige Durchbrüche“ und „bedeutend“.

Es macht keinen Sinn, dass nur wenige bedeutende Wissenschaftler sie betrachten können.

Aber die Begeisterung der Forscher für die Wissenschaft wurde durch die Verärgerung über das Verhalten von OpenAI abgemildert. Es war ein bekanntes Gefühl nach Monaten des intensiven Stroms an von KI erstellten Erkenntnissen. Viele wollten, dass die breitere Gemeinschaft mit der schwierigen Aufgabe beginnt, die Erkenntnisse des KI-Labors zu prüfen, und fragten sich, warum OpenAI zusätzliche Hürden setzt, indem sie Experten auswählt, um den Prozess zu überwachen.

Die meisten Experten von The Verge begrüßten die Entscheidung von OpenAI, mit externen Forschern zu beraten, aber argumentierten, dass die öffentliche Bekanntgabe der Ergebnisse auch bedeutet, diese Arbeit für jeden zugänglich zu machen. „Ich bin damit einverstanden, dass sie die Probleme wie heute veröffentlichen“, sagte Constantin Kogler, Forscher am Institute for Advanced Study, und bewertete die kleinere Gruppe von drei Ergebnissen als die Hunderte, die zuvor veröffentlicht wurden. Doch er stellte die Entscheidung in Frage, den Zugang nur für ausgewählte Experten von OpenAI einzuschränken. „Es macht keinen Sinn, dass nur wenige bedeutende Wissenschaftler sie sehen können“, sagte er.

Verwandt

• OpenAI fördert weiterhin Mathematiker
• OpenAI möchte mit elitären Mathematikern besprechen, wie man nicht wieder Fehler macht
• Mathematiker wollen Beweise dafür, dass OpenAI ihre Arbeit nicht verwendet hat

„Die Tatsache, dass sie die Gruppe auswählen, ist ein Desaster“, sagte Andreas Karch, Professor für Physik an der University of Texas at Austin, gegenüber The Verge. „Die großen Labore haben bereits genug Kapazität. Sie sollten nicht diejenigen auswählen, die Erfolg haben oder scheitern.“ Zunächst schlug Karch vor, die Forscher durch einen „Wettbewerbsprozess“ auszuwählen, obwohl er anerkannte, dass dies wahrscheinlich eine ähnliche Gruppe ergeben würde, die er als „hochwertig“ bezeichnete. Später fragte er, warum OpenAI „nicht sofort die Beweise veröffentlichen kann“, außerdem sollte seine Expertenteam ernannt werden. „Das würde den Zugang demokratisieren, während gleichzeitig gezeigt wird, dass sie sich dafür interessieren, dass die Ergebnisse sinnvoll und verständlich sind“, sagte er.

„Mein Eindruck ist, dass für jeden Ansatz jemand sein Unmut zeigen wird.“

Es ist genau diese Art von Gatekeeping, für die die Beratungsgruppe für Mathematik und künstliche Intelligenz (AGMAI) – eine Gruppe von Experten von OpenAI – früher zugesagt hatte, Beratungen zu geben darüber, wie ihre Erkenntnisse weitergegeben werden sollten. Sie warnten bereits einen Tag vor der Ankündigung davor. „Wir empfehlen, dass AI-Unternehmen diese Praxis nicht verwenden sollten“, sagten sie und argumentierten, dass die Auswahl bestimmter Personen, um die Ergebnisse zuerst zu erhalten, „unnötig“ sei, den Ruf der ausgewählten Forscher missbraucht werde und Risiken wie ungleiches Zugangspotenzial, voreingenommene Auswahl und Verzögerungen darstellt. Stattdessen empfehlen sie, dass AI-Laboren die Ergebnisse in wissenschaftlichen Repositories veröffentlichen sollten, mit formalisierten Beweisen und Informationen darüber, wie die Probleme ausgewählt wurden, sowie mit Finanzierung und anderen Unterstützung für diejenigen, die daran arbeiten, die Ergebnisse zu verstehen.

Nach der Veröffentlichung der neuesten Ergebnisse forderte AGMAI OpenAI auf, „ohne Verzögerung die natürliche Sprache- und Lean-Outpute hinter den angekündigten physikalischen Ergebnissen öffentlich zu machen“.

„Obwohl dies zentrale Fragen in der Physik sind, sind sie auch wichtige Fragen in der Mathematik. Die Existenz der Quanten-Yang-Mills-Theorie ist Teil eines Millennium-Prize-Problems, und die Konstruktion interaktiver Quantenfeldtheorien in vier Dimensionen war seit Jahrzehnten ein Ziel der mathematischen Physik.“

Wir haben großen Respekt vor den Wissenschaftlern, die von OpenAI beauftragt wurden, diese Arbeit zu leiten. Aber wie wir in unserer jüngsten Erklärung ausgedrückt haben, sollte das Verständnis offen entwickelt werden, und jeder sollte denselben Zugang haben. OpenAI haben gesagt, dass sie die Veröffentlichung bis zur vollständigen Formalisierung der Lean-Technologie verzögert haben. Nach ihren eigenen Angaben ist dies nun abgeschlossen, daher gibt es keinen wissenschaftlichen Grund mehr für eine weitere Verzögerung.

Laut Hassett könnte die offene Verfügbarkeit der Erkenntnisse auch zu besserer Wissenschaft führen und die breitere Einführung neuer Tools wie KI fördern. „Dass viele Gruppen auf der Welt mit diesen Ergebnissen kämpfen, unterstützt die schnelle Einführung neuer Tools durch diejenigen, die sie nutzen möchten“, sagte er.

„Die grundlegenden Ergebnisse werden so schnell gelöst, ohne menschliche Mitwirkung … die Artikel sind schwierig zu lesen und zu überprüfen.“

Es könnte unmöglich sein, einen Weg zu finden, um mit Forschern in den Bereichen von OpenAI zu kommunizieren, die immer mehr Einfluss gewinnen. Das Unternehmen gibt an, dass es verschiedene Ansätze ausprobiert und erkennt, dass jeder Ansatz Nachteile hat. „Meiner Meinung nach wird für jeden Ansatz jemand sein, der unzufrieden ist“, sagte der Mathematiker Jared Duker Lichtman von Stanford. „Es geht also nur darum, die am wenigsten störende Option zu finden.“

Xiaoyu He, ein Mathematikprofessor am Georgia Institute of Technology, glaubt, dass das Problem tiefer geht als die Art und Weise, wie OpenAI seine Erkenntnisse bekannt gibt. „Die Ergebnisse sind sehr beeindruckend“, sagte er, „aber ich denke, sie tun nur so, als würden sie versuchen, verantwortungsvoll und bedacht mit der Veröffentlichung ihrer Ergebnisse zu sein, während sie die Hauptprobleme nicht ändern können: dass die grundlegenden Ergebnisse so schnell gelöst werden, ohne menschliche Beteiligung, und dass die Artikel schwer zu lesen und zu überprüfen sind.“