Sam Altman hat Verständnis für Mathematiker, sagt aber, dass OpenAIs mathematischer Ansturm nicht aufhören wird

Nach Monaten, in denen Mathematiker mit einem ununterbrochenen Strom KI-generierter Ergebnisse bombardiert wurden, sagt OpenAI-CEO Sam Altman, er habe Verständnis für Forscher, die Schwierigkeiten haben, das alles einzuordnen. Aber er hat nicht die Absicht aufzuhören – und deutet an, dass von den Entdeckungsschätzen des Unternehmens noch viel mehr kommen könnte.

„I think, on net, the world deserves to understand how the universe works“, sagte Altman in einer Episode des am Donnerstag veröffentlichten Cheeky Pint -Podcasts. „But I do have empathy for the method.“

Seine Äußerungen markieren einen der ersten Momente, in denen der OpenAI-Chef die Auswirkungen des Unternehmens auf Mathematiker direkt anerkannt hat – nach einer Reihe von genuin beeindruckenden KI-generierten Ergebnissen deren chaotische, schlecht kommunizierte Veröffentlichungen Forscher verwirrt zurückließen und die Schwierigkeiten hatten nachzukommen, selbst inmitten der allgemeinen Begeisterung über das Potenzial von KI als Werkzeug für Entdeckungen.

Altman argumentierte, dass das Recht der Öffentlichkeit auf neues wissenschaftliches Wissen die durch OpenAIs Veröffentlichungen verursachten Störungen „überwiege“, wobei er einräumte, dass das Unternehmen die Kommunikation seiner Ergebnisse verbessern müsse. „I feel unequivocal on this point: Humanity deserves fundamental knowledge, and we should not be sitting on a major fundamental science discovery“, sagte er. „The world deserves that.“

Verwandte Artikel

• Das ganze Drama um die Übernahme der Mathematik durch KI
• Forscher sind müde davon, dass OpenAI seine Durchbrüche zurückhält
• ‚Pure insanity‘: Mathematiker brauchen Jahre, um OpenAIs neueste Veröffentlichung einzuordnen

Mathematiker, die sich The Verge geäußert haben, haben OpenAI wiederholt dafür kritisiert, wie es seine Ergebnisse ankündigt, und mangelnde Zuschreibung, wenig Kontext und unzureichende Verifikation bemängelt. Forscher sagen, dass sie so die mühsame Arbeit des Überprüfens und Einordnens der Ergebnisse übernehmen müssen, während das Unternehmen mit weiteren fortfährt. Allein in diesem Monat hat OpenAI hunderte mathematische Ergebnisse veröffentlicht, oft kaum mehr als kurze Ausarbeitungen, die Forscher als schlecht geschrieben und schwer nachvollziehbar beschrieben haben.

Dennoch steht OpenAI nun in der Kritik, genau das zu tun, was Altman sagt, was es nicht tun sollte: potenziell bedeutsame Funde zurückzuhalten. Mathematiker und Wissenschaftler, die sich diese Woche The Verge geäußert haben, sagten, sie seien frustriert über das, was sie als OpenAIs Zurückhaltung von Forschungempfinden, im Anschluss an die Ankündigung of three major breakthroughs in mathematics, physics, and computer science. Details for one of the claimed results — involving Yang-Mills theory, the mathematical foundations of modern particle physics — have not been released publicly. OpenAI says it is due to the recommendations of a hand-picked group of experts it consulted on how best to release it. The practice runs directly counter to the advice of a previous group of mathematicians the"von drei bedeutenden Durchbrüchen in Mathematik, Physik und Informatik. Details zu einem der behaupteten Ergebnisse – die Yang-Mills-Theorie, die mathematischen Grundlagen der modernen Teilchenphysik, betreffend – wurden nicht öffentlich veröffentlicht. OpenAI sagt, dies sei auf die Empfehlungen einer handverlesenen Gruppe von Experten zurückzuführen, die das Unternehmen dazu konsultiert hatte, wie es am besten veröffentlicht werden sollte. Diese Praxis läuft den Empfehlungen einer früheren Gruppe von Mathematikern, die das beratene Unternehmen„, ist aber Teil dessen, was das Unternehmen als einen neuen Ansatz zur Kommunikation seiner Ergebnisse bezeichnet.“

Im Podcast deutet Altman außerdem an, dass OpenAI über weit mehr mathematische Entdeckungen verfügt, als es öffentlich gemacht hat. Auf die Frage, ob das Unternehmen mehr habe als die Hunderte von Beweisen, die es bereits veröffentlicht hat, antwortete Altman: „Ja, das haben wir. Natürlich."

Altman räumte außerdem ein, dass OpenAIs Beschäftigung mit mathematischen Problemen für kurze Zeit „get out of control“ war, sagte jedoch, dies sei absichtlich und notwendig gewesen, um die Grenzen seiner KI-Modelle zu ergründen. Er beschrieb einen internen Slack-Kanal namens „Model Name-Hold My Beer“, in dem Mitarbeitende „die Modelle einfach mit den schwierigsten Problemen konfrontierten, die sie finden konnten“, um zu sehen, wie diese abschnitten.

Altman schätzte außerdem, dass OpenAI in der Größenordnung von Hunderten Millionen Dollar für die Lösung mathematischer Probleme ausgegeben hat, darunter rund 10 Millionen Dollar – „vielleicht etwas mehr“ – für seine Navier-Stokes-Lösung, eines der legendären Millenniumsprobleme der Mathematik. Die Ausgaben bieten einen Einblick in die gewaltigen Ressourcen, die KI-Labore auf wissenschaftliche Probleme verwenden, was bei Forschern die Sorge weckt, dass sie mögen sich aus ihren eigenen Fachgebieten herausgespült werden.

Es sieht so aus, als hätten Mathematiker und andere Forscher, die auf eine Verschnaufpause hoffen, möglicherweise kein Glück.