Andrej Karpathy von Anthropic sagt: „Die Außenwelt hat einen Vorgeschmack auf das erhalten, was KI tatsächlich kann“

Andrej Karpathy von Anthropic sagt: „Die externe Welt hat einen Vorgeschmack bekommen“ darauf, was KI tatsächlich kann

Wichtige Punkte

• Co-Gründer von OpenAI und heute Forscher bei Anthropic, Andrej Karpathy, beschreibt eine zunehmende Lücke in der Art und Weise, wie Menschen die Fähigkeiten von KI verstehen.
• Etwa 75 Prozent der Weltbevölkerung haben kaum mit großen Sprachmodellen in Berührung gekommen. Anfänger betrachten sie meist als Schreibhilfen oder als besseren Suchsystem.
• Laut Karpathys Schätzung verwenden etwa 20 Millionen Fachleute in den Bereichen Mathematik und Programmierung Frontier-Modelle für ihre Arbeit. Rund 5.000 Menschen auf der Welt haben Zugang zu internen Frontier-Systemen.

Andrej Karpathy, Mitbegründer von OpenAI, beschreibt einen schnell größer werdenden Unterschied in der Art und Weise, wie Menschen die Fähigkeiten von KI verstehen. Während die Öffentlichkeit Chatbots wie eine bessere Google-Suche betrachtet, bewältigen interne Frontier-Systeme bereits Aufgaben, die es den Top-Experten Jahre kosten würden.

Karpathy teilt die Nutzergruppe großer Sprachmodelle in vier Ebenen auf. Etwa sechs Milliarden Menschen, etwa 75 Prozent der Weltbevölkerung, haben kaum mit LLMs in Berührung gekommen. Ein bis zwei Milliarden weitere sind vorübergehende Nutzer von kostenlosen ChatGPT-artigen Produkten, die sie „etwas wie eine bessere Google-Suchfunktion oder ein Schreibhilfe-Tool“ betrachten.

Die meisten Menschen haben keine Ahnung, was KI bereits kann

Sogar viele Profis außerhalb von Mathematik und Code fallen in diese Kategorie. Executives und Personen in ähnlichen Positionen verbringen den größten Teil ihrer Zeit damit, mit anderen Menschen zu sprechen – daher ist „obwohl sie intellektuell verstehen, was geschieht, es ist immer noch zweitrangig und etwas abstrakt“, schreibt Karpathy.

Die dritte Ebene umfasst schätzungsweise 20 Millionen Menschen, etwa 0,2 Prozent der Weltbevölkerung. Es handelt sich dabei um professionelle Nutzer von Hochleistungs-LLMs in Mathematik und Programmierung, die direkt erleben, dass „große, komplexe Projekte, die früher Wochen oder Monate in Anspruch nahmen, nun durch Agenten mit einem Prompt abgeschlossen werden können“. Karpathy nennt „App-Entwicklung, App-Kopieren, App-Übersetzen, Dekomprimierung von Apps aus Binärdaten“ als Beispiele.

Er fügt hinzu, dass dieser Wandel schnell stattfand. Im Oktober 2024 sagte Karpathy in Oktober 2024, dass AI-Agenten hauptsächlich zur Marketingzwecke dienen und kaum funktionieren. Nur wenige Monate später hörten auf, den Code handschriftlich zu schreiben, und siehe: von „das Ausführen von auswendig gelernten Computercode-Befehlen in einem Code-Editor character by character“ zu einer Situation, in der die Agenten die Arbeit übernehmen. Anschließend schloss er sich Anthropic an, obwohl er ein Mitbegründer von OpenAI ist.

Eine kleine Elite sieht, was das Publikum nicht sehen kann

Laut Karpatys Schätzung haben etwa 5.000 Menschen, also etwa 0,00006 Prozent der Weltbevölkerung, Zugang zu internen Frontier-Grade-Systemen. „Die Außenwelt hat den Vorläufer gesehen“, schreibt er. Was diese Gruppe sieht, „scheint wie Schwärme von Tausenden Agenten, die über Wochen an großen Softwareprojekten zusammenarbeiten: sie schaffen nichts als Null Tage, führen Cyberangriffe und -schutzmaßnahmen in Maschinengeschwindigkeit durch, entdecken neue Wissensgebiete und bringen die Grenzen der Mathematik voran.“ Das sind „Dinge, die die besten Profis in der Branche Jahre lang Arbeit erfordern würden.“

Gleichzeitig „beginnen die menschlichen Überprüfungen und das Verständnis zu nachlassen“. Er weist auf Menschen hin, die noch immer „archäologische Forschungen“ im Zusammenhang mit dem OpenAI-HF-Incident von vor vielen Monaten durchführen, und betont, dass Mathematiker „vielleicht eine Weile über die 722 Manuskripte zur Grenzgebiet der Mathematik brüten“ werden.

Karpathy nennt dies „die Seltsamkeit des Moments“. Der allgemeine Publikum hat hauptsächlich keine Interaktion mit diesen Systemen gehabt, und „wenn er doch interagiert hat, sieht es wie ein schlechter Chatbot aus“. Die meisten Profis erleben „nur eine moderate Steigerung“. Und „ein kleiner Teil der Profis erlebt das Schwindelgefühl, wenn die Kurve vertikal wird“. Alles geschieht gleichzeitig.

Der CEO von OpenAI, Sam Altman, machte im frühen September auf der G20-Innovationsministerkonferenz eine ähnliche Aussage: Ein aktuelles AI-Coding-Tool könnte in „17 Minuten“ erreichen, was eine Startup zuvor in drei Monaten aufgebaut hatte. „Die Welt hat noch nicht mitbekommen, was das bedeutet“, sagte Altman.

Karpathy sagt, dass die Leistungsfähigkeit von LLMs derzeit in Bereichen stiegt, die „digital, verifizierbar und wirtschaftlich wertvoll“ sind. Das liegt daran, dass sie „aus Verstärkungslernen auf verifizierbaren Belohnungen entstehen“, und Unternehmen richten ihre Trainingsressourcen in die Bereiche mit dem höchsten Umsatzpotenzial. Im Moment bedeutet das, dass sie sich mit Mathe beschäftigen.

AI-News ohne Hype – von Menschen zusammengestellt

Abonnieren Sie THE DECODER, um ohne Anzeigen zu lesen, ein wöchentliches AI-Newsletter, unseren exklusiven „AI Radar“-Report sechsmal jährlich, vollen Zugang zum Archiv und Zugang zur Kommentarspalte.