Gerade hat Hinton sein erstes RSI-Paper veröffentlicht.

Von Mengyao aus Aofeisi

Quantum Bit | Öffentlicher Account QbitAI

Wenn KI beginnt, an der Entwicklung der nächsten KI-Generation mitzuwirken, könnte die Menschheit bereits am Vorabend einer „Intelligenzexplosion" stehen.

Verdammt! Die jüngst ultrahypige rekursive Selbstverbesserung (RSI) – sogar der KI-GuruHintonSind die jetzt selbst aktiv geworden??

Unser Nobel-Preisträger für Physik und Träger des Turing-Awards Hinton, dessen...Das erste Paper über den RSIund legt sofort mit einer ziemlich umwerfenden Frage los:

Wenn die KI in großem Maßstab beginnt, an der Herstellung der nächsten KI-Generation mitzuwirken.

Dann kommt die nächste KI-Generation zurück, um die Forschung und Entwicklung weiter zu beschleunigen.

Wenn dieser Kreislauf so immer weiter rollt … könnte daraus nicht direkt eine Kurve der Intelligenzexplosion entstehen?

Der Titel der Studie lautet《Was, wenn die Automatisierung von KI-F&E eine Intelligenzexplosion auslöst?》。

Auch die Autoren, die an der Arbeit an der Publikation mitgewirkt haben, stellen ein regelrechtes All-Star-Aufgebot der KI-Forschung dar:

Zu den 22 Autoren gehören unter anderem die beiden KI-Paten Geoffrey Hinton und Yoshua Bengio, der Reinforcement-Learning-Pionier Andrew Barto sowie der OpenAI-Chefwissenschaftler Jakub Pachocki – eine Reihe namhafter Forscher.

So viele KI-Größen versammeln sich an einem Ort, um genau über das „Intelligenzexplosions“-Problem zu diskutieren – die älteste Science-Fiction-Frage im KI-Bereich. Werfen wir zunächst einen ersten Blick auf die zentralen Thesen des Papiers –

• Sobald die KI vollständig teilnehmen kanndie nächste Generation von KI entwickeln, könnte sich rekursive Selbstverbesserung tatsächlich zu einem echten Kreislauf schließen.
• Sobald die KI-Forschungsautomatisierung einen bestimmten kritischen Punkt überschreitet, könnten KI-Fortschritte, die sonst Jahre dauern, auf komprimiert werdenEinige Monate, oder sogar kürzer.
• Die Entwicklungsgröße von Zukunft-KI-Labors könnte theoretisch von einigen Tausend Menschen direkt auf Zeheine MillionForscher.
• Die heute innerhalb eines Jahres erreichten KI-Fortschritte könnten in Extremfällen künftig nur etwa5 Wochen。
• Eine Intelligenzexplosion erfordert nicht unbedingt, dass die KI zunächst Superintelligenz wird; es genügt, wenn die KI-Forschung und -EntwicklungAutomatisierungseffizienzhoch genug ist, kann die Rückkopplungsschleife möglicherweise zuerst in Gang kommen.

Also… Hinton… der alte Herr… die großen Namen… was haben sie eigentlich alles rund um RSI gesagt… dringend…

KI hat wirklich begonnen, in die Fließbandfertigung der „nächsten KI-Generation“ einzutreten

IntelligenzexplosionDieser Begriff ist eigentlich schon ziemlich alt.

Schon 1965 entwarf der Mathematiker I.J. Good eine hypothetische superintelligente Maschine.

Wenn eine Maschine bereits besser als Menschen darin ist, Maschinen zu entwerfen, dann kann sie weiterhin eine noch intelligentere Version entwerfen.

Die neue Version beteiligt sich wiederum an der nächsten Verbesserungsrunde, Runde um Runde, bis schließlich eine sich selbst verstärkende Rückkopplungsschleife entsteht.

Goods damalige Kernthese war eigentlich ganz einfach –

Wenn die Sache des „Verbesserns von Maschinen“ selbst von Maschinen immer besser erledigt werden kann, dann kann das Fähigkeitswachstum umgekehrt wiederum das Fähigkeitswachstum weiter beschleunigen.

Diese Konzeption wurde später zur klassischsten theoretischen Quelle der „Intelligenzexplosion“ und steht mit der dieses Jahr stark im Fokus stehenden rekursiven Selbstverbesserung (RSI) eigentlich in einer direkten Linie.

Nur hat sich der Schwerpunkt der RSI-Diskussion heute leise verschoben.

Um das geht es nicht mehr nur, ob eine einzelne KI ihren eigenen Code ändern und Parameter justieren kann, sondern um eine viel realistischere Frage:

Kann KI wirklich in den gesamten Prozess der Entwicklung der nächsten KI-Generation eintreten und diesen Entwicklungsprozess selbst zunehmend beschleunigen?

Und eine zentrale Einschätzung, die Hinton und andere in diesem Beitrag abgeben, lautet genau Folgendes:

Die KI beginnt, tatsächlich in die KI-Entwicklungspipeline einzugliedern, und das mit einer Geschwindigkeit, die fast schon absurd ist . . .

Zu dieser Aussage kommt die Studie, weil sie eine Reihe interner Daten von führenden Laboren wie Anthropic heranzieht.

Im Januar 2025 lag der Anteil der KI-generierten genehmigten Codes noch im niedrigen einstelligen Prozentbereich.

Kaum ein Jahr vergangen: Im Mai 2026 lag dieser Anteil bereits über80%。

Verändert hat sich noch viel stärker der Anteil der KI „autonom“ erledigten Forschungs- und Entwicklungsarbeit.

Im März 2026 konnte Claude etwa 1% der F&E-Arbeit autonom erledigen, wobei es nur einer übergeordneten menschlichen Aufsicht unterlag.

Bis zum 8. Monat desselben Jahres war diese Zahl bereits gestiegen auf26%。

Mit anderen Worten: In etwa einem halben Jahr hat sich der Wert mehr als zwanzigfach vervielfacht.

Natürlich darf man diese Zahl nicht so verstehen, dass Claude bereits ein Viertel der gesamten Forschung bei Anthropic automatisch erledigt hat.

Gemessen wird damit hauptsächlich der Anteil der internen KI-F&E-Arbeit, die unter menschlicher Aufsicht auf höherer Ebene autonom von KI übernommen werden kann.

Anthropic betont selbst, dass Claude bislang bei keiner der getesteten KI-F&E-Aufgaben ein vollständig unbeaufsichtigtes Niveau erreicht hat, aber egal wie man es dreht: Der Trend ist bereits sehr deutlich.

Die Arbeit erwähnt auch, dass die internen KI-Systeme von OpenAI Stand 9/2026 bereits regelmäßig F&E-Aufgaben erledigen konnten, für die menschliche Mitarbeitende ursprünglich mehrere Tage benötigt hätten.

Eine sehr entscheidende Veränderung dabei ist:Die Länge der Aufgaben, die KI eigenständig bewältigen kann, wächst kontinuierlich.。

Was wirklich darüber entscheidet, ob KI wie ein Forscher arbeiten kann, ist nicht in erster Linie, wie hoch ein bestimmter Benchmark-Wert ausfällt.

Wichtiger ist, ob sie Dutzende Schritte hintereinander verketten und ein Forschungsziel über mehrere Stunden, Tage oder sogar noch längere Zeiträume kontinuierlich vorantreiben kann.

Die Arbeit kombiniert Benchmark-Trends mit internen Fortschritten der Labore und kommt zu dem Schluss, dassin den kommenden Jahren ein Großteil der KI-F&E-Arbeit durch KI automatisiert werden könnte, möglicherweise sogar vollständig.

Code schreiben ist nur ein Teil der KI-F&E; die vollständige KI-F&E umfasst hier auch das Aufstellen von Forschungshypothesen, das Entwerfen von Experimenten, deren Umsetzung, die Analyse von Ergebnissen, das Aufspüren von Fehlerursachen, die Kurskorrektur und den erneuten Neustart.

Wenn in diesen Schritten nur ein einzelner automatisiert wird, zählt das lediglich als KI-gestützte Forschung; der wirklich sensible Punkt ist, dass sie zu einer langen Kette verkettet werden.

Sobald diese Schritte über lange Zeit von einem KI-System miteinander verkettet werden können, beginnt die Rolle, die es übernimmt, immer stärker der eines echten Forschers zu ähneln.

Nun kommt es passenderweise so, dass die KI-F&E geradezu ideal für diese Art von Automatisierung geeignet ist ...

KI spielt sich überwiegend in digitalen Umgebungen ab: Code lässt sich direkt ausführen, Experimentierergebnisse kommen schnell zurück, und die Fähigkeiten des Modells lassen sich sofort anhand von Metriken wie Benchmarks, Loss oder Reward verifizieren.

Im Vergleich zu Chemie, Biologie oder dem verarbeitenden Gewerbe gibt es bei der KI-F&E viel weniger Schritte, bei denen man auf Feedback aus der realen Welt warten muss.

Genau deshalb beginnt I. J. Goods damals so fern klingende Schleife heute zum ersten Mal, einen relativ konkreten technischen Weg zu bekommen:

KI beteiligt sich an der Entwicklung der nächsten KI-Generation, die nächste KI-Generation ist leistungsfähiger, die stärkere KI kehrt zurück und beteiligt sich an der nächsten Entwicklungsrounde, die Schleife setzt sich fort – und die Entwicklungsfähigkeit selbst beginnt, das Wachstum der Entwicklungsfähigkeit voranzutreiben.

Die Arbeit bezeichnet solche Wege als software-driven intelligence explosion, also einedurch Softwareverbesserungen getriebene Intelligenzexplosion.

Erwähnenswert ist, dass sich das noch etwas vom Bau schnellerer Chips unterscheidet.

Chipdesign, Fertigung und Fabrikbau haben lange Zyklen, während Algorithmen, Trainingsmethoden, Agent-Workflows und Strategien für synthetische Daten, sobald sie sich als wirksam erwiesen haben, theoretisch sehr schnell in die nächste Entwicklungsrounde eingespeist werden können.

Daher interessiert die Autoren wirklich, ob der Feedbackzyklus des KI-Fortschritts immer kürzer wird – und genau dafür spricht man heute wieder über rekursive Selbstverbesserung:

Sobald die KI die Entwicklung der nächsten Modellgeneration immer vollständiger übernehmen kann, ist die Rückkopplungsschleife der Selbstverbesserung bereits entstanden.

Aus einigen tausend Forschern werden Millionen, und ein Jahr KI-Fortschritt schrumpft möglicherweise auf nur noch 5 Wochen??

Als Nächstes kommt der dramatischste Teil des gesamten Papiers.

Dass KI an der Forschung beteiligt ist, reicht für eine Intelligenzexplosion allein noch nicht aus. Entscheidend ist vielmehr, dass sie sich in einem sehr wesentlichen Punkt von gewöhnlichen menschlichen Forschern unterscheidet –KI-Forscher lassen sich kopieren.

Angenommen, ein Labor hat heute 1000 Top-Forscher, und in Zukunft entwickelt es einen Agenten, dessen Fähigkeiten das Niveau eines menschlichen Top-KI-Forschers erreichen.

Ab diesem Moment haben sich die Spielregeln dafür verändert, wie man das Forschungsteam vergrößert.

Einen menschlichen Top-Forscher auszubilden kann fünf Jahre Promotion und danach noch viele Jahre Forschungserfahrung dauern – ein KI-Forscher braucht einfach nur eine neue Instanz~

Außerdem kann er rund um die Uhr arbeiten, 24 Stunden am Tag, und tausende Instanzen können gleichzeitig Aufgaben ausführen. Wird das zugrunde liegende Modell aktualisiert, lässt sich das gesamte KI-Forschungsteam synchron aufrüsten.

Damit wird die härteste Wachstumsbeschränkung der menschlichen Forschung direkt umgangen:das Tempo der Talententwicklung。

Der Wunsch des Menschen, 1000 Top-Forscher in 1 Million zu verwandeln, ist beinahe ein Generationenprojekt.

KI-Systeme können sich theoretisch durch mehr Inferenz-Rechenleistung und mehr Instanzen in einer viel kürzeren Zeit vergrößern.

Für dieses Thema führt das Papier eigens ein Konzept ein:

effective R&D workforce, alsodie effektive Forschungs- und Entwicklungsarbeitskraft.

Die Autoren schätzen: Wenn KI das Niveau eines Top-KI-Forschers erreicht und die Inferenzkosten in einer ähnlichen Größenordnung wie bei heutigen Frontier-Modellen liegen –

dann könnte die bestehende Rechenleistung eines führenden KI-Unternehmens theoretisch eineKI-Forschungsarbeitskraft im Wert von mindestens mehreren Millionen menschlichen Top-Forschern tragen.

Bedenkt man, dass das Forschungsteam eines heutigen Frontier-KI-Labors nur in der Größenordnung von einigen tausend Personen liegt, klaffen beide um mehrere Größenordnungen auseinander...

Und diese Millionen Forscher hätten zudem eine Eigenschaft, die menschliche Organisationen nur schwer nachbilden können: Ihre Fähigkeiten lassen sich synchron aktualisieren.

Sobald das zugrunde liegende Modell aufgerüstet wird, müssen nicht Millionen von Menschen neu geschult werden – theoretisch können alle Instanzen gemeinsam die neuen Fähigkeiten erhalten.

Es sei darauf hingewiesen, dass hier leicht ein Missverständnis entsteht: 100 KI-Forscher führen nicht automatisch zu einer 1000-fachen Forschungsgeschwindigkeit.

In der Forschung gelten naturgemäß abnehmende Grenzerträge: 10 Personen, die an einem Problem arbeiten, sind möglicherweise viel schneller als 1 Person.

Wenn aber 1 Million Menschen gleichzeitig an einem Problem forschen, entsteht sehr wahrscheinlich massive Doppelarbeit, es wird um experimentelle Ressourcen konkurriert, und gute Ideen werden zunehmend schwerer zu finden sein.

Das Papier versucht daher eigentlich etwas anderes zu berechnen: Können die Erträge der zusätzlich hinzukommenden KI-Forschungsarbeitskraft wirklich mit der wachsenden Schwierigkeit der Forschung selbst mithalten?

So kommt die zentrale Variable des gesamten Papiers ins Spiel: returns to research effort, bezeichnet als r.

Ganz einfach verstanden: Wie viel kann das Tempo des technologischen Fortschritts zunehmen, wenn die Forschungsinvestitionen steigen?

Wenn r relativ niedrig ist, nehmen die Erträge nach einem starken Anstieg der Forschungsinvestitionen schnell ab.

Wenn dieser Wert hoch genug ist, führt der Fortschritt durch zusätzliche Forschungskapazität dazu, wiederum stärkere KI-Forscher hervorzubringen – erst dann beginnt die Rückkopplungsschleife zu beschleunigen.

Das Papier zitiert eine Untersuchung historischer Daten aus drei KI-Forschungsteilgebieten; die zentrale Schätzung für r liegt bei etwa1.2—1.9。

Angenommen, die KI-Forschung wird vollständig automatisiert, angenommen, ähnliche Forschungserträge lassen sich halten, und angenommen, es treten kurzfristig keine neuen Engpässe bei Rechenleistung, Daten und Ähnlichem auf, die das gesamte System blockieren – dann kommt das Modell zu folgendem Ergebnis:

Das Tempo des KI-Fortschritts könnte sich innerhalb von etwa 1,5 Jahren um das 10-fache erhöhen.

Umgerechnet heißt das: KI-Fortschritt, für den heute ein Jahr nötig wäre, würde in jener Phase nur noch etwa5 Wochen benötigen.。

Außerdem rechnet die Studie noch eine weitere Rechnung vor.

Wenn die KI-Forschung und -Entwicklung vollständig automatisiert wäre und nur der aktuelle Trend der Effizienzsteigerung bei Software beibehalten würde, könnte sich die automatisierte KI-Forschungsarbeitskraft innerhalb von Monaten bis Jahren um100-fach。

vergrößern. Zudem könnte dieses Wachstum auf zwei parallelen Linien voranschreiten.

Auf der einen Seite nimmt die Anzahl der KI-Forscher zu, auf der anderen Seite wird der einzelne KI-Forscher selbst weiterhin stärker.

Damit zeigt sich der wirklich kontraintuitive Aspekt der Intelligenzexplosion.

Eine natürliche Grenze des technologischen Wachstums in der Vergangenheit bestand darin, dass die Ausbildung von Forschern langsam ist: Bis ein wirklich herausragender Forscher ausgebildet ist, sind über zehn Jahre Bildung und Training nötig.

KI-Forscher unterliegen dieser Beschränkung nicht: Sobald sie eine ausreichende Fähigkeit erreicht haben, könnte der Schritt der Ausbildung zum Kopieren des Modells und Zuweisen von Rechenleistung werden.

Damit könnte die Forschung zum ersten Mal auf einen äußerst seltsamen Angebotsschock stoßen: Die Forschungsfähigkeit selbst wird zur Software.

Und sobald die Forschungsfähigkeit zu Software wird, können die beiden Variablen – Anzahl der Forscher und Fähigkeit der Forscher – gleichzeitig durch technischen Fortschritt vorangetrieben werden.

Das ist der eigentliche Ort der Gefahr, den die Arbeit als Intelligenzexplosion bezeichnet: Die Beschleunigungsquelle selbst wird ebenfalls beschleunigt.

RSI deutet sich an, die Intelligenzexplosion ist noch nicht geschlossen

Wer bis hierher gelesen hat, gelangt leicht zu einer besonders aufregenden Schlussfolgerung: Aus, die Intelligenzexplosion hat begonnen. (Weinen)

Doch der durchgehende Grundton, den Hinton in dieser Arbeit anschlägt, lautet: Die aktuellen Beweise reichen bei Weitem nicht aus, um zu zeigen, dass die Intelligenzexplosion bereits stattgefunden hat. (Lachen)

Denn der Produktivitätsgewinn durch die Automatisierung der KI-Forschung hat die Schwelle, die eine explosionsartige Beschleunigung auslösen würde, bislang noch nicht eindeutig überschritten.

Die Autoren erinnern sogar direkt daran, dass zwischen der Automatisierung der KI-Forschung und der Intelligenzexplosion noch eine lange Kette von Bedingungen liegt.

Zunächst muss die KI zuverlässig genug sein, um über lange Zeiträume autonom arbeiten zu können; zweitens muss sie den Forschungs产出 tatsächlich steigern; und erst danach müssen diese neuen Forschungsergebnisse die Forschungsfähigkeit der KI selbst wiederum deutlich verstärken.

Und selbst wenn in Zukunft Millionen von KI-Forschern auftreten, stehen sie vor mindestens einigen sehr realen Mauern.

Die erste Mauer: Rechenleistung.

KI-Forscher lassen sich kopieren, GPUs lassen sich nicht aus dem Nichts kopieren. Wenn viele entscheidende Experimente den Betrieb großer Modelle erfordern, müssen am Ende selbst viele Agenten womöglich auf GPUs warten.

Vor allem das einmalige Training eines echten Frontier-Modells kann bereits mehrere Monate dauern; auch 100 Zehntausend KI-Forscher, die am Computer sitzen, können eine Trainingsaufgabe, die physikalisch drei Monate benötigt, nicht auf fünf Minuten zusammenstauchen.

Dies ist eine der größten realen Beschränkungen einer softwaregetriebenen Intelligenzexplosion: Software kann extrem schnell iteriert werden, doch die Ausweitung der zugrundeliegenden Recheninfrastruktur bleibt den Grenzen der physischen Welt unterworfen.

Die zweite Mauer: Daten.

Die natürlichen Daten des Internets wachsen nicht synchron mit der Anzahl der KI-Forscher.

Dem in der Arbeit diskutierten Trend zufolge werden die vorhandenen hochwertigen natürlichen Daten den fortlaufend wachsenden Trainingsanforderungen wahrscheinlich immer schwerer gerecht.

Ob künftig durch synthetische Daten, verifizierbare Aufgaben, Umweltinteraktion und andere Methoden weiterhin hochwertige Trainingssignale geliefert werden können, ist derzeit noch ungeklärt.

Die dritte Mauer: Experimentierzeit.

Manche Dinge lassen sich von Natur aus nicht unbegrenzt parallelisieren: Das Training von Modellen braucht Zeit, die Chipfertigung braucht Zeit, und auch der Bau neuer Rechenzentren braucht Zeit.

Selbst wenn 1 Million Agenten gleichzeitig Experimentvorschläge einreichen, müssen sich am Ende alle die begrenzten GPUs, Rechencluster und Trainingsfenster teilen.

Und dann gibt es noch eine letzte, noch grundlegendere Frage: Die Forschung wird immer schwieriger.

Die leicht auffindbaren algorithmischen Verbesserungen werden möglicherweise zuerst aufgefunden, und jede weitere Steigerung der Fähigkeit erfordert künftig immer größere Investitionen.

Die Arbeit nennt diesen Punkt diminishing returns –

je weiter die Forschung voranschreitet, desto teurer könnte der nächste Durchbruch werden. Steigt der Schwierigkeitsgrad der Forschung schneller als die Forschungsfähigkeit der KI, kommt die Intelligenzexplosion von selbst nicht in Gang.

Insgesamt gilt: Zwar reichen die Beweise in der Arbeit nicht aus, um zu zeigen, dass die Intelligenzexplosion sicher stattfindet, doch die vorhandenen Beweise genügen bereits, um sie vom Science-Fiction-Problem zu einem realen Problem zu machen, auf das man sich frühzeitig vorbereiten muss.

Und die rekursive Selbstverbesserung ist tatsächlich zunehmend weiter von der „Science-Fiction-Prämisse“ entfernt.

Vielleicht ist der Knotenpunkt, den man 2026 rückblickend wirklich in Erinnerung behalten wird, gar nicht, dass ein bestimmtes Modell wieder ein paar Punkte mehr erzielt hat.

Es dürfte vielmehr der Moment sein, in dem die Menschheit zum ersten Mal ernsthaft begreift, dass das heftigste Scaling der KI möglicherweise genau bei der Sache „KI erforschen“ selbst stattfindet.

Referenzlinks:

[1] Quelle: https://x.com/geoffreyhinton/status/2106122709285368061?s=20