Google sagt, dass selbstverbessernde KI keinesfalls in der Nähe ist

Google sagt, dass selbstverbessernde KI noch weit entfernt ist

Der Google-Ingenieur Haydn Belfield sagt, dass selbstverbessernde KI-Technologien noch weit entfernt sind, obwohl eine signifikante Automatisierung bereits im Gange ist.

Laut Belfield hat Google Deepmind keine messbare Beschleunigung in der AI-Forschung durch die AI selbst festgestellt. Das bedeutet jedoch nicht, dass keine signifikante Automatisierung stattfindet: Die AI schreibt jetzt mehr als 75 Prozent des Produktionscodes. Doch etwa 88 Prozent der Codeänderungen benötigen immer noch menschliche Überwachung oder Prüfung – und jede Änderung wird vor der Veröffentlichung von einem Menschen überprüft, so Belfield. Der Anteil der Codeänderungen, die vollständig an die AI übergeben werden, stieg von 7,5 auf 11,9 Prozent.

Je komplexer und zeitaufwendiger die Aufgabe wird, desto geringer ist die Wahrscheinlichkeit, dass die KI allein damit umgeht. Bei 1.389 internen Argon-Agent-Testläufen sank die Erfolgsrate ohne menschliche Einmischung stark mit zunehmender Komplexität. Menschen sind weiterhin wichtig für kreative Forschung, das Design neuer Experimente, die Diagnose feiner Trainingsinstabilitäten und langfristige Planung, sagte Belfield. Eine Umfrage mit zwölf leitenden Deepmind-Forschern bestätigte dieses Muster: Die Automatisierung war am höchsten bei klar definierten, verifizierbaren Aufgaben und am niedrigsten bei offenen wissenschaftlichen Ideen.

Bei dem inhouse Benchmark von Deepmind, RE-Bench, der 74 realistische ML-Engineeringaufgaben umfasst, löst Argon etwa die Hälfte davon. Das ist ein großer Sprung gegenüber Gemini 3.7 Flash mit 27 Prozent, aber es ist noch weit entfernt von der nahezu perfekten Leistung, die vollständige Automatisierung erfordern würde.

Der eigene Kapazitätsindex von Google zeigt keine Beschleunigung in der AI-Forschung

Um den Fortschritt systematisch zu verfolgen, hat das Team einen Allgemeinen Fähigkeitsindex (GCI) erstellt, der 123 Modelle und 92 Benchmarks umfasst. Die Fähigkeiten des Gemini-Modells wachsen mit einer konstanten Rate von etwa 0,1 GCI-Punkten pro Monat, ohne signifikale Veränderungen in der Geschwindigkeit. Das Team begründet das leicht über der Trendlinie liegende Gemini 4 Argon mit mehr Rechenleistung und organisatorischen Investitionen, nicht mit einer durch KI verursachten Beschleunigung.

Das Team bewertet derzeit das Risiko durch automatisierte AI-Forschung als niedrig, aber baut die Messinfrastruktur auf, um in Zukunft Anzeichen einer Beschleunigung zu überwachen.

Belfields Erkenntnisse stimmen den jüngsten Forschungsergebnissen überein, aber nicht alle in der Branche sind einverstanden. Mehr als 20 AI-Forscher, darunter Geoffrey Hinton, Yoshua Bengio und Jakub Pachocki von OpenAI, haben kürzlich gewarnt vor einer möglichen „Intelligenzexplosion“ in einem Forschungsartikel. Sie argumentierten, dass AI-Systeme innerhalb weniger Jahre alle AI-Forschung und -Entwicklung automatisieren könnten und so den normalerweise jahrelangen Fortschritt in nur Monaten bewältigen würden.

AI-Neuigkeiten ohne Hype – von Menschen ausgewählt

Abonnieren Sie THE DECODER, um ohne Werbung zu lesen, ein wöchentliches AI-Bulletin, unseren exklusiven „AI Radar“-Report sechsmal pro Jahr, vollen Zugang zum Archiv und Zugang zur Kommentarsektion.