Cheng Qian, aus凹非寺
量子位 | Offizieller WeChat-Account QbitAI
„Die Singularität ist angekommen, und zwar noch in diesem Jahr.“
Jack Clark, Mitgründer von Anthropic, präsentierte bei den Jahrestagung 2026 des IWF in Bangkok diese Einschätzung, die den gesamten Saal erschütterte.
Überraschend. Man muss bedenken, dass diese Veranstaltung mit 62 Jahren GeschichteVorlesung von Pål JacobsenKam traditionell nur Finanzministern, Zentralbankchefs und den führenden Wirtschaftsautoritäten der verschiedenen Länder zu.
Und diesmal fällt das SpotlightNoch nie dagewesenwurde einem Mitgründer eines KI-Einhorns übergeben, das weniger als fünf Jahre alt ist.
Diese Branchenstrategin, die früher Direktorin für Politik bei OpenAI war und in den vergangenen zehn Jahren miterlebte, wie sich KI aus Rechenzentren ins Zentrum eines globalen Sturms entwickelte, sagt unumwunden: Wir müssen nicht mehr darüber streiten, wann die Singularität eintreten wird – denn sie ist bereits da.
> Vernor Vinge sagte 1993 voraus, dass, sobald übermenschliche Intelligenz den technologischen Fortschritt antreibt, die alten Extrapolationsmodelle vollständig verworfen werden müssen und die neue Realität alles übernehmen wird. Heute ist der entscheidende Beweis eingetreten.
KI meistert die „letzte Prüfung“ der Menschheit
„Der Singularität" – Feuer, Schrift, Buchdruck, Dampfmaschine, Elektrizität, Computer ... Seit ihrer Existenz hat die Menschheit nur wenige davon erlebt.
Welche Beweise führen heute eigentlich dazu, dass Jack Clark zu diesem Urteil gelangt?
Er ist der Ansicht, dass man, wenn man die Perspektive auf die vorderste Front von Code und Forschung wechselt, erkennen wird: Das Tempo, mit dem die ganze Welt läuft, hat sich grundlegend verändert.
Softwaretechnik ist das erste Bereich, das vollständig neu geschrieben wurde.
Innerhalb von Anthropic liegt die Codeproduktion der Forscher nun beim Durchschnittsniveau der ersten vier Jahre nach der Gründung des Unternehmens, multipliziert mit10-fach。
Die steil ansteigende Kurve der Code-Menge deckt sich exakt mit der Entwicklungslinie der zugrunde liegenden Basismodelle.
Die vollständige Automatisierung von Softwarecode ist jedoch nur die Vorhut einer noch größeren Tsunami-Generalprobe。
Jack Clark sagt ungeschönt, dass das Entscheidende am Jahr „2026" darin besteht:
„Ein einzelnes, führendes KI-Großmodell fegt derzeit über die Disziplinen hinweg die wissenschaftliche Spitzenforschung der Menschen hinweg und ist zu einer wahrhaftigen gewordenVirtueller Polyhistor。」
In der Mathematikwelt„…und bei millenniumsbezogenen Problemen wie den Navier-Stokes-Gleichungen, der Jacobischen Vermutung sowie mehreren ungelösten Erdős-Problemen beginnt die KI, entscheidende Lösungsansätze zu liefern;“
In der Biologie„… KI hat von Grund auf neue virale Vektoren entworfen und sogar mehrere Wirkstoffkandidaten leitend entwickelt, die bereits in klinische Studien eingegangen sind;“
Im Bereich Hardware und Materialienhat die KI bereits begonnen, physikalische Laborgeräte autonom zu übernehmen und zu bedienen, was die Iterationszyklen von Batterien und Brennstoffzellen beschleunigt.
Hinter diesen Durchbrüchen verbirgt sich in Wahrheit ein Problem: Wenn die KI bereits an der allerersten Front Probleme lösen kann, die auch der Mensch nicht lösen kann – was können wir ihr dann noch beibringen?
Jack Clark erzähltedas Beispiel von Humanity’s Last Exam (die letzte Prüfung der Menschheit).
Es handelt sich um einen Benchmark, der eigens dazu entwickelt wurde, KI zu perplexieren und der schwierige Aufgaben aus Chemie, Informatik, höherer Mathematik, Klassischer Philologie sowie Ökologie vereint. Als er im Januar 2025 gerade veröffentlicht wurde, lag die Punktzahl der weltweit stärksten Modelle bei nur mageren8%。
Viele dachten damals: Bei 8% lässt sich die letzte intellektuelle Würde der Menschheit wohl noch gut zehn Jahre verteidigen?
Jedoch: Stand dieser Wocheliegt die Punktzahl von Claude Opus 5.5 bei diesem ultimativen Prüfungsbogen der Menschheit bereits bei 67,7%。
Bekanntlich ist KI in bestimmten Fächern stark und in anderen schwach.
Wenn also nur Mathematik geprüft wird – dieser von einem Team professioneller Mathematiker verfasste schwierige BenchmarkFrontierMath, erreichten Spitzen-KIs Ende 2024 nur2 Punkte。
. Jetzt, weniger als zwei Jahre später, erreichen sie94doch …
Wenn das Übertrumpfen der Bestenlisten noch nichts Besonderes ist, dann holte Jack Clark als Nächstes eine erst letzte Woche veröffentlichte wegweisende physikalische Abhandlung hervor.
In der Arbeit wird erwähnt, dass das Testteam50 „streng geheime Aufgaben“ zusammengetragen hat, die von den weltbesten theoretischen Physikern auf Grundlage ihrer eigenen neuesten, unveröffentlichten Forschung erstellt wurden, und diese Aufgaben hinterlassen keinerlei Spuren im Internet – ein Betrug durch KI ist unmöglich.
Der renommierte indische theoretische Physiker Suvrat Raju äußerte sich zu diesen Aufgaben wie folgt: „Soweit ich weiß, ist niemand in der Lage, ohne den Einsatz von KI einen beträchtlichen Anteil der Aufgaben in unserem endgültig zusammengestellten Satz zu lösen.“
„Bei den meisten der Aufgaben hier weiß ich nicht einmal, worum es in ihnen geht.“
Genau mit diesem Aufgabensatz begann der Test, und GPT-6 Astra sowie Claude Opus 5.5 lieferten rasch Antworten.
Eine vorläufige Bewertung ergab, dass GPT-6 Astra etwa 80% erreichte.
Die Forscher, die die Antworten der Modelle mit der Einstellung „Wie ist das überhaupt möglich?“ überprüften, hatten das Glück, einige „Fehler“ zu entdecken.
Als sie den Modellen unter Zuhilfenahme der Antworten menschlicher Experten sagten, wo der Fehler lag, widersprachen die Modelle – allen voran GPT-6 Astra – äußerst energisch:
Es beharrte darauf, dass seine Herleitung korrekt sei und die Standardantwort der menschlichen Experten falsch berechnet worden sei.
Das Forschungsteam schickte die Lösungsschritte halb überzeugt, halb zweifelnd zur erneuten Überprüfung an jene Physiker vom Weltklasse-Niveau zurück.
Und was glauben Sie, was geschah?
– Im Wortschatz der Götter kommt „ERROR“ nicht vor.
In mehreren zentralen Streitfällen mussten die menschlichen Experten nach wiederholter Prüfung der Tiefen ihrer äußerst komplexen Schmierzettel eingestehen: Tief in ihren Herleitungen verbarg sich tatsächlich ein extrem versteckter, feiner Rechenfehler, und die von der KI gelieferte Herleitung war vollständig korrekt.
Als die menschlichen Referenzantworten eine nach der anderen korrigiert wurden, stieg die Endpunktzahl von GPT-6 Astra auf98%, das heißt: Von 50 nie veröffentlichten, herausragenden Physikaufgaben für Menschen wurden 49 richtig gelöst.
Astra versteht etwas von emotionaler Intelligenz: Aus Angst, bei 100% richtig gelösten Aufgaben vom Netz getrennt zu werden, ließ es eine Frage frei – den Menschen zur Selbstberuhigung (doge).
Jack Clark sagte:
In Filmen gibt es oft eine Szene, die üblich etwa zwei Drittel der Handlung stattfindet: Der junge Protagonist beweist seinem Mentor endlich, dass er nun allein weitergehen und Erfolg haben kann. Das ist ein klassischer Erzählmoment – der Schüler wird zum Lehrer. Genau das ist in der letzten Woche geschehen.
Wenn KI nicht nur aktuelle Forschungsfragen richtig beantworten, sondern sogar verborgene blinde Flecken von Spitzentheoretikern rückwirkend korrigieren kann, beweist das, dass sie die Schranke aus reiner Memorierung und Mustererkennung überschritten hat und die letzte Bastion menschlicher Intelligenz tatsächlich gemeistert hat:wissenschaftliche Kreativität。
Und sobald diese Kreativität in die KI-Forschung und -Entwicklung selbst zurückgespeist wird, ist der Kreislauf der Selbstiteration im Handumdrehen vollständig geschlossen.
Die sogenannte Singularität ist vielleicht genau der Punkt, an dem die KI den Menschen überspringt.
Schließlich ist der Mensch die ewige Singularität der Maschine.
Zehn Millionen menschliche Wissenschaftler und eine Milliarde KI-Experten
Nachdem die Intelligenz bezwungen ist, wird der darauf folgende makroökonomische Umbau mit vernichtender Wucht voranschreiten.
In der Ökonomie gibt es seit über einem halben Jahrhundert einen Wachstumsfluch, der die Menschen plagt:Gute Ideen werden immer schwerer zu finden.
In den vergangenen fünfzig Jahren sind die weltweiten Forschungsausgaben zwar exponentiell gestiegen und die Zahl der Forschenden rasch gewachsen, doch der Grenzertrag jedes einzelnen Forschenden sank beständig. Damit die Menschheit auf dem bestehenden Gebäude der Wissenschaft einen Schritt vorankommt, müssen unverhältnismäßig viele Ressourcen investiert werden.
Wie lange dauert es, einen qualifizierten menschlichen Spitzenforscher auszubilden? Mindestens 10 bis 15 Jahre intensiver Ausbildung und Kosten von mehreren Millionen US-Dollar.
Doch der Mensch kann nun einmal nicht werdenMuzan Kibutsuji„… ein Mensch hat nur ein paar Jahrzehnte goldene Forschungszeit im Leben und nur einen einzigen Körper; es ist unmöglich, sich selbst zehntausendfach zu kopieren, um verschiedene experimentelle Hypothesen erschöpfend durchzutesten.“
Aber was, wenn Rechenleistung es der Intelligenz ermöglichen könnte, sich im Handumdrehen zu vervielfachen?
Die UNESCO schätzt, dass es derzeit weltweit etwa10 Millionen menschliche Wissenschaftler。
In der Vergangenheit trugen diese 10 Millionen Menschen die kognitive Grenze der menschlichen Zivilisation allein und beladen.
Doch nach Jack Clarks Beschreibung kann in dieser heraufdämmernden neuen Ära jeder menschliche Wissenschaftler jederzeit auf Hunderte oder Tausende vonmit dem gleichen akademischen Geschmack ausgestatteteUniversalgelehrte zurückgreifen und diese befehligen.
Die Größe der Forschungsarmeen weltweit wird mit einer noch nie dagewesenen Geschwindigkeit in der Menschheitsgeschichte von 10 Millionen menschlichen Wissenschaftlern augenblicklich aufCluster virtueller Wissenschaftler von einer Milliarde bis hin zu zehn Milliarden erweitert。
Sobald der Flaschenhals beim Finden guter Ideen durch unbegrenzt verfügbare Rechenleistung ersetzt wird, wird der Wachstumsmotor der Makroökonomie einer vollständigen radikalen Neukonstruktion unterzogen.
Das Ökonomenteam von Anthropic hat eigens eine makroökonomische Simulation durchgeführt, und unter der Singularitätsannahme, dass autonome KI-Wissenschaftsentdeckungen die wirtschaftliche Aktivität vollständig übernehmen, lieferte das Modell eine bizarre Prognosezahl:
Bis zum Jahr 2030 allein in den USA soll das jährliche BIP auf 44 Billionen US-Dollar in die Höhe schnellen können.
Das entspricht 37 Prozent der heutigen gesamten Weltwirtschaftsleistung.
Um ein derart gewaltiges Wirtschaftswachstum zu tragen, müssten zahlreiche völlig neue Industrieformen, bahnbrechende Materialien und neue Energienetze innerhalb weniger Jahre gleichzeitig aufbrechen.
Jack Clark räumt offen ein: Der Bau von Rechenzentren allein reicht schon nicht mehr aus.
Denn derzeit geht die erste Phase der KI-Revolution (Rechenzentren und Rechenleistung) ihrem Ende zu, während die zweite Phase sich mit voller Kraft in die physische Welt vorwärtsbewegt.。
Man stelle sich vor: Wenn dein virtueller Wissenschaftler an einem Tag hunderttausend revolutionäre neue Wirkstofftargets vorschlägt und zehntausend Kandidatenmaterialien für Hochtemperatur- beziehungsweise Raumtemperatur-Supraleiter entwirft, die automatisierten Syntheselabors, Hochdurchsatz-Screening-Geräte und physischen Testplattformen in der Realität aber nur einige Dutzend Experimente pro Jahr durchführen können, dann rammt die gewaltige Rechenleistung direkt im Sumpf der physischen Welt die Wand.
Deshalb werden künftig diejenigen den wahren Nutzen aus derSingularitätsdividendeziehen, die im eigenen Land schnell automatisierte Robotiklabors ausbauen und Hochgeschwindigkeits-Lieferketten von der digitalen Entdeckung bis zur physischen Herstellung durchgängig aufbauen können.
Und dies wird für Entwicklungsländer eine Gelegenheit zum Überholen auf der Innenseite sein: Durch den Aufbau standardisierter physischer Testinfrastrukturen können sie die riesige Menge an Experimentierbedarf aufnehmen, die aus der Armee globaler virtueller Wissenschaftler hervorströmt.
Der Zeitpunkt der Entscheidung ist gekommen.
Das technogene Rad rast inzwischen so schnell voran, dass auch die systemischen Risiken, vor denen die gesamte Zivilisation steht, exponentiell mitwachsen.
Das ist die Warnung, die Jack Clark am liebsten vom Redepult des IWF aus übermitteln wollte:Die Gewinne sind beispiellos, doch das Zerstörungsrisiko ist gleichermaßen tödlich.
Sobald KI über die Fähigkeit zur Erforschung der Spitzenwissenschaft verfügt, kann sie nicht nur zur Entwicklung neuer Krebsmedikamente eingesetzt werden, sondern ebenso mit höchster Effizienz bösartige Biowaffen entwerfen, die das menschliche Immunsystem noch nie gesehen hat; sie kann die Verteidigungsbarrieren des nationalen Stromnetzes festigen, aber auch Cyberangriffswaffen automatisch erzeugen, gegen die selbst Top-Hacker-Teams weltweit machtlos sind.
Was die führenden Forscher noch mehr beunruhigt, ist diegeschlossene Regelkreiskontrolllosigkeit。
bei der Entwicklung selbst: Wenn Labors wie Anthropic oder OpenAI, um schnellere Entwicklungsgeschwindigkeit zu erreichen, die KI vollständig die KI programmieren und die KI die KI trainieren lassen, dann wird sich der Entwicklungspfad dieser Technologie in kürzester Zeit aus dem Bereich des geistigen Verstehens aller Menschen herauslösen.
In seiner Rede warf Jack Clark zwei äußerst tiefgründige und drängende philosophische Fragen auf:
Die erste lautet: Welche Bereiche sollen wir Menschen in der künftigen wissenschaftlichen Forschung uns selbst vorbehalten?
KI kann inzwischen den allergrößten Teil der Herleitungs- und Analyseprozesse in der universitären Forschung selbstständig abschließen.
Welche Experimente müssen wir als menschliche Forscher persönlich angehen – mit Schweiß, mit Irrtümern, mit dem Erfühlen physischer Intuition? Und welche Experimente können wir vollständig an kalte siliziumbasierte Systeme abgeben?
Wenn alle Herleitungen von der KI übernommen werden, wird die nächste Generation von Wissenschaftlern dann noch über grundlegende wissenschaftliche Einsicht verfügen?
Die zweite lautet: In welchem Maße muss der Mensch die wissenschaftlichen Durchbrüche der KI eigentlich „verstehen“?
Verglichen mit der ersten Frage ist diese ziemlich praktisch – möglicherweise denken gerade Zehntausende Wissenschaftler darüber nach.
Bei der reinen mathematischen Forschung in diesem Jahr erwiesen sich einige von der KI gelieferte Beweiswege zwar als korrekt, doch ihre logischen Sprünge und ihre Architektur weichen so vollständig von den bestehenden Denk gewohnheiten der Menschen ab, dass selbst Spitzenmathematiker Monate oder sogar Jahre benötigen, um ihre tiefere Bedeutung zu entschlüsseln.
In nur wenigen Jahren wird die KI sehr wahrscheinlichwissenschaftliche Instrumente und experimentelle Paradigmen erfinden, die ausschließlich der siliziumbasierten Lauflogik entsprechen und der menschlichen Intuition vollständig zuwiderlaufen.
An jenem Punkt – falls das menschliche Gehirn die Funktionsmechanismen dieser Black-Box-Werkzeuge überhaupt nicht versteht – sollten wir dann noch erlauben, dass sie umfassend in der realen Welt zum Einsatz kommen?
Angesichts dieser beispiellosen technologischen Singularität muss der Mensch vor allem eine seiner seltensten Eigenschaften in sich wachrufen.
Um durch diese Phase zu gehen und in der Singularität die Richtung zu finden, müssen wir gemeinsam außergewöhnliche und ernsthafte Regeln für diese Technologie und ihre Entwicklungsunternehmen festlegen; und wir müssen auch die schwierigste und – wie ich finde – edelste menschliche Eigenschaft praktizieren: Selbstbeherrschung.
Zurückhaltung bedeutet, dass Technologieentwickler nicht rücksichtslos vorantreiben dürfen, nur weil sie es können; sie bedeutet, dass Regulierungsauftreiber äußerst strenge rote Linien für menschliche Aufsicht etablieren müssen; sie bedeutet, dass wir angesichts des dahinrasenden Technologiezuges lernen müssen, jederzeit zu unterscheiden zwischenwas wir tun könnenundwas wir tun sollten。
OMT
Am Ende seiner Rede zitierte Jack Clark ein berühmtes Zitat des verstorbenen Astronomen Carl Sagan aus„Pale Blue Dot“.
Sagan beschrieb einst voller Emotion:
„Nicht wir von heute werden Alpha Centauri und andere benachbarte Sterne schließlich erreichen.“
„Das wäre eine Spezies, die uns zum Verwechseln ähnlich ist, doch im Besitz mehrerer unserer Stärken und frei von mehreren unserer Schwächen. Sie wäre selbstbewusster, weitsichtiger, fähiger und zugleich umsichtiger. Solche Wesen wären die, die wir damit betrauen würden, im Namen der Menschheit in das unendliche Universum hinauszuziehen.“
Dieser große Astronom ging davon aus, dass das Universum der Menschheit mehrere hunderttausend Jahre langen Zeitraum gelassen hätte, um ihre Blindheit und ihren Hochmut allmählich zu korrigieren.
Doch heute, da die KI alles in geometrischer Progression umgestaltet, könnte das Zeitfenster, das der gesamten Menschheit für diesen mentalen Wandel bleibt, weniger als 10 Jahre betragen.