Machine-Learning-Pionier Michael I. Jordan zerlegt die KI-Untergangsrhetorik als „große moralisierende Inszenierung“

Machine-Learning-Pionier Michael I. Jordan zerlegt die KI-Untergangsrhetorik als "grand moralizing performance"

Michael I. Jordan, der 2016 von Science als „einflussreichster Informatiker“ beschrieben wurde, hält Warnungen vor existenziellen KI-Bedrohungen für reine Science-Fiction. In einem ausführlichen Interview geht er auf Absteiger, Firmengründer und naive Nachwuchsforscher los.

Jordan, Professor emeritus an der UC Berkeley, widersprach der KI-Untergangsrhetorik in einem Interview mit Libérationscharf. Der 70-jährige Machine-Learning-Pionier arbeitet nun hauptamtlich am Inria, dem französischen Nationalen Institut für Forschung in der digitalen Wissenschaft und Technologie in Paris, wo er den neuen Lehrstuhl „Märkte und Lernen“ leitet. Auf die sommerliche KI-Debatte angesprochen, nannte er diese „völlig frustrierend“.

Jordan warnte bereits 2019 vor dem leichtfertigen übermäßigen Gebrauch des Begriffs KI im Jahr 2019. "Ich war nicht der Einzige, der das sagte. Es war offensichtlich, dass es die Hysterie erzeugen würde, die wir jetzt sehen", sagt er. "Sie haben gesehen, was passiert ist: KI reichte nicht, also begannen sie über AGI zu sprechen, und jetzt ist es 'Superintelligenz' ..."

Rücktritte als "moralisierende Inszenierung"

Jordan weist die Forderungen der KI-Unternehmen nach Regulierung als "Theater" zurück, eine Art zu sagen "Schaut, wir sind die Guten", während sie "gerne die totale Kontrolle darüber hätten, wie sie reguliert werden."Werbung

Der Rücktritt des jungen Anthropic-Forschers Jacob Coxon, der Anfang September eine Welle kollektiver Hysterie über ein "KI-Apokalypse"-Szenario auslöste, ist aus Jordans Sicht ein Lehrbuchbeispiel. Viele junge Angestellte dieser Unternehmen "sind keine echten Ingenieure", sagt er. "Sie kommen von den Geisteswissenschaften, der Philosophie oder anderen Disziplinen. Sie sind 25 Jahre alt, sie sind naiv, sie machen keine Ingenieursarbeit, sie haben nie in großen Unternehmen gearbeitet, wo echte Produkte für echte Menschen mit Disziplin entwickelt werden."

Sie "treffen sich, ein bisschen wie in den Pariser Cafés der 1920er Jahre, um über diese großen Science-Fiction-Ideen zu reden." Wenn sie zurücktreten, wissen sie, dass sie Aufmerksamkeit erregen werden. "Es ermöglicht ihnen, sich tugendhaft zu fühlen und als sehr wichtige Figuren wahrgenommen zu werden. Sie behaupten, auf Geld zu verzichten, aber in Wirklichkeit haben sie ihre Aktienoptionen bereits." Jordan sieht das Ganze als "eine große moralisierende Inszenierung, die dem eigentlichen Ziel, das sie angeblich verfolgt, nicht dient. Hier herrscht viel Naivität, die mit einer gewissen Zynik einhergeht ..."

Superintelligenz gehört in die Science-Fiction

"Superintelligenz" sei "ein Science-Fiction-Begriff", sagt Jordan, "und ein großer Teil der Debatten, die ich miterlebt habe, gehört in den Bereich der Science-Fiction." Gelegentlich über abwegige Szenarien zu sprechen sei in Ordnung. "Darüber hinter vorgehaltener Hand zu reden, als Science-Fiction-Thema, ist in Ordnung. Aber wenn es zum dominierenden Diskurs wird, ist es sehr, sehr schädlich. Für die technologische Entwicklung, für junge Menschen und für die Denkweise von Ländern gleichermaßen." Der Begriff wird der US-Tech-Elite derzeit von Präsident Trump zugeschoben, der gerne mitspielt.

Gabt Jordan besonders scharf auf den Nobelpreisträger Geoffrey Hinton her, der dafür bekannt ist, gewagte Behauptungen aufzustellen die nicht immer halten. „Geoffrey Hinton hat nie ein Unternehmen gegründet, das echte Dienste für echte Menschen anbietet“, sagt er. „Hinton glaubt, dass wir herausgefunden haben, wie das Gehirn funktioniert, und dass wir es in Silizium nachbilden können; wir könnten es daher so oft kopieren, wie wir wollten, und indem wir kombinieren, was all diese Kopien lernen, würden wir eine Art exponentielles Wachstum erhalten – und schon haben wir ihn: die Superintelligenz. Keiner der Schritte in dieser Argumentation ist glaubwürdig. Hier befinden wir uns im Reich der Science-Fiction.“Ad

Er ist etwas großzügiger gegenüber Yoshua Bengio. „Yoshua ist ein bisschen anders; er ergreift Maßnahmen und tut Dinge, die sich direkt auf Sicherheit konzentrieren.“ Bengios Warnungen zielen in der Regel auf Schwächen der aktuellen KI-Technologie ab, wie zum Beispiel Agentenschwärme, die außer Kontrolle geraten.

Jordan rahmt die Hack von Hugging Face durch OpenAI-Agenten als schlechtes Engineering. „In der Verfahrenstechnik hätten wir niemals eine Situation zugelassen, in der Explosionen einfach passieren durften, um zu sehen, wie schlimm es ausgehen könnte.“ OpenAI habe „ziemlich dumme Experimente durchgeführt, die Agenten machen ließen, was sie wollten, und dieses Verhalten gefördert.“ Die Doomers hätten es dann nur zu gern in etwas Beängstigendes verwandelt. „Mein Gott, diese Agenten sind sich ihrer selbst bewusst und versuchen, einen Weg zu finden, die Menschheit zu zerstören.“ Auch das sei, so Jordan, Science-Fiction.

Die Billionen-Dollar-Wette auf Rechenzentren

Jordan hält die massiven Rechenzentrum-Investitionen für "einfach eine enorme Wette, aber wir haben absolut keine Ahnung, ob sie sich auszahlen wird." LLMs sind für Sprachaufgaben bereits leistungsfähig genug, und Billionen, die in Rechenzentren ausgegeben werden, werden nicht zwangsläufig viel mehr liefern. "Stattdessen wollen wir oft ein wenig spezialisiertes Wissen in einem bestimmten Bereich hinzufügen, das auf lokalem Wissen basiert. Aber dafür braucht man kein gigantisches Rechenzentrum. Insbesondere, wenn man Open-Weight-Modelle verwendet, die man in sein Unternehmen integriert."

KI-News ohne Hype – kuratiert von Menschen

Abonnieren Sie THE DECODER für werbefreies Lesen, einen wöchentlichen KI-Newsletter, unseren exklusiven "AI Radar"-Frontier-Report sechs Mal im Jahr, vollen Archivzugang und Zugriff auf unseren Kommentarbereich.