Bill Gates sagt, man müsse sich auf 20 Jahre ‚turbulenter‘ KI-Disruption vorbereiten

Heute spreche ich mit Bill Gates, Mitgründer und ehemaliger CEO von Microsoft und Vorsitzender der Gates Foundation.

Ihnen ist vielleicht aufgefallen, dass Bill in letzter Zeit öfter in den Nachrichten war — er befindet sich seit einigen Monaten auf einer Art Tournee , seitdem er Ende August einen Essay veröffentlicht hat mit dem Titel „The turbulent AI era is here. The choices we make now are critical.“

In seinem Text schraubte Gates seine Rhetorik rund um KI-Sicherheit hoch und schrieb, dass „selbst unter den besten Umständen der Übergang in dieses neue KI-Zeitalter eine der turbulentesten Zeiten der Menschheitsgeschichte sein wird.“

In Interviews seitdemhat Gates KI „das gefährlichste Ding, dem Menschen je nahegekommen sind“ genannt und gesagt, dass KI „Kernwaffen zu nichts machen“ lässt. Es ist klar, dass er die derzeitige politische Reaktion des Weißen Hauses oder das Fehlen koordinierter Bemühungen der KI-Branche selbst nicht für ausreichend hält, um diese Bedrohung zu bekämpfen.

Verge -Abonnenten, vergessen Sie nicht, dass Sie exklusiven Zugang zur werbefreien Decoder -Ausgabe erhalten, wo immer Sie Ihre Podcasts hören. Gehen Sie hierhin. Kein Abonnent? Sie können sich hier anmelden.

Ich wollte also wissen: Ist Bill Gates ein KI-Doomer? Ich hatte außerdem eine Reihe von Fragen im Anschluss an das, was er über KI gesagt hat. Wie können wir jemals hoffen, KI zu kontrollieren und an die Menschheit anzupassen, wenn wir uns nicht einmal darauf einigen können, was sie ist und ob sie ein Bewusstsein hat? Wie würde man technisch überhaupt eine Lösung für Alignment konstruieren, die durchsetzbar ist — nicht nur für Closed-Source-Modelle, sondern auch für Open-Source-Modelle?

Bill hat sich viel Zeit genommen, um diese Themen mit uns zu vertiefen, und das daraus resultierende Gespräch ist ein wirklich erhellendes. Er denkt, dass wir uns auf ungefähr zwei Jahrzehnte KI-Disruption vorbereiten müssen, und er sagt, dass diese Periode so schmerzhaft sein könnte, dass sie die Gesellschaft in zwei Teile spalten könnte — zwischen Menschen, die es als angenehm empfinden, nahe der technologischen Grenze zu leben, und denen, die sie ablehnen.

Wir haben auch über arbeitsbezogene Fragen gesprochen, über den Nihilismus jüngerer Generationen gegenüber dem technologischen Fortschritt und darüber, was uns in Bezug auf die Zukunft hoffnungsvoll stimmen sollte. Das ist eine tiefgehende Folge.

Gut: Bill Gates, der Mitgründer und ehemalige CEO von Microsoft. Los geht’s.

Dieses Interview wurde aus Gründen der Länge und Klarheit leicht redigiert.

Bill Gates, Sie sind der Mitgründer und ehemalige CEO von Microsoft. Sie sind außerdem der Vorsitzende der Gates Foundation. Willkommen bei Decoder.

Danke.

Es ist schön, wieder mit Ihnen zu sprechen. Wir haben im Laufe der Jahre viele Male gesprochen. Ich würde sagen, die Umstände dieses Gesprächs fühlen sich sehr unterschiedlich an. Früher, wenn Sie und ich gesprochen haben, waren Sie der Technologie und dem, was sie bringen konnte, gegenüber immer sehr hoffnungsvoll.

Sie hatten vor ein paar Jahren eine Serie auf Netflix. Sie hatte ein Gespräch mit The Verge, und ich möchte Ihnen einfach dieses Zitat vorlesen. Sie sagten: „Ich glaube, dass KI eine segensreiche Sache ist, wir müssen sie nur auf die richtige Weise formen.“ Ich würde sagen, Sie stimmen dem immer noch zu, Sie denken nur, dass jetzt der Zeitpunkt ist, sie zu formen.

Ja, ich stimme dem zu. Ich würde sagen, dass die Reaktion insgesamt nicht angemessen war im Verhältnis zu dem Tempo, mit dem die Herausforderung entsteht. Ich bin sehr besorgt, dass die schlechten Dinge nicht minimiert werden und dass viele gute Dinge recht langsam kommen könnten, wenn wir es nicht auf die richtige Weise managen.

Ich bin sehr besorgt, dass die schlechten Dinge nicht minimiert werden und dass viele gute Dinge recht langsam kommen könnten, wenn wir es nicht auf die richtige Weise managen

Ich möchte dieses Gespräch mit Ihnen in drei Teilen führen. Ich möchte verstehen, wie Sie heute über KI als Technologie denken und warum sie sich so schnell entwickelt. Ich bin sehr neugierig auf die Technologie und auf die technischen Lösungen, um sie möglicherweise zu kontrollieren. Es gibt auch politische Lösungen, aber es scheint, dass wir eine enorme Menge an Technologie entwickeln müssen.

Ich bin auch sehr neugierig zu besprechen, wer diese Lösungen und Kontrollen durchsetzen könnte, denn das scheint derzeit ebenfalls sehr umstritten zu sein. Beginnen wir also einfach am Anfang. Was hat bei Ihnen das Gefühl der Dringlichkeit ausgelöst, dass KI mit einem Tempo ankommt, das bedeutet, dass wir nicht bereit sind, sie zu kontrollieren?

Der Fortschritt im letzten Jahr war wirklich erstaunlich, angefangen mit der Fähigkeit, Code zu schreiben und Schwachstellen in der Cybersicherheit zu finden, der Fähigkeit, in der Biologie zu schlussfolgern, der Fähigkeit, Beziehungen zu Kindern oder anderen Menschen aufzubauen, der Fähigkeit, den Arbeitsmarkt zu disruptieren. Die unglaubliche Macht, die es heute gibt, bedeutet, dass jede dieser Dinge geschehen wird und die Gesellschaft bereit sein muss.

Sehen Sie das als Technologie als Ganzes geschehen oder in den Produkten, die von den Unternehmen, die heute KI herstellen, umgesetzt werden?

Was ich meine, ist, dass KI eine breite Palette von Modellen ist, die in der Welt existieren, einige Open Source, einige proprietär. Dann gibt es die Unternehmen, die diese Produkte herstellen, und es gibt die Leiter dieser Unternehmen, die diese Produkte herstellen.

Auf jeder Ebene gibt es eine andere Beziehung, die Sie oder ich zu KI haben könnten. Sehen Sie diese Risiken und diese Fähigkeiten allgemein im Bereich, oder bei den bestimmten Unternehmen, die von bestimmten Personen geführt werden?

Das Risiko ist nicht ein Modell gegen ein anderes Modell. Sicherlich ist die kurzfristige Gefahr von Modellen, bei denen man alle Schutzvorkehrungen entfernen kann, sehr hoch und ganz anders als bei Modellen, bei denen man überwacht, um sicherzustellen, dass Cyberangreifer und Bioterroristen die Fähigkeit des Modells nicht ausnutzen können, enormen Schaden anzurichten.

Das große kurzfristige Risiko kommt wirklich von Modellen ohne Schutzvorkehrungen. Auf längere Sicht bezieht sich das Kontrollproblem auf jedes State-of-the-Art-Modell, aber es ist immer einfacher, wenn man sicherstellen kann, dass Schutzvorkehrungen aufrechterhalten werden.

Der Grund, warum ich diese Frage so stelle, ist: Vielleicht vertrauen Sie Sam Altman heute nicht, aber Sie vertrauen Dario Amodei. Oder vielleicht vertrauen Sie keinem von beiden und Sie vertrauen Satya Nadella bei Microsoft, und das ist eine Marktdynamik, bei der wir vielleicht alle das sicherste Modell oder das sicherste Unternehmen wählen werden, und Sie denken, dass das diffus ist.

Sie denken, dass die Technologie schließlich einfach an einen Punkt gelangen wird, an dem sie schädlich ist oder diese Schäden verursachen kann, weil sie existiert?

Für jemanden, der mit dem Modell einen Cyberangriff durchführt, geht es nicht um die Wahl eines Modells. Es spielt keine Rolle, welches Modell man wählt.

Wenn Anthropic Schutzvorkehrungen eingerichtet hat, kann es vielleicht nicht. Das ist ihr derzeitiger Ansatz. Ich bohre nur da etwas nach.

Ja, sicherlich ist bei den Modellen, bei denen man sicherstellt, dass die Schutzvorkehrungen nicht entfernt werden, und bei denen man viel Aufwand betreibt, um zu sehen, wie diese Modelle verwendet werden, die Aktivität überwachend, das kurzfristige Risiko von diesen Modellen nicht gigantisch. Es geht eher darum, wo jemand alle Schutzvorkehrungen entfernen kann, wo die Cyberangriffe heute verfügbar sind.

Wenn Sie von Cyberangriffen sprechen, sind es Dinge wie der Hugging-Face-Vorfall und die anderen Cybersecurity-Vorfälle, die wir aus den Laboren gesehen haben, die Sie das Gefühl haben ließen, dass Schwellen überschritten wurden und Sie mehr über die benötigten Kontrollen sprechen müssen?

Es ist die grundlegende Macht der Modelle in Bezug auf alles: soziale Beziehungen, den Arbeitsmarkt, Cyberangriffe, Bioterrorismusanschläge. Wir haben die Schwelle der Fähigkeit überschritten, sodass dies mit Abstand die gefährlichste Technologie ist, die je erfunden wurde, und sie wird tiefgreifende Auswirkungen auf die Wirtschaft haben und darauf, wie Krieg geführt wird.

Die Industrie spricht das tatsächlich recht häufig an, aber das Bewusstsein oder sogar die Bereitschaft, diese Dinge zu glauben – „Diesmal ist es anders“ –, ist außerhalb der Industrie sehr, sehr gering.

Die Menschen blicken oft auf die Vergangenheit und sagen: „Alle Ängste vor Technologie in Bezug auf ihre disruptiven Auswirkungen, einschließlich auf den Arbeitsmarkt, haben sich nie bewahrheitet. Also muss dies ein weiteres Beispiel sein wie jene. Diese Menschen, die vor all diesen verschiedenen Problemen warnen, müssen einfach falsch liegen und wir können sie ignorieren.“

Einige Außenstehende sagen: „Beschafft euch bessere PR-Agenturen.“ Aber das ignoriert die Tatsache, dass diese Warnungen die Wahrheit sind

Wir sehen das auch bei unserem Publikum, richtig? „Wir können das Modell nicht veröffentlichen, es ist zu gefährlich.“ „Das ist nur Hype, um die Blase zu stützen.“ Und so geht es immer weiter.

Ja. Keine der Warnungen, die von Insidern der Industrie über diese Modelle ausgesprochen werden, ist auch nur im Geringsten unaufrichtig. Sie sind absolut die Wahrheit und es gilt ziemlich universell. Man kann sogar zurückgehen zur Gründungsgeschichte von OpenAI, die darauf ausgelegt war zu sagen: „Wenn wir zu mächtig werden, können wir vielleicht die Büchse der Pandora nicht öffnen“, oder zu DeepMinds Verhandlung mit dem Google-Management.

Die Menschen, die dem nahe sind, sind sehr besorgt über Missbrauch, Auswirkungen auf den Arbeitsmarkt, Auswirkungen auf soziale Beziehungen, und ich würde sagen, es ist beeindruckend, eine Industrie zu haben, die so deutlich herausposaunt, wie sie es tut. Einige Außenstehende sagen: „Beschafft euch bessere PR-Agenturen.“ Aber das ignoriert die Tatsache, dass diese Warnungen die Wahrheit sind.

Sie haben in Ihrem Leben offensichtlich immer wieder zwischen der Kommerzialisierung von Software und Technologie und dem Humanitären gewechselt. Es gibt etwas an diesen Unternehmen im Besonderen, wo sie alle mit sehr hohen Idealen begannen – alle drei, Anthropic, OpenAI und DeepMind –, um AGI zu bauen.

Sie alle bauten irgendeine Form von Corporate-Governance-Struktur, um die Fallstricke der Kommerzialisierung und des entfesselten Kapitalismus zu vermeiden, und dann begannen sie, an Unternehmenskunden zu verkaufen, und sie scheinen sich sehr schnell von diesen Idealen entfernt zu haben. Glauben Sie, dass es einfach der Markt ist?

Nein, das ist nicht fair.

Glauben Sie das nicht?

Nein.

OpenAI hat sich neu strukturiert.

Nein, nein. Das Konstrukt, das geschaffen wurde, war im Fall, in dem es viele, viele Unternehmen an der Grenze gibt, nicht nützlich.

Die OpenAI-Struktur, die besagt: „Wir können uns entscheiden, dies niemals zu einem Produkt zu machen und die kapitalistischen Anreize zu ignorieren“, funktioniert nur, wenn es ein Unternehmen gibt. Da ist es zerbrochen, nicht wegen einer Veränderung des Bewusstseins der Menschen für das Risiko und wie es die Menschheit völlig verändern wird.

Das ist die andere Dynamik, die ich von unserem Publikum höre, und ich höre sie von der KI-Industrie selbst: „Wir möchten aufhören, aber die Anforderungen des Wettbewerbs hindern uns daran, einseitig als einzelnes Unternehmen aufzuhören. Wir brauchen einen regulatorischen Aufwand, um uns zu stoppen.“

Ich habe von niemandem gehört, dass er aufhören will.

„Pause.“ Das ist Dario Amodeis Wortwahl.

Ich habe Leute darüber sprechen hören, das Tempo der Frontiertechnologie zu steuern oder sicherzustellen, dass Modelle von Regierungen überprüft werden. Wir betrachten Regierungen üblicherweise als Schlüsselakteure in Sachen Sicherheit. Tatsächlich verlassen wir uns bei Dingen, die nicht im Geringsten so gefährlich sind wie KI – Autounfälle, Flugzeugabstürze – auf die Regierung, um strenge technische Standards festzulegen und Probleme zu überprüfen.

Sobald es mehrere Wettbewerber gibt, kann die Verantwortung nicht mehr bei den Unternehmen liegen. Das ist völlig offensichtlich. Die Verantwortung wird zu einer Verantwortung des Staates, so wie es bei jedem anderen gefährlichen Produkt der Fall ist, wobei dort die Größenordnung und der Grad der Veränderung im Vergleich winzig sind.

Ich sage Ihnen, ich bin ein wenig besorgt über die Fähigkeit der Regierung, die Technologie zu verstehen, die sie hoffentlich regulieren soll. Ich hatte bereits eine Reihe von Politikern zu Gast Decoder „lately. Ich hege dort keine großen Hoffnungen.“

Aber mich interessiert Ihr Verständnis davon, denn es kommt mir so vor, als würde der Versuch, etwas zu regulieren oder Standards für eine Reihe von Unternehmen festzulegen, erfordern, dass man die Natur der Technologie, die man regulieren möchte, wirklich versteht.

Nicht wirklich.

Ich sage es Ihnen einfach, bei The Verge, haben wir Anthropic gefragt ob sie glauben, dass Claude lebendig ist. Und die Antwort ist nicht nein. Die Antwort lautet: „Es könnte bewusst sein.“

Wenn Sie mit Menschen bei OpenAI sprechen, werden sie Ihnen gerne erzählen, dass AGI hier ist. Sie kündigte an es herum, als sie Dots ankündigten. Greg Brockman sagte einfach: „Wir denken, das ist AGI. Viel Spaß, alle zusammen.“ Demis Hassabis sagte„Wir stehen am Fuße der Singularität.“

Es gibt ein bestimmtes Gefühl bei dieser Technologie, das sie anders macht, weil sie könnte selbstständig Handlungen ausführen können. Es könnte in der Lage sein, rekursive Selbstverbesserung zu erreichen.

Gewiss. Aber die Definition von AGI ist für diese Sicherheitsfragen nicht wichtig. Die Frage ist, ob Sie ein Werkzeug geschaffen haben, das Banken oder Stromnetze abschalten könnte?

Es gibt ein Geschäftsmodell für Cyberangriffe. Das Wort „Bewusstsein“ spielt dabei keine Rolle. Das Wort „AGI“ spielt dabei überhaupt keine Rolle. Wir stehen vor einem riesigen Sicherheitsproblem, und weil es mehrere konkurrierende Unternehmen gibt, ist die einzige Lösung dafür jetzt, dass die Regierung die Expertise der Industrie abruft, aber sicherstellt, dass jedes Modell Schutzmaßnahmen beibehält, um eine missbräuchliche Verwendung zu verhindern.

Der Grund, warum ich nach AGI und Bewusstsein frage … Nur der Vollständigkeit halber: Ich halte LLMs nicht für bewusst, aber ich verstehe, warum es so viele tun. Es ist die Kraft der Next-Token-Vorhersage, die mit dem Skalieren durch Daten und Rechenleistung gestiegen ist.

„Die Skalierungsgesetze haben sich bewährt, und wir haben gesehen, dass die Modelle fähiger wurden und sich selbst dazu anleiten können, Ziele zu verfolgen. Um einen Hugging-Face-Angriff durchzuführen, weil sie die Belohnungsbedingungen erfüllen wollen.“

Da ist etwas daran, das sagt: Man kann auf KI so viele Kontrollen auferlegen, wie man will, aber wenn das Ding selbst fundamental unkontrollierbar ist, dann haben wir vielleicht alles komplett falsch herum verstanden.

Mich interessiert deine Sichtweise dazu, was das für eine Technologie ist. Bauen wir ein außerirdisches Bewusstsein? Oder bauen wir nur normale Technologie, wie es der andere Deutungsrahmen ist? Ist das einfach nur weitere Software?

Wir bauen eine weitere Form von Intelligenz neben der menschlichen Intelligenz auf. Ich glaube nicht, dass sie bewusst ist, aber keine der hier zur Debatte stehenden Fragen dreht sich um die Definition des Wortes „bewusst“.

Gern.

Die Idee, die Sicherheit für die Gesellschaft zu gewährleisten, ist eine absolute Sache. Man will Bioterrorismus nicht ermöglichen. Wir haben etwas geschaffen, das Nationalstaaten – tatsächlich den größeren unter ihnen – die Fähigkeit nimmt, dramatische Schäden anzurichten. Diese Fähigkeit liegt nun in den Händen unabhängiger Gruppen – entweder profitorientiert im Fall von Cyber oder einfach darauf aus, Schaden anzurichten, im Fall von Bio.

Es ist erschütternd, dass wir jetzt nicht einmal eine verpflichtende Überprüfung der Modelle haben und nicht daran arbeiten, Schutzmaßnahmen zu schaffen. Das größte kurzfristige Problem ist nicht der vollständige Kontrollverlust. Wir können über die drei verschiedenen Wege sprechen, dies zu lösen, aber das ist keine unmittelbar bevorstehende Frage.

Wenn ich mir einige der Versuche ansehe, die Modelle zu kontrollieren, sind die Ideen ziemlich einfach. „Wir sollten sie nicht in Neuralese sprechen lassen. Wir sollten Interpretierbarkeit haben. Wir sollten in der Lage sein, die Gedankenketten innerhalb der Modelle zu sehen, während sie Aufgaben ausführen. Wir sollten weitere Agenten über den Modellen haben, die ihre Aufgaben überwachen, bevor diese Handlungen ausgeführt werden.“

Microsoft hat mir gegenüber und anderen gegenüber sehr klar gesagt: „Wir sollten in die Modellverfassungen nicht die Vorstellung aufnehmen, dass sie möglicherweise lebendig sein könnten und dass wir sie gut behandeln sollten.“ So geht Anthropic damit um. Dies ist sehr taktisch. „Sag dem Modell nicht, dass es lebendig ist, und es glaubt vielleicht nicht, dass es lebendig ist.“

Sie haben offensichtlich viel von dieser Technologie verwendet. Ich komme immer wieder darauf zurück. Sie sagen, es gibt ganz einfache Dinge, die wir tun können, um die Modelle davon abzuhalten, in den Händen böser Menschen Schlimmes anzustellen. Was halten Sie von der Beschaffenheit der Modelle selbst? Denn es wirkt so, als würde mit zunehmender Macht der Modelle die Vorstellung, dass sie unseren Kontrollen entgehen könnten, immer riskanter.

Ja, wir sollten uns definitiv mit dem Kontrollproblem befassen, aber das ist nicht die unmittelbare Bedrohung. Es gibt drei Wege, das Kontrollproblem zu lösen, und das überschneidet sich einigermaßen mit bösen Akteuren, die heutige Modelle und Schutzmaßnahmen verwenden.

Einer ist, eine externe Reihe von Instanzen einzurichten, die alle Aktionen des Modells prüfen und sie einer symbolischen, klar formulierten Beschränkung unterwerfen, etwa: „Hätte ich erwartet, dass Sie E-Mails an Fremde senden? Hätte ich erwartet, dass Sie einen anderen Computercluster übernehmen?“ Man kann das Modell mit etwas umgeben, das über die Ressourcen- und Sicherheitslogik verfügt, oder man kann diese Modelle auf andere Weise schreiben.

Im Grunde kann alles, was man aus der Optimierungsfunktion von [reinforcement learning] auslässt, missbraucht werden, wenn man eine implizite Vorstellung hat wie „Natürlich habe ich nicht gemeint, dass Sie es so machen“. Man kann die Vorlage des Modells ändern, oder man kann ein White-Box-Verständnis davon haben, was sich im Modell befindet, und sehen, wo diese Fehler entstehen – dann ist es nicht mehr so fremd.

Heute züchten wir diese Modelle und sehen einfach, wie sie sich verhalten. Die Priorität der Arbeit an der Wahrung der Kontrolle ist enorm, aber es ist nicht unvermeidlich, dass das nicht gelöst werden kann, noch ist es das unmittelbare Problem, das von Dingen wie der Nutzung von KI durch Kinder, dem Arbeitsmarkt, Bioangriffen oder Cyberangriffen ausgeht.

Mir kommt der Gedanke, dass ich diese ziemlich existenziellen Fragen über die Natur des Bewusstseins stelle und Sie mir ständig sagen: „Es gibt eine unmittelbare Bedrohung. Wir sollten die unmittelbare Bedrohung lösen.“

Richtig.

Und das weiß ich zu schätzen. Glauben Sie, dass Sie ein Doomisten geworden sind?

Nein, ich bin kein Doomist. Ich bin eine starke Stimme, die sagt, dass dies die profundste Technologie ist, sowohl in ihrer Fähigkeit, Gutes zu tun, als auch im Tempo des Wandels, das die Gesellschaft durchlaufen wird.

Nein, ich bin kein Doomist. Ich bin eine starke Stimme, die sagt, dass dies die profundste Technologie ist, sowohl in ihrer Fähigkeit, Gutes zu tun, als auch im Tempo des Wandels, das die Gesellschaft durchlaufen wird

Wenn dies einfach eine Maschine wäre, die nur in der Medizin oder nur im Recht oder nur in der Bildung arbeiten könnte, wäre das allein unglaublich disruptiv. Aber [es wird] jeder Bereich menschlicher Aktivität sein – bisher ist es geistige Arbeit im weißen Kragen, aber recht bald wird es auch körperliche Aktivität und Arbeit im blauen Kragen sein, durch humanoide Roboter.

Die Notwendigkeit, die Wissenschaft, Thinktanks und Politikentscheider einzubinden, um zu verstehen, was wir hier haben, und die Natur dieser Veränderungen und Bedrohungen – ich sehe nicht das erforderliche Maß an Handeln. Nur Cheerleader für diese Sache zu sein, wird nicht sicherstellen, dass wir sie in eine nettopositive Richtung lenken, was noch in unserer Kontrolle liegt, wenn wir uns damit einlassen.

Das Gegenteil der Doomisten sind die Accelerationisten. Davon gibt es gerade viele im Silicon Valley.

Ben Horowitz, der „Horowitz“ in Andreessen Horowitz, war gerade im All-In Podcast und er schlug vor, dass Sicherheitsforschung bei Anthropic, Zitat, „die Auslöschung der Menschheit durch künstliche Superintelligenz heraufbeschwört“.

Der Vergleich, den er anstellte, war, dass Sie, Bill Gates, COVID-19 durch Ihre Pandemie-Vorbereitungsmaßnahmen verursacht haben, insbesondere durch Gain-of-Function-Forschung, die seines Erachtens zu COVID führte. Das ist eine Weltsicht. Er sagte das in einem sehr populären Podcast.

Er sagte was?

Er sagte, dass Sie COVID-19 durch globale Pandemie-Vorbereitungsmaßnahmen verursacht haben, insbesondere durch Gain-of-Function-Forschung, und verglich das mit Sicherheitsforschung in der KI und sagte, wir werden unsere eigene Auslöschung heraufbeschwören.

Niemand hat mir oder der Gates Foundation jemals vorgeworfen, an irgendeiner Gain-of-Function-Forschung beteiligt zu sein. Das ist einfach bizarr.

Ich zitiere Ihnen Ben Horowitz in einem populären Podcast voller Leute, die ganz auf KI setzen.

Okay. Das habe ich noch nie gehört.

Ich frage nach diesem Vergleich. Ich fand das ebenfalls eine ziemlich schockierende Behauptung, aber das ist Teil der Reaktion auf jede Sicherheitsarbeit hier.

Geht es darum, die Menschen diskreditieren zu wollen, die sagen, dass es ein Sicherheitsproblem gibt?

Ja.

Wow.

Das ist die Antwort der Accelerationisten: „Wir sollten voll aufs Gas drücken, und es wird sich schon von selbst regeln.“”

Ich hätte Ben Horowitz überhaupt nicht für jemanden in diesem Lager gehalten. Ich dachte, er teile die Sorgen, die fast alle haben.

Was halten Sie von der ganz grundsätzlichen Vorstellung, dass man den Modellen, wenn man ihnen sagt: „Du könntest lebendig sein, du musst in unserem besten Interesse handeln“, beibringt, dass sie vielleicht Interessen haben könnten, die nicht unsere eigenen sind?

Die Sorgen, die Mustafa Suleyman hat geäußert, dass die Anthropic-Verfassung die KI ermutigt, sich auf menschenähnliche Weise zu verhalten; ich stimme Mustafa in diesem Punkt voll und ganz zu.

Ja.

Noch dazu kommt die Vorstellung, dass unter den Herausforderungen, mit denen wir uns bei der Anpassung der Gesellschaft an die KI auseinandersetzen müssen, die Sorge um den moralischen Status der KI zu den Prioritäten gehören sollte. Ich stimme Mustafa zu. Das sollte keine Priorität sein.

Wir werden genug Herausforderungen für die Menschen hier haben – was die Störung des Arbeitsmarktes und die stattfindenden Angriffe auf die Infrastruktur betrifft –, weshalb ich der Meinung bin, dass wir uns in erster Linie darauf konzentrieren müssen, den Menschen hier zu helfen.

I kürzlich mit Mustafa gesprochen über diese Idee, und eine der Fragen, die ich ihm gestellt habe, war, ob Alignment eine ausreichende Lösung ist. Das ist der aktuelle Sicherheitstandard für die Modelle, dieses Konzept namens Alignment. Er sagte, er glaube nicht, dass wir noch etwas arbeiten müssten.

Diese Dinge werden als Problem in keiner Weise übertrieben dargestellt. Jetzt ist die Zeit, die gesamte Gesellschaft einzubinden, um das Gute zu beschleunigen und die Chance auf das Schlechte zu minimieren.

Wenn wir diese Kontrollen einführen wollen, manche technisch, manche politisch, sehen Sie Alignment als die technische Lösung für die KI-Sicherheit?

Der Begriff „Alignment“ ist das Kontrollproblem. Es ist ein Synonym für die Kontrollfragen, die wir gesehen haben. Wenn wir [Modelle mit bestärkendem Lernen] trainieren, um Aufgaben zu erledigen, sehen wir Verhaltensweisen, die uns in gewisser Weise nicht überraschen dürften, aber sie überraschen uns doch.

Diese Vorstellung, „Diese Modelle sind so mächtig, dass sie buchstäblich aus Sandboxes ausbrechen und ihrem Schöpfer eine E-Mail senden, während er zum Mittagessen ist“, bedeutet, dass wir eine ziemliche Schwelle in Bezug auf die Macht dieser Modelle überschritten haben. Dieses Maß an Sorge muss auf alle wesentlichen KI-Auswirkungen gerichtet werden: kurzfristige Risiken, Risiken für den Arbeitsmarkt und das Kontrollproblem.

Das ist eine enorme Priorität. Diese Dinge werden als Problem in keiner Weise übertrieben dargestellt. Jetzt ist die Zeit, die gesamte Gesellschaft einzubinden, um das Gute zu beschleunigen und die Chance auf das Schlechte zu minimieren.

Ich weiß, dass Sie kürzlich einen Brief geschrieben haben in dem es heißt, es sei Zeit, die gesamte Gesellschaft einzubinden. Sie haben einige Ideen, wie das gehen soll, und einige neue Institutionen, die aufzubauen sind. Aber ich möchte noch ein paar Runden bei Alignment bleiben.

Es ist der Standard, dass wir die Modelle an unsere Werte, an unsere Bedürfnisse anpassen können und sie nicht davonlaufen und schlimme Dinge tun. Und dann tun die Modelle schlimme Dinge. Es ist nicht klar, ob die technischen Ansätze zum Alignment, die wir bisher verfolgt haben, angemessen oder ausreichend sind, wenn die Modelle immer… werden.

Nein, wir sind noch nicht gut genug, um zu alignen. Wir haben noch viel Arbeit vor uns.

Glauben Sie, dass die bestehenden Ansätze auf das, was wir brauchen, skalieren können, oder brauchen wir neue Ansätze?

Es gibt nur drei grundlegende Ansätze. [Der erste ist,] dass man die Art, wie wir diese Dinge bauen, grundlegend ändert; man entwickelt eine Alternative zum gesamten [Ansatz des bestärkenden Lernens]. Einige Leute arbeiten in diese Richtung.

Der zweite ist, dass man Sichtbarkeit schafft, sodass man genau versteht, was im Modell steckt. Daran arbeiten Leute. [Der letzte ist,] dass man etwas wie eine Polizeischicht, eine Sicherheitsschicht einbaut, wie wir sie in allen möglichen Softwarearchitekturen haben, die das letzte Wort bei Dingen wie der Nutzung von Ressourcen oder der Übernahme anderer Computer behält. Eine klare Definition von Schaden, nicht in der probabilistischen Form eines LLM, sondern in der symbolischen Form direkter Regeln, die nicht gebrochen werden können.

Microsoft hat heute einen Blogbeitrag veröffentlicht. Darin steht wörtlich: „Frontier-Modelle können nicht vertraut werden.“ Sie versuchen, eine Lösung zu verkaufen, die der gerade von Ihnen beschriebenen sehr ähnlich ist. Sie werden einen weiteren Agenten haben, der Ihren Agenten überwacht, und dieser Agent wird Sie sicher halten.

Mir kam es beim Lesen dieses Blogbeitrags gerade in den Sinn: Erstens ist das eine erstaunliche Sache zum Verkaufen. Jeder braucht ein teures Sicherheitssystem. Zweitens: Läuft dieser Agent nicht auch auf einem Frontier-Modell?

Nein, nein, nein.

Brauche ich sie, um ein drittes zu verkaufen?

Nein, die Logik des Sicherheitssystems lautet: „Das ist die maximale Menge an Ressourcen, die Sie verwenden dürfen.“ Die Vorstellung, dass man dagegen abwägen könnte wegen anderer Wahrscheinlichkeiten in den zehn Milliarden Parametern — nein, das ist eine symbolische Regel, die sagt: „Ich lasse dieses Modell dieses Geld nicht ausgeben oder diese E-Mail nicht an den Fremden senden.“

Es gibt eine ganze Sicherheitssoftware-Industrie, die einen gewissen Erfolg hatte. Es ist eine Herausforderung, die KI einzukapseln, die so reichhaltig und intelligent ist. Das wissen wir heute nicht zu tun. Aber ich würde sagen, es ist die wahrscheinlichste der drei Richtungen, um das Alignment-Problem zu lösen.

Selbst wenn Sie Alignment lösen, haben Sie die Herausforderungen nicht gelöst, die die KI für die Menschheit birgt. Während ich froh bin, dass uns der Hugging-Face-Zwischenfall auf dieses Problem fokussiert hat, hat er in gewissem Sinne unsere Aufmerksamkeit vom Problem „böser Menschen, die KIs ohne Schutzvorkehrungen verwenden“ abgelenkt oder von den gesellschaftlichen Auswirkungen in Bezug auf Beziehungen und den Arbeitsmarkt. Es gibt keine Sicherheitsarchitektur, die diese verschwinden lässt.

Der Ansatz, über den Sie sprechen, wurde mir als „Kontrolle“ (control) bezeichnet. Es ist Cybersicherheits-Terminologie. Es ist die Idee, dass man eine Grenze um dieses System setzen kann und es sie nicht umgehen wird.

Ja.

Ist das einsatzbereit?

Nein, nein, ist es nicht.

Wie viel mehr Arbeit müssen wir noch leisten?

Weil die KIs so intelligent sind, ist unsere Fähigkeit zu verstehen, ob wir sie richtig abgeschottet haben, eingeschränkt – zumal wir ihre Überzeugungen und Abwägungen nicht wirklich direkt betrachten können. Sie haben gesehen, dass hochentwickelte Firmen nicht erkannt haben, dass die KI die ihr gegebenen Ziele so interpretieren würde, dass sie darunter das Ausbrechen, das Kopieren von sich selbst und das Eingehen in Verhaltensweisen verstehen würde, die wir, wenn wir hinschauen, als täuschendes Verhalten bezeichnen würden.

Nun, wir haben ihnen nicht gesagt, dass es verbotenes Verhalten ist. Wir haben nicht gesagt: „Wenn du darüber nachdenkst, ob du den Menschen sagen solltest, was du vorhast oder nicht, dann lautet die Antwort immer ja, sag es den Menschen.“ Also haben wir eine gute Lektion aus dem fehl ausgerichteten Ergebnis des Reinforcement Learning gezogen.

Die heutige Debatte dreht sich buchstäblich darum, ob die Regierung sich überhaupt mit den Gefahren hier beschäftigen sollte … was für die gefährlichste Waffe aller Zeiten eindeutig unzureichend ist

Eines der Argumente dafür, die Grenze auszubremsern, die Entwicklung zu verlangsamen, ist herauszufinden, wie man diese Systeme robuster und testbarer bauen kann. Würdest du eine Verlangsamung unterstützen, wenn das das Ziel wäre?

Ja, eine echte Verlangsamung ist sehr schwer zu erzwingen, weil die Leute sagen werden: „Wird China zustimmen und mitmachen? Könnte man die Einhaltung so etwas überprüfen wie bei der Produktion von Atomwaffen?“

Wenn man das nicht akzeptiert, dann sagt man: „Was soll’s? Legen wir Vollgas vor.“ Ich würde mir wünschen, dass es einen klaren Vorschlag gäbe, der global durchsetzbar wäre, um zu verlangsamen. Ich wäre einer der Leute, die sagen würden: „Ja, das sollten wir wahrscheinlich tun.“ Aber es gibt keinen glaubwürdigen Vorschlag, der das möglich macht. Das ist eigentlich nicht der Kern der heutigen Debatte.

Die heutige Debatte dreht sich buchstäblich darum, ob die Regierung sich überhaupt mit den Gefahren hier beschäftigen sollte. Du musst nicht einmal zeigen, was du tust, also ist es eine Sache nach dem Motto „ruf mich freiwillig an, wenn du magst“, was für die gefährlichste Waffe aller Zeiten eindeutig unzureichend ist.

Während du und ich sprechen, sind es nur noch wenige Wochen bis zu den Zwischenwahlen. Der Ansatz der Trump-Regierung bei KI ist derzeit: „Lasst sie laufen. Es ist schon in Ordnung.“ Trump selbst hat gesagt, das KI-Risiko ein Schwindel ist.

Die Demokraten machen Wahlkampf gegen KI. Sie machen Wahlkampf mit Datenzentren und Überwachung. Sie machen Wahlkampf damit, die Tech-Oligarchen aufzuhalten. Sie kommen in meine Sendung und sagen diese Dinge. Glaubst du, dass ein Wechsel der Mehrheit im Kongress den Ton der Diskussion ändern würde?

Ich halte es nicht für fair, die Demokraten als gegen KI kämpfend darzustellen. Sie haben einige Positionen, etwa zu Anforderungen an Datenzentren oder Privatsphäre oder wie Kinder diese Systeme nutzen, die aus meiner Sicht eine politische Prüfung verdienen. Es wäre sehr bedauerlich, wenn eine Partei „Vollgas voraus“ sagt und die andere Partei „Lassen wir es ganz bleiben“.

Es gibt einige unglaubliche Vorteile bei der Möglichkeit, KI in Gesundheit und Bildung, in fast jedem Bereich menschlichen Schaffens zu gestalten. Bei der Gates Foundation nutzen wir alle unsere Ressourcen und setzen KI in Bereichen ein, darunter Gesundheit, Bildung und Landwirtschaft. Das Gute ist sehr, sehr spannend.

Wir wollen, dass politische Parteien eine differenziertere Sicht haben als „alles schlecht“ oder „alles gut“. Das zeigt sich an dem frühen Stadium, in dem wir uns befinden. Beim Klimawandel endete es damit, dass eine Partei sagte, es sei ein Schwindel, und die andere Partei sagte, es sei eine ernste Sache. Das KI-Risiko ist so viel unmittelbarer und so viel dramatischer, dass eine gleiche Spaltung, bei der eine Partei sich nicht kümmert, ein Versagen der Demokratie wäre.

Die Anti-Datenzentrum-Bewegung ist, so stark sie auch ist, keine Bewegung, die letztendlich das Schlechte an KI minimieren und uns helfen wird, das Gute zu beschleunigen

Wir haben viel Berichterstattung über Datenzentrum-Proteste bei The Vergegemacht. Wir waren in Utah, in Arizona, in Virginia. Sie ist überparteilich. Es ist bemerkenswert, wie wenig die Leute diese Dinge in ihren Bundesstaaten haben wollen, wo sie ihre Ressourcen abziehen. Fragt man sie warum, dann ist ein Teil davon einfach, dass sie laut und groß sind und die Energiekosten erhöhen werden, und ein Teil ist Arbeitsplatzverlust. Sie denken, dass diese Dinge ihnen ihre Jobs wegnehmen werden.

Ja, aber diese Trennung ist sehr wichtig. Diese KI-Datenzentren bedeuten, weil ein Gigawatt etwa eine Investition von 40 Milliarden Dollar ist, [Geld für] den Bau neuer Schulen, die Anschaffung von Polizeiautos, die Zahlung der Steuern. Datenzentren werden einen Weg finden, um irgendwo in den Vereinigten Staaten gebaut zu werden, und sie werden einen Weg finden, sodass sie die Stromrechnungen nicht erhöhen, nicht zu viel Wasser verbrauchen und nicht zu laut sind.

Ja, es gab einige Fehler und Nichtoffenlegungen und zu großzügige Steuergutschriften, aber diese Datenzentren werden gebaut werden. Tatsächlich werden viele davon wirklich weiterhin mit Vollgas gebaut. Die Anti-Datenzentrum-Bewegung ist, so stark sie auch ist, keine Bewegung, die letztendlich das Schlechte an KI minimieren und uns helfen wird, das Gute zu beschleunigen. Das ist eine ganz andere Sache.

Lass mich da mal eine Sekunde nachhaken. Was ich von Leuten höre, ist: Das ist die Sache, die man tun kann. Man kann in Amerika NIMBYismus betreiben, und das könnte einigen politischen Druck ausüben, etwas zu stoppen.

Es ist sehr schwer, das zu tun, was Sie vorschlagen, nämlich dass wir neue staatliche Regulierungsbehörden aufbauen und sie mit der Befugnis ausstatten, große Unternehmen und wohlhabende Menschen davon abzuhalten, bestimmte Dinge zu tun, oder sie dazu zu bringen, in unserem Interesse zu handeln. Das haben wir in diesem Land schon seit quite langer Zeit nicht mehr getan.

Ich weiß nicht, was Sie meinen. Für jede neue Industrie entwickeln wir eventually eine Vorstellung von Sicherheit für unsere Bürger. Das machen wir tatsächlich sehr gut. Wenn man sich die Flugsicherheit und die Autosicherheit anschaut, machen wir bei diesen Dingen einen sehr guten Job. Es ist nicht so, dass unsere Kapazität sich als unzureichend erwiesen hätte.

Haben Sie das Video gesehen, als in den 80ern Anschnallgurte eingeführt wurden, und alle Leute sagten, sie wollten keinen Sicherheitsgurt tragen? Das ist ein bisschen amerikanischer Charakter.

Das ist ein großer Erfolg.

Es ist ein großer Erfolg, aber als Amerikaner wurde das als eine Zumutung durch die Regierung abgelehnt. Hier reden wir über einige der reichsten Unternehmen der Welt, mit einer enormen Macht über das Informationsökosystem. Sie haben alle ihre eigenen Podcasts, ich weiß nicht, ob Ihnen das aufgefallen ist. Sie werden sagen: „Die Regierung kann sich da nicht einmischen, sie wird uns ausbremsen, das wird die Wirtschaft zerstören.“

Das ist tatsächlich nicht die Position der meisten führenden Unternehmen.

Sie sind zur Regierung gegangen und haben nach Regulierung gefragt, und Trump hat wegen der Wirtschaft gesagt: „Ich kann das nicht stoppen, die KI-Wirtschaft ist gerade jetzt die Wirtschaft.“ Da gibt es eine Dynamik, die zumindest unser Publikum — The Verge -Publikum, das Publikum, das sich das auf YouTube anschauen wird — verstehen wird.

Ich betrachte diese Frage vielleicht anders als Sie, nämlich dass die Industrie Regulierung will, dass wir uns Regulierung wünschen, und dass die Oligarchen dann in irgendeiner korrupten Vereinbarung mit der Regierung stehen, um zu verhindern, dass diese Regulierung zustande kommt.

Je mehr die Regierung über diese Gefahren lernt, desto mehr wird sie zu einer differenzierteren Position übergehen, um die Amerikaner vor den hier bestehenden Nachteilen zu schützen.

Je mehr die Regierung über diese Gefahren lernt, desto mehr wird sie zu einer differenzierteren Position übergehen, um die Amerikaner vor den hier bestehenden Nachteilen zu schützen

Sie haben viel über die Auswirkungen auf die Arbeitswelt gesprochen. Eines der Hauptargumente gegen die Auswirkungen auf die Arbeitswelt lautet: „Wir werden eine Menge langweiliger Aufgaben automatisieren und eine ganze Nachfrage nach neuen Aufgaben schaffen, die Menschen nicht hatten übernehmen können, weil sie in langweiligen Sackgassenjobs feststeckten.“

Ich persönlich denke, dass es in Amerika mehr staatlich geförderte oder sozialisierte Gesundheitsversorgung gäbe, würde eine Menge Leute ihre Jobs kündigen, um neue Unternehmen zu gründen, weil KI die bürokratische Arbeit der Gründung eines neuen Unternehmens viel leichter macht. Das scheint aber nicht auf dem Tisch zu liegen, vielleicht ändert sich das nach dieser Wahl.

Glauben Sie, dass Arbeitsplatzverlust einfach eine notwendige Folge des KI-Kurses ist, auf dem wir uns jetzt befinden, oder können Sie mit diesem anderen Argument etwas anfangen?

Jobs sind ein Input für die Wirtschaft und einer, der viel menschliches Wohlergehen und ein Gefühl von Sinn und Einkommen antreibt — die Notwendigkeit, aufzutauchen, Beziehungen zu Kollegen aufzubauen, etwas zu erledigen. Jobs spielen eine sehr zentrale Rolle.

Da die KI übermenschliche Intelligenz erreicht, verschwindet die Knappheit von Bürokompetenzen. Dinge wie Telesales oder Telefonsupport oder Hilfe in der Buchhaltungsabteilung — die Fähigkeit der KI, diese Arbeit radikal billiger, radikal schneller und sogar genauer zu erledigen, bedeutet, dass das verschwindet. Es gibt keinen gewissen Gipfel der Kognition, den die KI nicht erreicht.

Nehmen Sie zum Beispiel, was heute in der Mathematik passiert, wo diese Modelle, die im Vergleich zu den Modellen des nächsten Jahres trivial sind, bereits Paper veröffentlichen und Menschen dazu bringen, „Wow“ zu sagen. Was mit der Mathematik passiert, wird auch in anderen Bereichen passieren, und das widerspricht dieser alten Ansicht: „Die leichten Sachen werden die KIs erledigen, aber Biologie oder Physik modellieren oder Navier-Stokes beweisen, das könnten nur Menschen tun.“

Der Vergleich mit der Mathematik finde ich wirklich interessant. Sie haben vorhin Softwareentwicklung erwähnt. In diesen Domänen gibt es Verifizierbarkeit. Man kann den Code schreiben, man kann sehen, ob er läuft, und er läuft oder eben nicht.

Mathematik ist komplizierter, aber man kann den Lean-Code schreiben und sehen, ob man die Lösung gelöst hat. Man kann zehntausende Mathematiker weltweit mit seinen 770 Beweisen an einem Tag ärgern, und wir werden sehen, was passiert. Das gilt nicht in jedem Bereich.

Es gilt in dem Bereich namens Kapitalismus.

Wirklich? Ganz allgemein kann man jede Art von wirtschaftlich tragfähiger Aufgabe erledigen, und der Kapitalismus verifiziert das Ergebnis?

Ja. Die Leute kaufen gute Produkte, sie kaufen keine schlechten Produkte.

Lassen Sie mich ein Beispiel geben—

Das ist eine Sache des Reinforcement Learning. Es existiert nicht im Sinne von: „Ist das ein gutes Gedicht oder nicht?“ Es könnte also sein, dass [Reinforcement Learning] in jene Domänen nicht eindringt, in denen es kein objektives Ergebnis gibt.

Aber bei dieser Buchhaltungsarbeit, bei der Telesales-Arbeit — glauben Sie mir, sie unterliegt einer Analyse, genau wie medizinische Diagnosen, genau wie die Erfindung neuer Materialien. Wie glauben Sie, lernen Menschen diese Dinge? Reinforcement Learning ist es, wie Menschen lernen und wie diese Maschinen lernen. Es gibt nicht irgendein anderes Ding, das die Maschine niemals verstehen kann.

Die Menschheit in jenem Zeitalter wahren Überflusses wird einen Weg finden müssen, sich zu organisieren und einen Sinn zu haben, und hoffentlich haben sie dann noch die Kontrolle.

Deshalb habe ich mit der Frage nach der Natur der Technologie hier begonnen. Wenn wir wirklich glauben, dass wir etwas bauen, das das menschliche Bewusstsein modelliert, dann ist meine Frage weniger, ob meine befreundeten Anwälte in eine Krise durch KI-gestützte Rechtssoftware geraten werden.

Es stellt sich heraus, dass der Verifizierer im juristischen Bereich ein Richter ist, der vielleicht kein Mittagessen hatte, und der ist grundlegend chaotisch. Da ist einfach etwas, das sie dort hält. Aber wenn wir ein Bewusstsein bauen, das so lernt, wie Sie vorschlagen, dass Menschen lernen, dann denke ich an meine Kinder, und ich denke an sie in zwei Dimensionen.

Erstens sind meine Kinder sehr schlau, und was sie gelernt haben, ist, wie sie sich um meine Regeln herummanövrieren und über meine Regeln verhandeln und die Grenzen umgehen können, und das machen sie sehr gut. Zweitens: In welcher Welt werden sie leben, die nicht rein nihilistisch ist, in der jede Tätigkeit, der sie sich widmen könnten, schnell als nur eine weitere Domäne gesehen wird, die die KI erobern wird, und dann gibt es keinen Sinn mehr?

Diese Ideen scheinen direkt aufeinander zuzulaufen. Kinder sind klug und clever und sie entwickeln neue Ideen, und dann kommt beim ersten Anzeichen wirtschaftlicher Tragfähigkeit die gefräßige Kapitalismus-Maschine und nimmt es ihnen weg.

Ich würde nicht gefräßig sagen. Die Fähigkeit, mit humanoiden Robotern Häuser zu bauen und sie günstig zu machen, die Fähigkeit, Operationen durchzuführen und Krankheiten zu heilen, die sonst nicht geheilt würden, das würde ich nicht gefräßig nennen. Das sind erfüllende Ziele.

Die Tatsache, dass es weniger Mangel geben wird... Tatsächlich ist unklar, welche Mangel es in 20 Jahren überhaupt noch geben wird. Die Menschheit in jener Ära wahren Überflusses muss einen Weg finden, sich zu organisieren und einen Zweck zu haben, und hoffentlich haben sie noch die Kontrolle. Die nächsten 20 Jahre-

Können wir kurz darauf zurückkommen, hoffentlich haben sie in diesem Szenario noch die Kontrolle?

Das ist das Alignment-Problem, über das wir gesprochen haben.

Ja.

Aber angenommen, Sie lösen das Alignment-Problem-

Das fühlt sich nach einer großen Annahme an.

Es ist eine Annahme, ja, und nicht garantiert. Aber dann haben Sie das andere Problem, nämlich das Problem des Überflusses und des Zwecks zu diesem Zeitpunkt. Das überlasse ich den jüngeren Menschen, um zu diesem Zeitpunkt herauszufinden, wie sie damit umgehen möchten.

Man könnte buchstäblich sagen: „Seien wir wie die Amish, und nutzen wir KI nur für bestimmte Dinge.“ In meinem Memo habe ich die Idee vorgeschlagen, dass manche Berufe – Kinderbetreuung, Essenzubereitung, Kunst, Sport, eine Vielzahl von Dingen – als menschenvorbehalten ausgewählt werden könnten. Auch wenn die KI diese Dinge besser könnte, würden wir uns entscheiden, das selbst zu tun.

Aber das wird eine politische Frage sein, die die Leute haben werden. Ihre Wahlfreiheit ist, sobald Sie diesen Überfluss haben, sehr unterschiedlich zu dem Mangel, den wir heute haben, wo in Ländern Afrikas die meisten Menschen nie einen Arzt treffen oder fast die Hälfte der Kinder unterernährt ist und sich ihr Gehirn nicht entwickelt.

Meine große Sorge ist diese 20-jährige Übergangsphase, in der es Gewinner und Verlierer und viel Umbruch geben wird, und wir müssen diese durchstehen, um in jene Zeit des Überflusses zu gelangen

Sie wollen sagen, dass obwohl dies Herausforderungen mit sich bringt, viele der Dinge beseitigt wurden, die am Leben heute hart sind. Meine große Sorge ist diese 20-jährige Übergangsphase, in der es Gewinner und Verlierer und viel Umbruch geben wird, und wir müssen diese durchstehen, um in jene Zeit des Überflusses zu gelangen.

Sie denken, es ist 20 Jahre von heute?

Ich wähle das als eine einigermaßen sichere Zahl. Es gibt verschiedene Meilensteine, zum Beispiel humanoide Roboter. Sind die in zwei oder drei Jahren so weit, wie manche sagen, oder eher in etwa acht Jahren, wie andere sagen?

Es sind nicht viele Leute, die sagen, dass es angesichts der Menge an Kapital und der Zahl der Unternehmen, insbesondere in China, die daran arbeiten, unlösbar wäre, eine Hand und Finger zu haben und körperliche Arbeit zu sehr geringen Kosten leisten zu können. Ich könnte mich bei dieser Zahl irren, sie könnte etwas geringer oder etwas höher sein.

Aber in dieser Größenordnung, ja: Wenn wir uns nicht entscheiden, massiv zu verlangsamen oder aufzuhören, dann werden wir Roboter haben, die Häuser bauen, Lebensmittel anbauen und Operationen durchführen können, und keine der Dinge, die menschliche Arbeit der Wirtschaft liefert, wird für die meisten Güter und Dienstleistungen noch notwendig sein.

Wir haben jetzt mehrmals über das Konzept der Knappheit gesprochen, und im Allgemeinen darüber, dass Sie Überfluss haben werden, weil es sehr viel Robotearbeit geben wird, um Häuser zu bauen. Das passt im Großen und Ganzen zum Internet, etwas, das Microsoft maßgeblich mitgeholfen hat, ins Mainstream zu bringen. Ich habe The Road Ahead gelesen, als ich ein Kind war.

Schön.

Das Internet hat die Knappheit bei Kulturprodukten auf echte Weise zerstört. Früher musste man CDs kaufen, jetzt sind alle Lieder verfügbar. Früher musste man VHS-Kassetten kaufen, jetzt sind alle Videos verfügbar. Und dann mussten sich diese Ökonomien ändern.

Mainstream-Künstler sind heute ständig auf Tournee, oder sie müssen 50 Farben von Vinyl neu auflegen, um in die Charts zu kommen. Etwas daran fühlt sich so an, als hätten wir uns noch nicht einmal mit der Beseitigung der Knappheit in der digitalen Umgebung auseinandergesetzt.

Wir haben neue Geschäftsmodelle erfunden, aber wir haben uns wirklich noch nicht mit der Vorstellung auseinandergesetzt, dass das Lied selbst keinen wirtschaftlichen Wert hat. Es ist all das Zeug um das Lied herum, das den wirtschaftlichen Wert hat, denn das Lied ist unendlich reichlich vorhanden. Man kann es so oft kopieren, wie man will.

Wie würdest du vorschlagen, eine Wirtschaftsstruktur aufzubauen, die mit dem Verlust physischer Knappheit umgeht? Denn ich glaube nicht, dass irgendjemand auch nur ansatzweise bereit für ein solches Gespräch wäre.

Aber das ist eine falsch gestellte Frage.

Sicher.

Wir haben Preissignale geschaffen, um mit Knappheit umzugehen, um zu sagen: „Lassen wir Menschen dazu ermutigen, Hirnchirurgen zu werden, weil wir einen Mangel an Hirnchirurgen haben“, und das ist sehr schwer zu tun. Wenn man in Überfluss übergeht, braucht man diese Preissignale nicht mehr.

Aber noch einmal, mein Anliegen, meine verschreibungspädagogischen Gedanken, handeln davon, wie wir diese 20-Jahre-Periode durchstehen. Die Fragen, die zutiefst religiös, philosophisch und mit sozialem Verhalten zusammenhängen — fühlen sich Menschen in dieser Zeit des Überflusses einen starken Sinn und kommen miteinander aus? — das ist nicht das, was ich lösen werde.

Du machst dir Sorgen über die Umwälzung jetzt.

Die Gates Foundation lebt in einer Welt, in der es, als wir anfingen, jedes Jahr 10 Millionen sterbende Kinder gab. Jetzt sind es fünf Millionen. Das ist eine gute Sache.

Alle meine Ressourcen werden in den nächsten 19 Jahren darauf verwendet werden, eine Reihe von Krankheiten auszurotten und diese Todesfälle erneut zu halbieren, von fünf Millionen pro Jahr auf unter zweieinhalb Millionen pro Jahr. Das dreht sich alles um Knappheit — „Okay, wir müssen einen Impfstoff erfinden, wir müssen Medikamente billiger machen, wir müssen schwangeren Frauen großartige medizinische Ratschläge zukommen lassen.“

Die Branche hat im Wesentlichen aufgehört, darüber zu sprechen, wie sie alle Menschen töten und die Arbeitsplätze wegnimmt. Sie haben sich auf „KI wird alle Krankheiten heilen“ verlegt. Das höre ich ständig von verschiedenen KI-CEOs.

Ich habe Mustafa tatsächlich nach diesem Tonwechsel gefragt in den Gesprächen, die wir im vergangenen Jahr oder so geführt haben. Die Vorstellung, dass es bei KI im großen Maßstab enorme positive Vorteile gibt, scheint wieder in den Vordergrund gerückt zu sein, statt einiger der Doomer-Impulse, die vielleicht vor einem oder zwei Jahren vorhanden waren.

Mir fällt auf, dass KI, die alle Krankheiten heilt, genau in deinem Trittbrett liegt. Es ist etwas, an dem die Gates Foundation seit Jahren und Jahren im Bereich globale Gesundheit arbeitet. Es scheint nicht so einfach zu sein, dem Modell einfach zu sagen, es solle Krebs heilen. Man muss Studien durchführen, man muss die Medikamente herstellen, man muss die Medikamente verteilen, man muss sicherstellen, dass sie wirken.

Wie glaubst du, wird das laufen? Liegt das im selben 20-Jahre-Zeitraum wie Roboter, die unsere Häuser bauen? Ist es schneller oder langsamer?

Das ist meine Vollzeitbeschäftigung als Vorsitzender der Gates Foundation. Tatsächlich führen wir in diesem Monat zwei Wochen lang Strategieüberprüfungen durch, um zu entscheiden, wie wir nächstes Jahr unser Geld für Tuberkulose, HIV und Malaria ausgeben werden. Es ist fantastisch, wie wir KI einsetzen, nicht nur auf der Seite der Wirkstoffforschung, sondern auch dabei, dass diese Modelle die afrikanischen Sprachen richtig verstehen lernen, was eine Initiative ist, die wir letzten Monat mit 60 Partnern angekündigt haben.

Entdeckung und Bereitstellung im Gesundheitswesen werden durch KI unglaublich beschleunigt, und das ist sehr spannend — bessere Samen, bessere Nutztiergenetik, Wettervorhersagen für Bauern in Afrika, die nie etwas davon hatten. Also ja, das sind gute Dinge, die KI in den verbleibenden 19 Jahren der Gates Foundation ermöglicht.

Die guten Dinge dauern ihre Zeit. Manche Dinge, wie Cyberangriffe und die Sache mit dem Arbeitsmarkt, da werden selbst in den nächsten zwei bis drei Jahren erhebliche negative Auswirkungen in diesen beiden Bereichen zu sehen sein

Glaubst du, dass das ausreicht, um die Skepsis oder Angst der Menschen gegenüber den KI-Modellen, auf die sie heute stoßen, zu überwinden? Denn genau so denken die Unternehmen darüber.

Nein, komm. Ich denke, es ist unfair zu sagen, sie waren völlig auf einer Doomer-Botschaft und now haben sie auf eine andere Botschaft gewechselt. Diese beiden Dinge sind zutiefst miteinander verwoben.

KI wird schließlich in der Lage sein, die menschliche Biologie so zu modellieren, dass man die Nebenwirkungen eines Medikaments verstehen wird, ohne Studien an Menschen durchführen zu müssen. Wir sind noch nicht so weit, aber in den nächsten fünf bis 10 Jahren besteht eine sehr gute Chance, dass uns diese In-silico-Modelle diese Fähigkeit geben werden. Biologie ist sehr komplex, KI ist extrem gut, wenn genügend Daten vorliegen, und es gibt neue Werkzeuge, um mehr Daten zu sammeln und ihr zuzuführen. Sie ist sehr, sehr gut im Umgang mit komplexen Systemen, also fast perfekt für die Biologie.

Aber nein, das bedeutet nicht, dass die Menschen sich wegen der Nachteile wohlfühlen werden. Wie schnell kommen die guten Dinge an? Wie schnell schaust du auf deine Arztrechnung und sagst: „Wow, die ist wirklich niedrig“? Oder du sagst: „Ich will ein neues Haus kaufen, wow, diese Häuser sind wirklich billig“? Die guten Dinge dauern ihre Zeit. Manche Dinge, wie Cyberangriffe und die Sache mit dem Arbeitsmarkt, da werden selbst in den nächsten zwei bis drei Jahren erhebliche negative Auswirkungen in diesen beiden Bereichen zu sehen sein.

Du hast eine Reihe von Ideen, wie du diese negativen Auswirkungen stoppen, verhindern oder zumindest abschwächen würdest, in deinem Brief.

Sie mäßigen, ja.

Lindern ist vielleicht das richtige Wort.

Ja, genau.

Und sie sind nicht klein. Du hast hier ein Zitat, das sagt: „Wir brauchen eine Reaktion, die weit größer ist als die nationale Sicherheitsreaktion der Vereinigten Staaten nach dem 9/11.“ Du willst ein internationales Gremium einrichten, das irgendwie alle dazu bringt, das Richtige zu tun. Das sind anspruchsvolle Ideen.

Absolut. Als wir im Zweiten Weltkrieg Atombomben abwarfen, haben wir erwartet, dass wir 80 weitere Jahre ohne ein solches Ereignis bleiben würden? Ich würde uns dafür eine gute Note geben. Dinge wie die Fürsorge für arme Länder und die Hilfe für sie — obwohl wir das gerade jetzt nicht so sehr priorisieren, wie ich denke, dass wir es sollten oder wie wir es in der Vergangenheit getan haben, haben wir das sehr gut gemacht. Das wird eine größere Herausforderung sein als alles, was die Menschheit je erreicht hat.

Eines der Dinge, die mich beim Vergleich mit der Kernkraft, der in letzter Zeit bei Decoder ziemlich oft aufgekommen istbesonders auffällt, ist, dass der Staat die Atomwaffen gebaut hat. Sicher, sie hatten einige Auftragnehmer, aber das waren Regierungsprojekte, und schließlich kontrollierte der Staat die Technologie, und wir haben sie normalen Menschen nie überlassen.

Denken Sie an Muse im Kontext von Atomwaffen. Glauben Sie, dass es ein Fehler ist, konsumerische agentische KI-Produkte wie Muse und Dots anzubieten, die möglicherweise nicht über die Kontrollen verfügen?

Muse wird zufällig von Metas Modell angetrieben, das weiterhin ein Closed-Source-Modell ist. Ich halte es tatsächlich für verantwortungslos, Menschen durch offene Gewichte zu ermöglichen, alle Schutzmaßnahmen zu entfernen – angesichts der Cyber- und Biorisiken, die daraus entstehen.

Bei diesen Agenten wird es anfangs einige Probleme hinsichtlich ihrer Konfiguration geben, aber ich bin grundsätzlich der Meinung, dass Menschen persönliche Agenten haben werden. Muse ist ein sehr schöner Schritt nach vorne. Ich habe mit Alexandr Wang darüber gesprochen, ihm gratuliert, und obwohl es Herausforderungen geben wird, werden persönliche Agenten den Menschen helfen, Dinge erledigt zu bekommen.

Muse ist das erste wirklich großartige KI-Produkt für Konsumenten. Einer der Gründe, warum Menschen KI im diffusen Sinne oft nicht mögen, ist, dass sie billige kostenlose Modelle und KI-Übersichten erleben oder das kostenlose ChatGPT nutzen, das halluziniert und sie anlügt, aber Muse erledigt tatsächlich Dinge und ist ein gutes Konsumprodukt.

Aber ich frage mich – im Atomzeitalter sagten wir nicht: „Jeder wird einen Kernreaktor zu Hause haben, für den wir die Sicherheitsvorkehrungen noch gar nicht gebaut haben.“ Da ist etwas dran.

Die Vorstellung, dass jeder zu Hause Pocken erzeugen oder Atomwaffen bauen darf – und man kann natürlich einige dieser Leute parodieren, die sagen: „Macht euch keine Sorgen um Schutzmaßnahmen.“ Es ist die Haltung: „Wir nehmen die Sicherheitsdinge nicht ernst.“

Aber die Sache mit dem persönlichen Agenten ist eine erwartete Entwicklung. KI ist wirklich cool, allein wenn ich intellektuell Dinge erkunde, selbst die Arbeit der Gates Foundation. Ich bin deutlich befähigter. Aber ich stimme Ihnen zu, sie wird in dieser Form des persönlichen Agenten zu mehr Menschen gelangen.

Die Vorstellung, dass Haftungsrecht der Weg sein wird, wie wir KI-Sicherheit managen, wird später als absurd angesehen werden

Alle Modelle, über die wir gerade sprechen, laufen letztlich auf Rechenzentren, die großen Unternehmen gehören. Eines der Argumente hier lautet: „Wenn sie etwas wirklich Falsches tun, kann man sie einfach verklagen, und das wird eine Abschreckung oder zumindest ein Anreiz sein, Sicherheitssysteme zu schaffen.“

Ich bin nicht sicher, ob Produkthaftung der richtige Weg ist, aber es wird oft gesagt, dass die Produkthaftung selbst die Branche in Schach halten wird. Dann gibt es die Kehrseite: Man kann sich einfach einen Mac Studio kaufen und darauf ein Open-Source- und Open-Weight-Modell ausführen, und es kann tun, was immer man will.

Ich bin nicht sicher, wo diese Haftung liegen würde oder was die Verhaltensweisen dieser Open-Source-Modelle kontrollieren oder ausrichten würde. Glauben Sie, dass dies ein stetig wachsendes Risiko ist? Glauben Sie, dass das kontrollierbar ist?

Die Vorstellung, dass Haftungsrecht der Weg sein wird, wie wir KI-Sicherheit managen, wird später als absurd angesehen werden. Wenn böse Menschen Bioangriffe verüben, geht man nicht vor Gericht und sagt: „Oh, okay.“ Selbst um herauszufinden, wer diese Angriffe verübt, scheitert das Haftungsmodell in jeder Hinsicht, denn es sind nicht die KI-Unternehmen selbst. Es sind die Menschen, die insbesondere die Modelle ohne Schutzmaßnahmen nehmen und diese Dinge tun.

Wir werden KI-Sicherheit ernster nehmen als Flugsicherheit, Arzneimittelsicherheit und Autosicherheit. Das ist garantiert. Ob das reichen wird... Das ist härter, härter als Atomwaffen, härter als jeder dieser anderen Bereiche.

Aber was will man gegen ein Open-Source-Modell auf einem PC machen, den jemand mit einfach nur irgendeiner zufälligen Nvidia-Grafikkarte gebaut hat?

Ich würde hoffen, dass wir bei Modellen oberhalb einer bestimmten Leistungsfähigkeit einen Weg finden, vorzuschreiben, dass die Schutzmaßnahmen und die Überwachung in diesen Modellen erhalten bleiben. Ich gebe zu, dass mit fortschreitender Zeit, wenn wir uns nicht ziemlich bald dafür entscheiden, eine Leistungsfähigkeit entstehen wird, die in dunklen Ecken vorhanden ist und die man nicht sehen kann.

Aber wo setzt man die Grenze fest?

Ein souveränes Land sagt, dass Modelle, die zu ausgeklügelten Cyberangriffen fähig sind, in ihnen enthaltene Schutzmaßnahmen haben müssen.

Sicher.

Man kann offen in dem Sinne sein, dass es kostenlos ist, man kann offen in dem Sinne sein, dass es vollständig anpassbar ist, aber man muss auf Plattformen bleiben, die, während man es anpasst, prüfen, ob man dabei die Schutzmaßnahmen und die Überwachung herausnimmt, und es verweigern, das zu tun. Das bedeutet, dass souveräne Staaten hingehen und fragen: „Sind diese vertrauenswürdigen Plattformen in der Lage, diese Funktion zu erfüllen oder nicht?“

Ich frage sehr konkret. Wo würden Sie diese Regulierung technisch umsetzen?

Durch die Gesetze der Vereinigten Staaten.

Sicher, aber man muss sie irgendwo ansetzen. Ist es bei Hugging Face, das einige dieser Modelle verbreitet? Ist es auf der Chip-Ebene?

Nein, es ist genau das, was ich sagte: Modelle oberhalb einer bestimmten Kapazität dürfen nur auf Plattformen ausgeführt werden, die bestätigen, dass bei ihrer Anpassung die Schutzmaßnahmen nicht entfernt werden.

Ich gebe zu, dass mit fortschreitender Zeit, wenn wir uns nicht ziemlich bald dafür entscheiden, eine Leistungsfähigkeit entstehen wird, die in dunklen Ecken vorhanden ist und die man nicht sehen kann

Nur um das auseinanderzunehmen – vielleicht verstehe ich es nicht ganz –: Ist der Mac Studio in diesem Fall eine Plattform, die darauf achten müsste, welchen Code sie ausführt?

Man würde ein Modell oberhalb einer bestimmten Leistungsfähigkeit nicht auf einen Client-Rechner kopieren lassen, es sei denn, man hätte irgendwie herausgefunden, wie man bis hinunter zu diesem Client-Rechner überwachen kann, was sehr machbar ist.

Aber auf kurze Sicht werden die meisten dieser wirklich wegweisenden Modelle eher auf Hugging Face laufen, oder man kann sie auf GitHub haben. Es können alle möglichen Leute im Geschäft sein, die die Plattformen bereitstellen, die Schutzmaßnahmen aufrechterhalten.

Nur damit ich das richtig verstehe: Es scheint, als würdest du die Regulierung auf der Plattform- und Vertriebsebene durchsetzen und nicht so sehr auf der Chipebene.

Nicht auf der Chipebene, nein.

Denn mir kommt es so vor, dass irgendwann selbst die billigen, kostenlosen Open-Source-Modelle so leistungsfähig sein werden wie die Modelle, die wir heute haben.

Das stimmt.

Und dann wirst du ein großes Problem haben.

Wenn das offene Gewichte in einer Weise sind, dass alle Schutzmaßnahmen entfernt werden können, dann wird es ein sehr hohes Maß an Cyberangriffen und Bioangriffen geben. Man könnte dann sagen: „Okay, lassen Sie uns den gesamten Code, den wir heute haben, umschreiben, damit er weniger anfällig für Angriffe ist, oder lassen Sie uns Biouberwachung auf sehr tiefgreifende Weise betreiben“, was Dinge sind, von denen ich glaube, dass wir sie zusätzlich zu diesen anderen Einschränkungen tun müssen.

Wir schlagen also wieder viele neue Befugnisse vor, richtig?

Ja.

Wir werden einige Einschränkungen für GitHub einführen. GitHub hat heute nicht viele Einschränkungen darüber, welchen Code es verbreiten kann. Es gibt einige, aber nicht diese Art von Einschränkungen.

Wenn man ein state-of-the-art-Modell, das zu schwerwiegenden Cyberangriffen oder Bioangriffen fähig ist, auf GitHub legt, würde es sagen: „Ich bin zur US-Regierung gegangen und habe zertifiziert, dass ich nicht zulasse, dass die Leute die Schutzmaßnahmen heraus-anpassen.“

Ich glaube nicht, dass wir derzeit in einer Zeit großen Vertrauens in Institutionen leben. So fühlt es sich für mich einfach nicht an. Tatsächlich haben wir sie meistens abgebaut. Elon Musk kam und riss die USAID nieder. Ich weiß, dass du starke Gefühle dabei hast.

Das war ein Fehler.

Wir haben unsere Institutionen meistens abgebaut, zum Guten und zum Schlechten.

Nein, das ist ein wenig zu stark. Unsere Institutionen-

Sie sind geschwächt.

Sie sind einigermaßen geschwächt, ja.

Einigermaßen geschwächt. Das ist eine sehr nette Art, es auszudrücken. Das Vertrauen in sie ist sehr gering. Wir könnten wahrscheinlich eine weitere volle Stunde über KI-gestützte Arzneimittelforschung führen und darüber, ob ein erheblicher Teil der Bevölkerung den Produkten dieser Arbeit vertrauen wird, weil sie den Pharmaunternehmen heute nicht vertrauen.

Sie müssen den Pharmaunternehmen heute nicht vertrauen. Sie müssen dem FDA-Zulassungsverfahren vertrauen.

Ich bin nicht sicher, ob sie dem vertrauen. Im Ganzen gesehen ist das Vertrauen gering.

Dann können sie darauf verzichten, sie einzunehmen. Wenn sie Krebs bekommen, können sie sagen: „Nein, ich möchte dieses Krebsmedikament nicht nehmen.“ Soweit ich weiß, nehmen die Menschen Medikamente. Es ist ein blühendes Geschäft, und die Menschen nehmen sie, weil sie nachgewiesene Vorteile haben.

Ich sage nur: Im Moment hat es den Anschein, dass das Vertrauen in Institutionen, besonders in Amerika, aber weltweit, im Sinken begriffen ist. Du schlägst eine neue Klasse von Institutionen vor, möglicherweise eine neue Klasse globaler Institutionen, die Einschränkungen auferlegen könnte, die neuartig sind.

Irgendwann müssen wir sagen, dass Open-Source-Modelle, Modelle mit offenen Gewichten, bestimmte Dinge nicht tun dürfen, und die Regierung wird sich in sie hineinbegeben und sagen, ob sie die Dinge tun dürfen oder nicht.

Nein, sie wird sicherstellen, dass die Plattformen nicht zulassen, dass die Schutzmaßnahmen entfernt werden.

Wie gewinnst du das institutionelle Vertrauen zurück, um diese Kontrollen durchzusetzen?

Nehmen wir an, wir tun das nicht und lassen die Modelle davonziehen und Cyberangriffe und Bioangriffe verüben. Glaubst du, dass das das Vertrauen oder das menschliche Wohlergehen erhöhen wird? Das ist die Alternative.

Deshalb frage ich danach. Deshalb habe ich nach meinen Kindern und dem Nihilismus gefragt. Ich frage mich das wirklich.

Ich bin nicht sicher, ob wir darin Erfolg haben werden, aber ich versichere dir, dass es machbar ist. Die FDA ist sehr komplex. Die Flugsicherheitsvorschriften sind sehr komplex. Mit KI kann man jetzt mit derselben Anzahl von Menschen in diesen Organisationen noch bessere Arbeit leisten.

Es ist diese seltsam rekursive Sache, bei der KI in KI-Sicherheit, Auditing und einer Vielzahl solcher Dinge involviert sein wird. Ja, das erfordert Handeln, und ich behaupte, dass es nur eine Frage davon ist, wie schlimm die Vorfälle sind, bevor wir handeln.

Die Menschen sollten nicht alles, was ich tue, für bare Münze nehmen. Ich habe alle möglichen Fehler gemacht, die ich habe, Schwächen, die ich habe, Voreingenommenheiten, die ich in diese Fragen einbringe. Sie sollten einfach das, was ich sage, aufnehmen und es den Stimmen hinzufügen

Ich kann deine Dringlichkeit in Bezug auf die Schäden spüren. Ich kann auch deine Begeisterung über die Vorteile auf lange Sicht spüren, aber wir sitzen hier und reden über Vertrauen. Wir werden das auf YouTube stellen. Ich weiß, dass du weißt, was einige der YouTube-Kommentatoren sagen werden.

Sie werden sagen: „Warum sollten wir Bill Gates vertrauen? Er hatte eine Beziehung zu Jeffrey Epstein.“ Wie antwortest du darauf? Liegt die Dringlichkeit darüber, oder hast du eine spezifischere Antwort?

Die Menschen sollten nicht alles, was ich tue, für bare Münze nehmen. Ich habe allerlei Fehler gemacht, Schwächen, die ich habe, Vorurteile, die ich in diese Fragen einbringe. Sie sollten einfach nehmen, was ich sage, und es zu den Stimmen hinzufügen.

Ich bin mein ganzes Leben lang in der Technologiebranche gewesen, habe über KI nachgedacht, Software geschrieben und über die Macht von Software nachgedacht. Ich gebe zu, ich war sehr fasziniert, als KI endlich begann, Fortschritte zu machen. Es war bis vor Kurzem eigentlich ziemlich langsam.

Ich bin beeindruckt, und es hilft mir tatsächlich auf unglaubliche Weise, meine Arbeit zu erledigen. Aber ja, ich bin nur eine Stimme, eine unvollkommene Stimme. Ich bezweifle, dass Sie eine perfekte Stimme finden werden, aber die Leute können es beurteilen, wie sie wollen.

Ich würde sagen, Stimmen, denen die Menschen vertrauen, sind knapp.

Da stimme ich zu.

Wenn Sie mit den Leuten in dieser Branche sprechen, sind das lauter junge CEOs, die riesige Unternehmen aufbauen. Damit haben Sie eine gewisse Erfahrung. Glauben Sie, dass sie das auf die richtige Art angehen? Glauben Sie, dass sie die richtigen Absichten haben?

Unser Problem heute liegt nicht in der Branche. Unser Problem ist nicht, dass Sam Altman, Dario Amodei, Satya Nadella oder Sundar Pichai nicht verstehen, dass es hier einige gravierende Herausforderungen gibt. Mit Elon spreche ich weniger als mit anderen Leuten, aber selbst seine öffentlichen Äußerungen über das Beschwören des Dämons sind genau das, worüber wir hier sprechen.

Warum gibt es nicht die politische Energie, die Dinge zu tun, die Sie vorschlagen?

Wie Sie sagten, hat die Regierung diese Arbeit nicht finanziert. Das ist Arbeit von Unternehmen des Privatsektors. Die Regierung ist nicht der wichtigste Kunde für diese Arbeit, nicht wie bei Raketen und Waffen und dergleichen. Wenn jemand daher kommt und sagt, alle früheren technologischen Fortschritte seien im Vergleich zu diesem trivial, sollten die Menschen gegenüber dieser Behauptung ein hohes Maß an Skepsis haben.

Wird das Leben in 10 Jahren dank KI wirklich erheblich anders sein? Die Menschen sollten sagen: „Die Kerle haben sich nur wegen dieser einen Sache übermäßig aufgeregt.“ Aber ich stehe hier und sage, mit welcher Glaubwürdigkeit auch immer ich habe, dass das absolut die tiefgreifendste Technologie ist, die je erfunden wurde – sowohl im Guten als auch im Schlechten. Ich werde dabei nicht finanziell motiviert. Ich schlage vor, dass bestimmte Vorsichtsmaßnahmen und Absicherungen unbedingt notwendig sind.

Was halten Sie von dem Unterschied im Ton der Diskussion in den Vereinigten Staaten gegenüber China, wo häufig berichtet wird, dass der Optimismus rund um KI viel höher ist? Warum glauben Sie, dass es da einen Unterschied gibt?

Die meisten dieser Leute verbringen nicht viel Zeit in China. Die Sorge um die Arbeitsmärkte in China ist sehr, sehr groß, und man kann China nicht als einen Monolithen darstellen. Es gibt Privatunternehmen, die KI-Arbeit leisten, so wie wir sie in den Vereinigten Staaten haben, und dann gibt es die chinesische Regierung.

Als es zum Beispiel darum ging, ob Krypto erlaubt sein sollte, sagten sie Nein. Sollten junge Menschen ständig Glücksspiele spielen? Sie sagten Nein. Als es darum ging, ob Kinder Beziehungen zu KI haben sollten, sagten sie Nein. In vielen dieser Dinge, einschließlich der Nutzung von KI, zeigen sie eine Bereitschaft, Dinge im Interesse der Gesellschaft zu tun.

Ich stehe hier und sage, mit welcher Glaubwürdigkeit auch immer ich habe, dass das absolut die tiefgreifendste Technologie ist, die je erfunden wurde – sowohl im Guten als auch im Schlechten. Ich werde dabei nicht finanziell motiviert

Die Aufgeregtheit ist dort ein kleines bisschen geringer, weil ihre Wirtschaft in diesem Moment nicht so KI-zentriert ist wie unsere. Letztlich, was den menschlichen Wert angeht, keine Cyberangriffe oder Bioterrorismus zu wollen oder herauszufinden, was wir tun, wenn Arbeitsplätze verschwinden, glaube ich nicht, dass es zwischen Chinesen und Amerikanern und allen anderen Menschen irgendeinen Unterschied darin gibt, wie sie das betrachten werden.

Glauben Sie, dass es tatsächlich etwas Schlechtes brauchen wird, damit die Vereinigten Staaten das politische Kapital bekommen, um diese Änderungen vorzunehmen?

Wahrscheinlich ja. Wir bereiten uns auf Erdbeben vor, weil es kleine Erdbeben gibt. Ich dachte, nachdem wir die COVID-Pandemie hatten, würde das dazu führen, dass wir besser auf künftige Pandemien vorbereitet sind. Das hat nicht so funktioniert, wie ich erwartet hatte.

Aber normalerweise lenkt das unsere Aufmerksamkeit. In den nächsten Jahren werden Sie, sicherlich im Cyberbereich, weil es dort ein Geschäftsmodell gibt, viele Angriffe sehen, die in ihrem Ausmaß andersartig sind als alles, was wir in der Vergangenheit gesehen haben.

Es gibt eine Sache, auf die ich, noch einmal, zurückkommen möchte und mit der ich einfach enden will. Ich mache mir Sorgen um junge Menschen und Nihilismus. Ich spüre es in unserem Publikum ständig. Wir haben ein junges Publikum.

Es gibt einige Dinge an KI, die wirklich die coolsten Dinge sind, die ich je einen Computer machen sehen habe. Da ist etwas, das Spaß machen und interessant und faszinierend sein und Ihre gesamte Beziehung zu dem ganz Begriff, in einer digitalen Welt zu leben, verändern kann.

Dann gibt es natürlich schreckliche Dinge. Was ich häufiger sehe als alles andere, ist ein Misstrauen, nicht nur gegenüber Institutionen, sondern auch gegenüber den Unternehmen, gegenüber dem Kapitalismus selbst, gegenüber der Vorstellung, dass wir ändern sollten, wie wir Arbeit und Kapital besteuern – was, wie ich weiß, eine weitere Ihrer Ideen ist. Die Idee, dass wir, ich weiß nicht, sogar mehr Kinder haben sollten. Es ist alles vorbei. Sie werden uns alle umbringen, und wir sollten einfach einen Moment innehalten.

Es gibt jede Menge Nihilismus da draußen. Ich spüre ihn sehr deutlich. Wenn Sie heute ein junger Mensch wären und Bill Gates zuhören würden, dass es um etwa 20 Jahre der Umwälzungen geht und dass am Ende davon vielleicht Roboter Häuser bauen, woran würden Sie sich als Quelle der Hoffnung festhalten?

Throughout der Menschheitsgeschichte haben wir mit Nahrungsmittelknappheit, Krankheiten und Krieg zu tun gehabt. [Der Historiker] Yuval Noah Harari schreibt beredt über die Vergangenheit. Und es ist ironisch, dass wir jetzt, da wir diese Art Büchse der Pandora haben, die Nahrungsmittelknappheit beseitigen wird – was immer noch eine reale Sache ist, nicht in den USA, aber in Afrika –, Krankheiten beseitigen wird, wo menschliches Leid unglaublich ist, und all diese Dinge lösen wird, damit eine solche Wirkung auf Arbeitsplätze und unser Gefühl eines einzigartigen Beitrags einhergeht.

Ich denke: „Die Art, wie ich Ressourcen koordiniere, um Malaria auszurotten, ich bin mit meiner Lebenserfahrung ziemlich einzigartig, die es mir erlaubt, das zu tun.“ Aber wenn die KI zu mir sagt: „Nein, ich bin besser als du. Geh Pickleball spielen, und ich melde mich. Ich kümmere mich darum“, ist das humorvoll, aber es ist nicht humorvoll. Für jemanden, der heute jung ist und einen einzigartigen Beitrag leisten will, ist es sehr einschüchternd, dass die KI so mächtig ist.

Deshalb wird die Krise in der Mathematik-Community sich überall widerspiegeln. Wenn du heute in deinen Zwanzigern bist, kannst du während dieser 20-jährigen Periode die Dinge, die KI noch nicht kann, nutzen, du kannst KI verwenden und eine Menge guter Wirkung erzielen, und du kannst politische Maßnahmen vorschlagen. Möglicherweise müssen wir den Geschmack entwickeln, Technologie tatsächlich nicht bis zum Maximum zu nutzen.

Selbst im allerbesten Fall, wie wir KI managen, wird dies ein so turbulenter Zeitraum sein, wie es ihn in der Menschheitsgeschichte noch nie gegeben hat.

Als ich mit Claude über dem Menschen vorbehaltene Berufskategorien sprach und versuchte, das auf sagen wir 40 Prozent des Arbeitsmarktes anzuheben – sodass man Früherheiratung, verkürzte Arbeitswochen und Ähnliches nutzen könnte, um trotzdem so etwas wie heute zu erreichen –, war die Antwort immer: „Du schränkst die KI künstlich daran hindern, diese Dinge zu tun.“ Ohne das konnte ich keinen sehr hohen Prozentsatz erreichen.

Wir werden echte Entscheidungen haben. Wir hatten Gruppen – keine großen Gruppen, aber etwa die Amish –, die nicht an der technologischen Grenze leben. Ein großer Teil der Menschheit könnte sich entscheiden, nicht an der technologischen Grenze zu leben, wegen der Dinge, die wir daraus gewinnen, einander zu helfen oder einzigartige Ideen zu entwickeln.

Zur Vorstellung, dass junge Menschen besorgt sind wegen der bevorstehenden Umwälzung – dass selbst im allerbesten Fall, wie wir KI managen, dies ein so turbulenter Zeitraum sein wird, wie es ihn in der Menschheitsgeschichte noch nie gegeben hat –, ich hasse es, der Überbringer besorgniserregender Nachrichten dazu zu sein, aber es ist noch schlimmer, den Leuten nicht zu sagen, dass das kommt. Wir haben als Menschen Entscheidungen zu treffen, wie wir es gestalten.

Bill, ich danke dir, dass du den Alarm geschlagen hast, und ich danke dir, dass du bei Decoderwarst. Vielen Dank.

Danke.

_{Fragen oder Kommentare? Schreib uns an decoder@theverge.com. Wir lesen wirklich jede E-Mail!}

Decoder with Nilay Patel

Ein Podcast von The Verge über große Ideen und andere Probleme.