Ein ehemaliger Forscher von Deepmind glaubt, dass das Spielkonzept von AlphaGo die AI-Halluzinationen heilen kann

Wichtige Punkte

• Der ehemalige Deepmind-Forscher Thore Graepel gründete Metis Reasoning, um KI-Systeme zuverlässiger und nachweisbarer zu machen – unter Verwendung des Ansatzes von AlphaGo als Leitfaden.
• Die Methode trennt das Wissen von den Modellgewichten und speichert es in einem externen Buchhaltungssystem, wo ein unabhängiger Modul jede Annahme gegen Beweise überprüft.
• Der Ansatz zielt darauf ab, Halluzinationen zu reduzieren und ausgewiesene Erklärungen anzubieten, doch bisher existiert er nur als theoretisches Rahmenwerk ohne funktionierendes System.

Der ehemalige Deepmind-Forscher Thore Graepel möchte AI-Systeme entwickeln, die verfolgen, was sie wissen, und jede Schlussfolgerung an Beweise messen. Die größeren Sprachmodelle werden dieses Problem nicht lösen, sagt sein Team.

Thore Graepel glaubt, dass dieselbe Idee, die dazu führte, dass AlphaGo im Jahr 2016 den professionellen Go-Spieler Lee Sedol besiegte, auch dazu beitragen kann, dass AI-Systeme zuverlässiger werden – einschließlich Roboter. Der ehemalige Deepmind-Forscher gründete Metis Reasoning und präsentierte diesen Ansatz auf der GTC-Konferenz von Nvidia in Berlin. Dabei vergrößert das Chipsunternehmen seine Plattform für Robotik und physikalische AI mit dem Ziel, das Problem der Robotik in ein Rechenproblem zu verwandeln.

Ein Wissensbuch mit dem Stichtag anstatt Wissen, das in die Gewichte des Modells eingebettet ist

Heutige Sprachmodelle entsprechen lediglich dem Vorhersagenetzwerk von AlphaGo, das mögliche Züge vorschlug, wie Metis berichtet. AlphaGo kombiniert dieses Netzwerk mit einer systematischen Suche durch Spielabläufe und fand den berühmten Zug 37 – einen Zug, den das Netzwerk einem menschlichen Spieler etwa eine Chance von eins zu zehntausend gegeben hätte. Metis möchte diese Art der Suche in das allgemeine Denken integrieren.

Dies erfordert das, was das Unternehmen in seinem Artikel als „explicit knowledge ledger“ bezeichnet – ähnlich wie ein Spielbrett. Ähnliche Ideen existieren bereits: Microsofts GraphRAG ordnet Wissen außerhalb der Modellgewichte in einen Wissensgraph ein, und Googles AlphaGeometry2 kombiniert ein Sprachmodell mit einem symbolischen Engine, der mathematische Beweise überprüft. Metis möchte diese Prinzipien auf offene Fragen in der realen Welt ausdehnen.

Sein Wissensregister führt auf, was bekannt ist, wie zuversichtlich das System ist und welche Fragen noch offen bleiben. Ein separater Modul überprüft neue Einträge gegen Berechnungen, formale Beweise oder empirische Belege, und wenn eine Annahme nicht mehr haltbar ist, wird jede Schlussfolgerung, die davon abhängt, erneut bewertet. Eine „Bewegung“ kann eine Frage, ein Experiment oder eine Herausforderung an eine bestehende Annahme sein; das System wählt diejenige aus, die die Unsicherheit bezüglich der ursprünglichen Frage am meisten reduziert, und liefert letztendlich entweder eine Antwort oder eine berechtigte Ablehnung.

Wie bei AlphaGo legen zwei neuronale Netzwerke Vorschläge und Bewertungen für Züge vor, die auf vorherigen Untersuchungen trainiert wurden, aber nicht in der Lage sind, die Überprüfungsregeln zu überschreiben. Metis sagt, dass die Einrichtung dazu führen sollte, weniger Halluzinationen, Erklärungen mit Quellenangaben sowie Wissen zu erzeugen, das geändert oder gelöscht werden kann, ohne neu trainiert zu werden. Da das Denken in kleine Schritte unterteilt wird, könnte dieser Ansatz auch kleinere Modelle fördern, die auf Edge-Geräten und in Robotern laufen.

Unternehmen vertrauen dennoch nicht genug auf die Sprachmodelle, um sie einzusetzen

Mehr Daten und mehr Rechenleistung verbessern die Sprachmodelle, aber sie lösen die grundlegenden Probleme der Technologie nicht, so Metis: Die Modelle erzeugen Antworten, ihre Rechenschleifen können nicht überprüft werden, und ihr Wissen ist in den Gewichten verborgen. Halluzinationen stammen aus dem Trainingsprozess selbst, argumentiert das Paper, weil die Modelle lernen, plausible Texte zu erzeugen, anstatt wahre Texte, und sogar die Denkschleifen in den heutigen Rechensystemen oft nicht zeigen, wie eine Antwort tatsächlich entstanden ist.

Das, so heißt es im Artikel, ist der Grund, warum Künstliche Intelligenz bisher so wenig wirtschaftlichen Einfluss hatte. Wenn ein Agent im Namen eines Unternehmens handelt, sind Fehler schwer nachzuvollziehen und falsche Kenntnisse können nicht aus dem Modell entfernt werden. Künstliche Intelligenz boomte in der Softwareentwicklung, weil Code leicht getestet und rückgängig gemacht werden kann, aber in Medizin, Finanzen, Chipsatzdesign und Robotik muss, so der Artikel, Künstliche Intelligenz von Grund auf verifizierbar sein.

Das Weißbuch beschreibt nur ein Forschungsprogramm, ohne einen funktionierenden System, keine Benchmarks und keine Vergleiche mit aktuellen Rechenmodellen. Das Team erkennt an, dass die reale Welt, im Gegensatz zu Go, nur teilweise Informationen liefert, dass Beweise schwer zu erhalten sind und dass einige Fragen einfach keine Antwort haben. Die größte offene Frage ist, wie ein verifizierter Wissensbuchchronik in komplexen Bereichen auftreten könnte, die über die Beispiele in Lehrbüchern hinausgehen – schließlich haben symbolische KI-Systeme einmal versagt, weil alle ihre Kenntnisse manuell eingegeben werden mussten.

Nach Silver und Rocktäschel tritt ein weiterer Veteran von Deepmind alleine an die Reihe

Laut seiner Website erhielt Graepel 2001 seinen Doktortitel im maschinellen Lernen in Berlin. Bei Microsoft Research half er bei der Entwicklung von TrueSkill, dem System zur Partnervermittlung hinter Xbox Live. Danach wechselte er zu Deepmind, wo er an AlphaGo, AlphaZero und MuZero arbeitete. Nach einer Zeit bei Altos Labs war er kürzlich Mitglied des Teams von Google Deepmind für post-AGI-Projekte, von dem er im Sommer wegging. Er ist außerdem Professor für maschinelles Lernen an University College London. Laut Bloomberg sammelt Graepel Gelder für Metis in Höhe von einigen zehn Millionen, mit einer weiteren Finanzierung von mehreren hundert Millionen Dollar bei einer höheren Bewertung bereits in Planung.

Er ist der jüngste Architekt der bekanntesten Durchbrüche von Deepmind, um etwas zu schaffen, das außerhalb von Google liegt. Der ehemalige Kollege David Silver gründete Ineffable Intelligence und abschloss die größte Seed-Runde eines europäischen Startups. Tim Rocktäschel gründete Recursive, das heute einen Wert von 4,65 Milliarden US-Dollar hat. Andere gehen direkt zu Konkurrenten über. Laut dem Financial Times hat Deepmind die Team hinter AlphaFold aufgelöst, und der Nobelpreisträger John Jumper verließ mit zwei Kollegen Anthropic. CNBC verfolgt den Talentabzug teilweise auf begrenzten internen Zugang zu Google’s TPU-Chips und Bürokratie, während Deepmind selbst ihre Unabhängigkeit verliert und der Gründer Demis Hassabis sich von den täglichen Operationen zurückgezogen hat.