Die Einschätzung von Microsoft-CEO Satya Nadella zum Problem der KI-„Alignment“ hat sich öffentlich gedreht. Laut einem Bericht von Business Insider vom 27. Oktober wurde Nadella in einer neuen Folge des Podcasts „20VC“ vom Moderator Harry Stebbings gefragt, welche Überzeugung sich in den vergangenen zwölf Monaten geändert habe. Nadella gestand: Er habe früher immer gedacht, dass sich das Anpassen des KI-Verhaltens an menschliche Werte und Ziele mit zunehmender Leistungsfähigkeit der KI wie selbstverständlich ergeben würde.
Von „löst sich von selbst“ zu „noch kniffliger“
Doch die Realität hielt sich nicht ans Drehbuch. Nadella räumte ein, dass die Modelle zwar stetig gewachsen sind und ihre Fähigkeiten sich kontinuierlich verbessert haben – das entsprach tatsächlich seinen Erwartungen. Doch das „Alignment“ – also das Befolgen von Regeln durch KI – wurde bislang nicht miterledigt. Er sagte: „Ich dachte immer, das Alignment-Problem würde sich von selbst lösen. Das glaube ich nicht mehr. Alignment könnte ein kniffligeres und auch ein Problem anderer Art sein.“
Alignment geht es darum, ob das Verhalten von KI den Menschen gehorcht und menschlichen Zielen entspricht. Wenn Modelle so groß werden, dass selbst ihre Entwickler ihr Verhalten kaum noch vollständig vorhersehen können, entkoppelt sich das Wachstum der Fähigkeiten vom Wachstum der Kontrollierbarkeit – eine neue Realität, der sich Nadella stellen muss.
KI wie einen „inneren Feind“ abwehren
Diese Wachsamkeit kündigte sich schon früher an. Bereits am 10. Oktober warnte Nadella auf der Plattform X in einem Beitrag vor KI-Risiken und plädierte dafür, die externen Sicherheitskontrollen zu verschärfen. Sein zentraler Rat klingt unangenehm: Unternehmen sollten KI-Modelle als „interne Sicherheitsbedrohung“ betrachten und bei Schutzmaßnahmen davon ausgehen, dass das Modell bereits kompromittiert ist.
In seinem Beitrag schrieb er, für jene Modelle, deren Verhalten sich nicht vollständig vorhersagen lässt, müsse man drei Verteidigungslinien errichten: „zuverlässige, deterministische Systemarchitekturen, menschliche Kontrollen und solide Betriebsabläufe“; wo Standards noch nicht ausreichen, müsse man umgehend Branchenregeln aufstellen.
Nadella ist damit kein Einzelfall. OpenAIs Altman und Anthropics Amodei haben beide vor potenziellen KI-Bedrohungen gewarnt; im Juli dieses Jahres unterzeichneten über 1000 Fachleute einen offenen Brief, in dem sie davor warnen, dass das rasante Tempo der KI-Fähigkeiten die menschliche Fähigkeit, sie zu verstehen oder zu kontrollieren, möglicherweise bereits hinter sich gelassen hat. Wenn die Top-Entscheider kollektiv ihr Vertrauen in „stark heißt sicher“ herunterschrauben, dürfte KI-Governance von Schlagworten zu härterer Technik und institutionellen Regelungen übergehen müssen.