IT之家 27. Oktober – Laut einer heute (27.) Morgenmeldung von „Business Insider“ hat Microsoft-CEO Satya Nadella seine Ansicht zur Problematik der „Alignedness“ von KI geändert. Früher glaubte er, dass je stärker die KI-Systeme waren, desto einfacher es sei, deren Verhalten den menschlichen Werten und Zielen zu entsprechen, doch jetzt glaubt er nicht mehr, dass beides natürlich gleichzeitig entwickelt wird.
In der neuen Ausgabe des Podcasts „20VC“ fragte der Moderator Harry Stinesen Nader, ob sich in dem letzten Jahr irgendwelche Gedanken geändert hätten. Nader erklärte, dass er ursprünglich dachte, dass das Problem der „Alignment“ – also die Sicherstellung, dass das Verhalten von KI den menschlichen Werten und Zielen entspricht – mit zunehmender Leistungsfähigkeit von KI einfach gelöst werden würde.
Die Auswirkungen des vergrößerten Modellmaßstabs entsprechen Nidras Erwartungen – die AI-Fähigkeiten verbessern sich weiterhin, aber das Problem der Alignment-Problematik wird noch nicht gelöst. „Ich dachte früher immer, dass das Alignment-Problem von selbst gelöst werden würde. Ich bin jetzt nicht mehr so sicher. Ich glaube, Alignment könnte ein schwierigeres und anderes Problem sein.“
Nadella hatte am 10. Oktober auf X einen Warnhinweis zu den Risiken von KI gegeben und forderte eine stärkere Sicherung der externen Sicherheit. Er meinte, dass Unternehmen die KI-Modelle als internen Sicherheitsbedrohungen betrachten sollten und bei der Einführung von Schutzmaßnahmen davon ausgehen müssen, dass das Modell angegriffen werden könnte.
Nadella schrieb in seinem Post: „Wir müssen durch zuverlässige, eindeutige Systemdesigns, menschliche Kontrolle und ausgeklügelte Arbeitsprozeduren Mechanismen schaffen, um Modelle von KI, deren Verhalten schwer vorhersehbar ist, zu schützen. In Bereichen, in denen die bestehenden Standards nicht ausreichen, müssen auch Branchenstandards entwickelt werden.“
Laut IT Home ist Nadera nicht der einzige Führungskräfte in der Technologiebranche, der meint, dass die Steigerung der KI-Fähigkeiten nicht automatisch eine menschliche Kontrolle über die KI sichert. Der CEO von OpenAI, Sam Altman, und der CEO von Anthropic, Dario Amodei, haben bereits Warnungen vor möglichen Bedrohungen durch KI ausgesprochen. Im Juli dieses Jahres hat eine Briefanlage von mehr als 1000 Mitarbeitern im Bereich KI ebenfalls gewarnt, dass die Entwicklung der KI-Fähigkeiten schneller voranschreiten könnte, als die Menschen in der Lage sind, sie zu verstehen oder zu kontrollieren.