In einem langer Artikel auf X darlegte Microsofts CEO seine Ansichten über die Gefahren hochentwickelter KI-Modelle und wie man diesen Risiken begegnet. Nadella sagt, dass wir nicht mehr akzeptieren können, dass KI als „ein Set von eingebetteten schwarzen Boxen“ behandelt wird, deren Ratschläge und Handlungen wir einfach akzeptieren oder ablehnen. Er fordert ein transparenteres System, in dem die Modelle kontrollierbar sind, beobachtet werden können und „unverändert lesbare menschliche Beweise“ hinterlassen werden.
Viele seiner Empfehlungen stimmen mit dem überein, was wir von anderen in der Branche gehört haben: zeitnahe Meldung von Vorfällen, unabhängige Audits, verifizierbare Daten und Kontrolle. Es ist auf diesem letzten Punkt, dass er etwas weiter geht als einige andere in der Branche, indem er sagt:
Wir müssen davon ausgehen, dass ein Modell kompromittiert ist, und es von Anfang an unter Kontrolle bringen. Stellen Sie sich das wie einen Notbremshebel vor. Eine autorisierte Person sollte immer in der Lage sein, ein Modell während einer Aufgabe zu pausieren oder abzuschalten. Fortgeschrittenere Modelle erfordern fortschrittlichere Containment-Technologien, die wir standardisieren müssen.
Leider bezeichnet Nadella im gesamten Artikel die KI auch als „übermäßige Intelligenz“.
Folgen Sie den Themen und Autoren Von dieser Geschichte können Sie weitere ähnliche Inhalte auf Ihrem persönlichen Homepage-Feed sehen und E-Mail-Updates erhalten.