Microsoft-CEO Satya Nadella veröffentlichte am 10. Oktober auf sozialen Plattformen einen langen Artikel, in dem er öffentlich fordert, dass die Branche ein „Notbremsmechanismus“ für fortschrittliche KI-Modelle einführen und die bestehende KI-Vertrauensarchitektur gründlich überprüfen muss.
Gegen die derzeit schnell entwickelten Superintelligenztechnologien betonte Nadeer, dass die Branche nicht mehr blinde, komplexe Blackbox-Modelle als allwissend und allmächtig ansehen darf, sondern von der defensiven Annahme ausgehend, dass das Modell bereits durchbrochen wurde, eine vorsichtige Sicherheitspolitik verfolgen sollte.
Im Rahmen des spezifischen Technologieansatzes befürwortet Nadera die Trennung des untersten AI-Modells von dem Steuerungsrahmen, der seine Arbeitsaufgaben koordiniert, um die Externalisierung von Kontrollmaßnahmen und Sicherheitsmaßnahmen zu erreichen. Er betont, dass jede bedeutende Modelloperation mit verifizierbaren, für Menschen lesbaren Ausführungsbeweisen verbunden sein muss, und dass die Berechtigten das ultimative Recht haben müssen, das Modell jederzeit zu pausieren oder zu deaktivieren, während die Aufgabe ausgeführt wird. Diese Behauptung steht im Einklang mit dem vorsichtigen Entwicklungsplan, den Anfangsmanager von Anthropic, Dario Amodei, vorgeschlagen hat, und zeigt die hohe Wachsamkeit der heutigen führenden Technologieführer gegenüber dem Risiko eines Ausfalls von AI-Modellen.
Analysen in der Branche besagen, dass mit dem ständigen Fortschritt in der Autonomie des Modells und der Agentenfähigkeit die Schaffung von Industriestandards, die transparent, kontrollierbar und außergewöhnlich mit externer Einflussnahme ausgestattet sind, zu einer dringenden Aufgabe geworden ist, um technologische Innovationen und Sicherheitsgrundsätze in Balance zu bringen.