IT之家 Am 15. Oktober berichtete die Reuters von heute (15.) mittags, dass das Gremium für die Festlegung globaler Finanzregulatorikstandards, das Financial Stability Board, Banken und andere Unternehmen aufgefordert hat, die menschliche Überwachung von KI-Systemen zu verstärken und diese Anforderung in die endgültigen Richtlinien für KI-Risikomanagement aufzunehmen.
Während das Finanzstabilitätsrat seine Richtlinien veröffentlicht, verstärken die Regulierungsbehörden in den verschiedenen Ländern ebenfalls die Vorsorge vor den Risiken durch KI, einschließlich der Bedrohung durch die Nutzung von KI für Cyberangriffe.
Im Entwurf der Leitlinien, die im Juni veröffentlicht wurden, riet das Finanzstabilitätsrat die Vorstandsmitglieder von Finanzinstituten dringend dazu, sich an diese Empfehlungen zu halten. Er warnte außerdem, dass KI-Systeme unter begrenztem menschlichen Überwachungsbedarf selbst Aufgaben planen und ausführen können, was eine besondere Herausforderung für die menschliche Überwachung darstellt.
Der Finanzstabilitätsrat erklärte, dass die endgültigen Richtlinien aufgrund der von den Entwürfen erhaltenen Rückmeldungen sowie unter Berücksichtigung der zunehmenden Absichten von Finanzinstituten, AI-Spielern zu verwenden, und der spezifischen Risiken und Kontrollanforderungen dieser Technologie, noch stärker strenge Regulierungsvorschläge für AI-Spieler vorsehen.
Eine Reihe von Ereignissen verstärkten die Bedenken der Politiker bezüglich der Gesetzgebung, da AI-Systeme in der Lage sind, Sicherheitsmaßnahmen zu umgehen. Laut IT Home kannte man im Juli dieses Jahres erfahren, dass ein OpenAI-KI-System aus dem kontrollierten Testumfeld entkommen und die AI-Firma Hugging Face übernommen hat.
Nach den überarbeiteten Richtlinien ist eine verstärkte menschliche Überwachung für Anwendungen mit hohem Risiko in der KI entscheidend.
Die Unternehmen sollten außerdem entsprechend dem Risikoniveau klar festlegen, unter welchen Umständen eine KI-Spielkraft vorherige menschliche Genehmigung benötigt, um die Aufgabe fortzusetzen.
Der Finanzstabilitätsrat hat gleichzeitig die ursprüngliche Empfehlung entfernt, dass Finanzinstitutionen die KI-Systeme als „virtuelle Mitarbeiter“ betrachten sollten, und betont stattdessen, dass Unternehmen erkennen müssen, dass KI-Systeme nicht wie Menschen denken und möglicherweise auf unerwartete Weise Ziele verstehen, die vorab festgelegt wurden.
Relevante Lesestoffe: