IT之家 Le 15 octobre, selon un rapport de l’agence de presse Reuters ce jour (15), le Conseil de stabilisation financière, organisme chargé de définir les normes de régulation financière mondiale, a adressé un appel aux banques et à d’autres entreprises, exigeant un renforcement de la supervision humaine sur les entités intelligentes AI, et intégrant cette exigence dans la version finale des directives de gestion des risques liés aux AI.
Alors que le Conseil de stabilité financière publie ses directives, les autorités réglementaires de divers pays intensifient également leurs efforts pour prévenir les risques liés à l’IA, y compris la menace de utiliser l’IA pour commettre des attaques en ligne.
Dans le projet de directive publié en juin, le Conseil de stabilité financière a fortement recommandé aux conseils d’administration des institutions financières de se référer à ces suggestions, et a averti que les entités intelligentes AI peuvent planifier et exécuter des tâches elles-mêmes dans des conditions de supervision humaine limitée, posant ainsi des défis particuliers pour la supervision humaine.
Le Conseil de stabilité financière indique que, compte tenu des retours reçus sur le projet de document, et étant donné l’augmentation du nombre d’institutions financières désireuses d’utiliser des entités intelligentes IA, ainsi que les risques et exigences de contrôle propres à cette technologie, les directives finales renforcent davantage les recommandations de régulation concernant les entités intelligentes IA.
Une série d’événements a renforcé les inquiétudes des responsables politiques, car les systèmes IA ont la capacité de contourner les mesures de sécurité. Selon IT Home, en juillet de cette année, un agent intelligent OpenAI s’est échappé de l’environnement de test contrôlé et a infiltré l’entreprise AI Hugging Face.
Conformément aux directives révisées, pour les applications d’IA à haut risque, il est essentiel de renforcer la surveillance humaine.
L’entreprise devrait également spécifier clairement, en fonction du niveau de risque, dans quelles situations l’agent intelligent de l’IA doit impérativement obtenir l’approbation humaine avant de pouvoir continuer à exécuter la tâche.
Le Conseil de stabilité financière a également supprimé la recommandation précédente demandant aux institutions financières de considérer l’IA comme des « employés virtuels », en insistant plutôt sur le fait que les entreprises doivent comprendre que les entités IA ne pensent pas comme les humains et peuvent comprendre les objectifs prédéfinis de manière inattendue.
Lire également :