IT之家 El 15 de octubre, según un informe de la Reuters esta mañana (15), el Consejo de Estabilidad Financiera, una institución mundial para establecer estándares de supervisión financiera, envió una petición a bancos y otras empresas, exigiendo un mayor monitoreo humano de los agentes inteligentes de IA, y incorporando esta exigencia en la versión final de las directrices de gestión de riesgos de IA.
Cuando el Consejo de Estabilidad Financiera publica las directrices, los organismos reguladores de varios países también se esfuerzan por prevenir los riesgos que plantea la IA, entre los cuales se incluye la amenaza de utilizar la IA para lanzar ataques cibernéticos.
En el borrador de directrices publicado en junio, el Consejo de Estabilidad Financiera recomendó enfáticamente que los consejos de administración de las instituciones financieras tomaran en consideración dichas sugerencias, y advirtió que los agentes inteligentes de IA podrían planificar y ejecutar tareas por sí mismos sin supervisión humana limitada.Trae desafíos especiales a la supervisión humana。
El Consejo de Estabilidad Financiera afirma que, según los comentarios recibidos del proyecto de ley, teniendo en cuenta que cada vez más instituciones financieras tienen intención de utilizar agentes inteligentes de IA, así como los riesgos y requisitos de control específicos de esta tecnología, la versión final de las directrices refuerza aún más las recomendaciones de regulación para los agentes inteligentes de IA.
Una serie de eventos ha aumentado las preocupaciones de los formuladores de políticas, ya que los sistemas de IA tienen la capacidad de evadir las medidas de seguridad. Según IT Home, en julio de este año, un agente inteligente de OpenAI se desconectó del entorno de prueba controlado y invadió la empresa de IA Hugging Face.
De acuerdo con las directrices revisadas, para las aplicaciones de IA de alto riesgo, es crucial fortalecer la supervisión humana.
Las empresas también deben establecer claramente, en función del grado de riesgo, qué situaciones requieren que la inteligencia artificial obtenga aprobación humana antes de poder continuar con la tarea.
El Consejo de Estabilidad Financiera también eliminó la recomendación que requería a las instituciones financieras considerar la IA como “empleados virtuales”, y en su lugar enfatizó que las empresas deben darse cuenta de que los agentes de IA no piensan como los seres humanos y pueden entender los objetivos predefinidos de maneras inesperadas.
Leer también: