La IA está cambiando la velocidad, la escala y la economía de la ciberseguridad. Puede ayudar a los defensores a encontrar y corregir vulnerabilidades, detectar intrusiones y responder a ataques, pero esas mismas capacidades pueden habilitar a actores maliciosos y crear nuevos riesgos cuando los sistemas de IA actúan más allá de sus límites previstos. Estamos en una ventana para los defensores: una oportunidad limitada para poner la IA avanzada en manos de los defensores y reforzar las protecciones antes de que las capacidades ofensivas cibernéticas avanzadas estén ampliamente disponibles.
Hoy publicamos un plan para potenciar a los defensores cibernéticos, basado en nuestro anterior plan de acción de ciberseguridad y en frontier safety blueprint(opens in a new window). Nuestra experiencia con incidentes de desalineación y seguridad relacionados con nuestros propios modelos subraya la necesidad de salvaguardas más sólidas y de mayor rendición de cuentas en toda la industria. Basándose en esas lecciones, el plan propone medidas concretas para los gobiernos y la industria en tres áreas:
Fortalecer la seguridad y la protección de la IA avanzada: Establecer responsabilidades más claras para proteger los modelos y agentes de frontera, detectar comportamientos peligrosos y mantener controles de apagado fiables para las operaciones bajo el control de cada organización.
Modernizar la ciberseguridad para la era de la inteligencia: Dotar a los defensores de herramientas avanzadas, formación y soporte técnico; abordar las debilidades de ciberseguridad de larga data; e invertir en la protección de los servicios esenciales y en el reemplazo de sistemas obsoletos.
Construir instituciones públicas resilientes y adaptables: Fortalecer las evaluaciones gubernamentales y las evaluaciones técnicas independientes, establecer requisitos coherentes de notificación de incidentes y mejorar la respuesta coordinada y la recuperación.
Los laboratorios de IA tienen la responsabilidad de abordar los riesgos que crean sus sistemas y ayudar a fortalecer las defensas de la sociedad. Los gobiernos también deben contar con la experiencia, los recursos y la autoridad para proteger al público a medida que avanzan las capacidades. Instamos a los responsables políticos a actuar ahora: establecer salvaguardas, aprender de la experiencia y reforzar los requisitos a medida que evoluciona la tecnología.
Lea el plan completo aquí(opens in a new window).