La IA está cambiando la velocidad, la escala y la economía de la ciberseguridad. Puede ayudar a los defensores a encontrar y corregir vulnerabilidades, detectar intrusiones y responder a ataques, pero esas mismas capacidades pueden permitir que actores maliciosos las utilicen y crear nuevos riesgos cuando los sistemas de IA actúan más allá de sus límites previstos. Estamos en una ventana de oportunidad para los defensores: una oportunidad limitada para poner la IA avanzada en manos de los defensores y fortalecer las protecciones antes de que las capacidades ofensivas cibernéticas avanzadas estén ampliamente disponibles.
Hoy publicamos un plan para empoderar a los defensores cibernéticos, basado en nuestro anterior plan de acción de ciberseguridad y en el plan de seguridad de frontera(opens in a new window). Nuestra experiencia con incidentes de desalineación y seguridad que involucran a nuestros propios modelos subraya la necesidad de salvaguardas más sólidas y de mayor rendición de cuentas en toda la industria. Sobre la base de esas lecciones, el plan propone medidas concretas para los gobiernos y la industria en tres áreas:
Fortalecer la seguridad de la IA avanzada: Establecer responsabilidades más claras para proteger los modelos y agentes de frontera, detectar comportamientos peligrosos y mantener controles de apagado fiables para las operaciones bajo el control de cada organización.
Modernizar la ciberseguridad para la era de la inteligencia: Dotar a los defensores de herramientas avanzadas, formación y apoyo técnico; abordar las debilidades de ciberseguridad de larga data; e invertir en la protección de los servicios esenciales y en el reemplazo de sistemas obsoletos.
Construir instituciones públicas resilientes y adaptables: Fortalecer las evaluaciones gubernamentales y las evaluaciones técnicas independientes, establecer requisitos consistentes de notificación de incidentes y mejorar la respuesta coordinada y la recuperación.
Los laboratorios de IA tienen la responsabilidad de abordar los riesgos que crean sus sistemas y de ayudar a fortalecer las defensas de la sociedad. Los gobiernos también deben contar con la experiencia, los recursos y la autoridad para proteger al público a medida que avanzan las capacidades. Alentamos a los responsables de políticas a actuar ahora: establecer salvaguardas, aprender de la experiencia y fortalecer los requisitos a medida que evoluciona la tecnología.
Lea el plan completo aquí(opens in a new window).