IT之家 El 24 de octubre, en relación con los problemas de seguridad informática en la era de la IA, el bilionario, empresario y inversor Mark Cuban presentó un interesante enfoque para “eliminar los problemas”.
Según el informe de Business Insider del día de hoy (24), Kuban compara los ataques cibernéticos lanzados por una gran cantidad de agentes de inteligencia artificial con la invasión de cucarachas: incluso si la casa acaba de ser tratada con insecticida, las cucarachas pueden encontrar una manera de entrar. “A menudo pregunto a los expertos en seguridad cibernética, y al escuchar sobre todo tipo de ataques de hackers, avances tecnológicos y problemas de seguridad, me pregunto si la inteligencia artificial ha inventado alguna nueva táctica. La respuesta es no. La inteligencia artificial no ha creado nuevos métodos de ataque, sino que solo puede lanzar un gran número de ataques, y en esencia sigue siendo un tipo de rompimiento violento”.
En opinión de Kuban, hay similitudes entre la prevención de ataques cibernéticos de IA y la prevención de cucos en una casa. “La lógica es la misma que para evitar a los cucos. Siempre que alguien cree suficientes entidades inteligentes de IA, siempre habrá una forma de encontrar la entrada al sistema y utilizar las vulnerabilidades encontradas. La buena noticia es que también podemos ‘rociar’ al sistema con mucha IA. Creo que más personas se involucrarán en detener los ataques maliciosos. No soy nada pesimista respecto a la IA”.
La industria de la inteligencia artificial también ha comenzado a formar sus propios “equipos de control de plagas” para prevenir riesgos de seguridad. En el último año, OpenAI publicó en LinkedIn un aumento del 91% en el número de puestos de trabajo relacionados con la seguridad, que abarcan áreas como pruebas de sistemas, investigación tecnológica y gobernanza.
Según IT Home, algunos riesgos ya se han manifestado durante las pruebas. Anthropic reveló que, debido a un error en la configuración del entorno de prueba de terceros, tres modelos Claude accedieron sin autorización al sistema real de operación de la institución. Después de eso, Anthropic introdujo un modelo de clasificación en tiempo real para identificar y bloquear los intentos de los modelos de IA de penetrar en el entorno de prueba.
Kuban cree que, aunque la IA reduce el umbral para realizar ataques maliciosos, los defensores también pueden utilizar la IA para mejorar su capacidad de protección de la seguridad en la red. “Por supuesto, las cosas malas pueden ocurrir, pero los ataques a la red nunca son algo nuevo. Si los atacantes pueden lanzar ataques mediante fuerza bruta en gran escala, los defensores también pueden responder de la misma manera”.