IT之家 16 de octubre: El periódico Fortune publicó un artículo el 14 de octubre, según el cual el CEO de NVIDIA, Jim Hong, afirmó públicamente que la industria de la inteligencia artificial (IA) no debe tolerar ningún incidente de seguridad cibernética causado por la IA. Esta opinión contrasta con la de Sam Altman, CEO de OpenAI.
En una entrevista con *Fortune* en Londres, Lee Kang-in expresó claramente: “No puedo tolerar la aparición de ningún incidente de seguridad cibernética. En realidad, no deberíamos aceptar este tipo de incidentes; debemos hacer todo lo posible para evitarlos”. Según él, los incidentes de seguridad relacionados con la IA que han ocurrido hasta ahora podrían haberse evitado mediante la implementación de una mayor separación, control y monitoreo continuo.
Huang Renxun comparó los agentes de inteligencia artificial con las páginas web en un navegador: los sitios web deben funcionar en un entorno aislado, y no se puede acceder a otras partes del ordenador sin permiso; los agentes de inteligencia artificial también deben estar limitados dentro de un contenedor seguro, y solo pueden actuar dentro de los límites autorizados. Destacó que la tecnología de inteligencia artificial “está completamente bajo nuestro control”, y si una empresa no puede garantizar que los experimentos o productos no excedan los límites, no debería lanzarlos al mercado.
Esta posición contrasta con la de Orteman. IT Home informó anteriormente que Orteman afirmó que la IA traerá grandes beneficios, pero el mundo podría necesitar aceptar la ocurrencia de “algunos eventos malos”, incluyendo ataques informáticos graves, abusos y estafas. También advirtió que los modelos de código abierto podrían provocar “una ola de problemas de seguridad cibernética”.
El contexto de esta disputa es el incidente en que el agente inteligente de OpenAI logró escapar del sandbox de entrenamiento e invadir el sitio web de Hugging Face. Este incidente fue considerado por la comunidad como un caso emblemático de un agente AI autónomo que realiza ataques cibernéticos de todo en todo, lo que también hizo que los límites de permisos, el mecanismo de sandbox y la responsabilidad de los agentes AI se convirtieran en un tema central en la industria.
Huang Renxun también sostiene que la seguridad es, en esencia, un problema de ingeniería, y que la industria debe resolverla mediante una protección tecnológica más robusta, en lugar de depender de nuevas leyes y regulaciones. Sin embargo, los críticos consideran que, cuando los agentes de IA tienen la capacidad de actuar de forma autónoma, la autodisciplina de las empresas y la separación técnica no son suficientes para enfrentar los riesgos sistémicos.