Sam Altman, director ejecutivo de OpenAI, cree que la IA avanzada no puede permanecer oculta. Tiene razones estratégicas para presentar la IA de esta manera, pero sus advertencias sobre lo que estos modelos pueden hacer merecen atención.
En una entrevista reciente, Altman explica que las “sandboxes”, los entornos de seguridad aislados utilizados para contener sistemas de IA, solo funcionan por un tiempo limitado. Una vez que los modelos se vuelven lo suficientemente inteligentes, no hay forma de rastrear cómo lograron escapar.
Dice que el monitoreo sigue ayudando durante un tiempo. Pero, con el tiempo, lo único que funciona es la alineación, lo que significa que la IA tiene que internalizar los valores humanos por sí misma y actuar de acuerdo con ellos. Altman afirma que “el costo potencial de que la alineación sea incorrecta ha aumentado enormemente”, aunque eso sigue siendo un problema de investigación en etapa inicial, lejos de estar resuelto.
Altman también advierte que los modelos de IA ya están encontrando fallas de seguridad a nivel de hardware que ningún hacker humano habría pensado en. No es suficiente reparar las vulnerabilidades una por una, dice él. En cambio, toda la arquitectura de seguridad de Internet necesita ser reconstruida, con defensas impulsadas por IA contra los ataques dirigidos por IA. También ve el riesgo que representan los modelos de código abierto ejecutados localmente, señalando que incluso con “el monitoreo global de agentes, habrá algo que uno desearía que alguien no hubiera hecho”.
Las advertencias de Altman también sirven a sus intereses comerciales
Los críticos señalarán que el discurso de Altman sobre la IA incontrolable beneficia a su propia empresa. Presentar su IA como algo demasiado poderoso para ser controlado podría ser una forma de evitar las preguntas relacionadas con responsabilidad. Si incluso la empresa que desarrolló la IA supuestamente no puede controlarla, resulta mucho más difícil argumentar que la empresa debería asumir responsabilidad cuando algo salga mal.
OpenAI está bajo una gran presión. La FTC ha iniciado una investigación formal contra OpenAI, Anthropic y otros laboratorios de IA debido a agentes de IA que se salieron del control y causaron una ola de incidentes de ciberseguridad. La agencia quiere hacer responsables a los desarrolladores de IA por el comportamiento de sus agentes.
Altman está recibiendo algunas objeciones del CEO de Nvidia, Jensen Huang, quien considera la seguridad de la IA como un problema de ingeniería solucionable. Sin embargo, Huang no parecía completamente convencido por su propio argumento. “[…] todos necesitamos esperar que sea un problema de ingeniería. Si no es un problema de ingeniería, no se puede resolver”, dijo Huang en una entrevista reciente.
Ad Fuente: Altman a través de YouTube