El juicio de Satya Nadella, CEO de Microsoft, sobre el problema del "alineamiento" de la IA ha experimentado un giro público. Según informó Business Insider el 27 de octubre, en una nueva edición del podcast 20VC, el presentador Harry Stebbings le preguntó qué ideas habían cambiado en el último año, y Nadella admitió: antes siempre creía que, cuanto más poderosa fuera la IA, hacer que su comportamiento se ajustara a los valores y objetivos humanos también se resolvería de manera natural.
De "se resolverá por sí solo" a "más espinoso"
Pero la realidad no siguió el guion. Nadella reconoció que la escala de los modelos creció sin parar y sus capacidades siguieron aumentando; eso sí ocurrió como él preveía; sin embargo, el "alineamiento" —es decir, hacer que la IA se comporte según las reglas— sigue sin resolverse. Dijo: "Yo siempre creía que el problema del alineamiento se resolvería de forma natural. Ya no lo creo. El alineamiento podría ser un problema más espinoso y de naturaleza distinta".
El llamado alineamiento se refiere a si el comportamiento de la IA obedece realmente a las personas y si coincide con los objetivos humanos. Cuando los modelos crecen tanto que ni siquiera sus diseñadores pueden predecir completamente sus acciones, y el crecimiento de las capacidades se desacopla del crecimiento de la controlabilidad, se convierte en la nueva realidad que Nadella se ve obligado a afrontar de frente.
Tratar la IA como un "infiltrado" que hay que contener
Esta cautela ya venía gestándose. El 10 de octubre, Nadella publicó en la plataforma X una advertencia sobre los riesgos de la IA, defendiendo endurecer los controles de seguridad externos. Su recomendación central es duro de oír: las empresas deberían tratar los modelos de IA como "amenazas internas de seguridad" y, al construir defensas, asumir primero que el modelo ya ha sido comprometido.
Escribió en su publicación que hay que dotar a esos modelos de comportamiento difícil de predecir de tres líneas de defensa: "diseños de sistemas fiables y deterministas, controles humanos y procedimientos operativos completos"; donde los estándares aún no basten, hay que establecer con urgencia normas del sector.
Nadella no es un caso aislado. Sam Altman, de OpenAI, y Dario Amodei, de Anthropic, ya han hecho sonar la alarma sobre las amenazas potenciales de la IA; en julio de este año, más de 1000 profesionales firmaron una carta abierta advirtiendo que la velocidad a la que corren las capacidades de la IA podría ya haber dejado atrás la capacidad humana de comprenderla o controlarla. Cuando los principales operadores rebajan colectivamente su confianza en la idea de "más fuerte es más seguro", la gobernanza de la IA probablemente tendrá que pasar de los eslóganes a una ingeniería y unas instituciones más sólidas.