IT之家 El 27 de octubre, según un informe de hoy (27) de Business Insider, Satya Nadella, CEO de Microsoft, ha cambiado su punto de vista sobre el problema de la “alineación” de la IA. Anteriormente creía que cuanto más poderosos eran los sistemas de IA, más fácil era que su comportamiento se ajustara a los valores y objetivos humanos, pero ahora ya no cree que ambos se desarrollarán de manera natural al mismo tiempo.
En la nueva edición del podcast 20VC, el presentador Harry Stinbs preguntó a Nadella qué ideas habían cambiado durante el último año. Nadella explicó que originalmente pensaba que, a medida que las capacidades de la IA mejoraban, la cuestión de asegurar que el comportamiento de la IA se ajustara a los valores y objetivos humanos también se resolvería fácilmente.
Los efectos derivados del aumento de la escala del modelo se ajustan a las expectativas de Nadella; la capacidad de IA sigue mejorando, pero el problema de alineación aún no se ha resuelto. “Antes siempre pensaba que el problema de alineación se resolvería por sí solo. Ahora ya no lo creo. Creo que la alineación podría ser un problema más complicado y de naturaleza diferente”.
Nadra publicó un mensaje en X el 10 de octubre advirtiendo sobre los riesgos de la IA, y abogó por fortalecer la gestión de seguridad externa. Consideró que las empresas deben ver los modelos de IA como amenazas de seguridad interna, y al tomar medidas de protección, deben asumir que el modelo puede ser atacado.
Nadella escribió en su publicación: “Necesitamos establecer mecanismos de protección para los modelos de IA cuyo comportamiento es difícil de predecir completamente, a través de un sistema de diseño confiable, determinista, control manual y procedimientos operativos adecuados. En aquellas áreas donde las normas existentes son insuficientes, también es necesario establecer estándares industriales”.
Según lo que IT Home sabe, Nadera no es el único ejecutivo de la industria tecnológica que cree que el mejoramiento de las capacidades de la IA no puede asegurar automáticamente el control humano sobre ella. El CEO de OpenAI, Sam Altman, y el CEO de Anthropic, Dario Amodei, también han advertido sobre las posibles amenazas de la IA. En julio de este año, más de 1000 profesionales de la IA también advirtieron en una carta firmada por ellos que la velocidad de desarrollo de las capacidades de la IA podría superar la capacidad humana de comprender o controlarla.