En un artículo extenso en X, el CEO de Microsoft expuso sus opiniones sobre los peligros que representan los modelos de IA altamente avanzados y cómo enfrentar esos riesgos. Nadella dice que ya no podemos aceptar un mundo en el que la IA sea tratada como “un conjunto de cajas negras anidadas” cuyos consejos y acciones simplemente aceptamos o rechazamos. Invita a construir un sistema más transparente donde los modelos puedan ser contenidos, observados, y se deje atrás “evidencia legible por humanos y a prueba de manipulación”.
Muchas de sus recomendaciones coinciden con lo que hemos escuchado de otros en la industria: divulgación oportuna de incidentes, auditorías independientes, datos verificables y contención. Es en este último punto donde parece ir un poco más allá que algunos otros en el campo, diciendo:
Debemos asumir que un modelo está comprometido y lo contenemos desde el principio. Piénsenlo como un freno de emergencia. Una persona autorizada debe poder pausar o detener un modelo en medio de una tarea. Los modelos más avanzados requerirán tecnologías de contención más sofisticadas, que debemos estandarizar.
Desafortunadamente, Nadella también se refiere a la IA como “superinteligencia” en todo el texto.
Siga los temas y autores de esta historia para ver más contenido similar en su flujo de página principal personalizado, y para recibir actualizaciones por correo electrónico.