Google dice que la IA autoeleven no está cerca de ser algo real

Google dice que la IA que se mejora por sí misma está muy lejos de ser realidad

El ingeniero de Google, Haydn Belfield, dice que la inteligencia artificial que se mejora por sí misma está lejos de lograrse, incluso cuando la automatización significativa ya está en auge.

Según Belfield, Google Deepmind no ha observado ninguna aceleración medible en la investigación de IA impulsada por la propia IA. Eso no significa que la automatización significativa no esté ocurriendo ya: la IA ahora escribe más del 75 por ciento del código de producción. Pero aproximadamente el 88 por ciento de los cambios de código todavía requieren supervisión o revisión humana, y cada cambio es revisado por un ser humano antes de su envío, según Belfield. La proporción de los cambios de código completamente delegados a la IA aumentó de 7.5 a 11.9 por ciento.

Cuanto más complejo y laborioso sea la tarea, menos es probable que la IA lo maneje por sí sola. En 1,389 ejecuciones internas de agentes Argon, la tasa de éxito sin intervención humana disminuyó significativamente a medida que aumentaba la complejidad. Los humanos siguen siendo esenciales para la investigación creativa, el diseño de experimentos nuevos, el diagnóstico de inestabilidades sutiles en el entrenamiento y la planificación a largo plazo, dijo Belfield. Una encuesta a doce investigadores senior de Deepmind confirmó este patrón: la automatización es más alta para tareas bien definidas y verificables, y más baja para la ideación científica abierta.

En el benchmark interno de Deepmind, RE-Bench, que incluye 74 tareas realistas de ingeniería de ML, Argon resuelve aproximadamente la mitad de ellas. Eso representa un gran avance en comparación con Gemini 3.7 Flash, con un porcentaje del 27%, pero aún está lejos del rendimiento casi perfecto que requeriría la automatización total.

El índice de capacidades de Google muestra que no hay aceleración en la investigación de IA

Para rastrear el progreso de manera sistemática, el equipo construyó un Índice de Capacidad General (GCI) que abarca 123 modelos y 92 puntos de referencia. Las capacidades del modelo Gemini están creciendo a un ritmo constante de aproximadamente 0.1 puntos GCI por mes, sin cambios significativos en la velocidad. El equipo atribuye que el estado actual de Gemini 4 Argon, que se encuentra ligeramente por encima de la línea de tendencia, se debe a mayores inversiones en computación y organización, más que a una aceleración impulsada por IA.

El equipo actualmente clasifica el riesgo derivado de la automatización de la investigación impulsada por la inteligencia artificial como bajo, pero está construyendo la infraestructura de medición para rastrear signos de aceleración en el futuro.

Los hallazgos de Belfield se alinean con investigaciones recientes, pero no todos en el campo están de acuerdo. Más de 20 investigadores de IA, incluyendo a Geoffrey Hinton, Yoshua Bengio y Jakub Pachocki de OpenAI, recientemente advertiron sobre una posible “explosión de inteligencia” en un artículo de investigación. Argumentaron que los sistemas de IA podrían automatizar toda la investigación y desarrollo de IA en unos pocos años, comprimiendo lo que normalmente sería años de progreso en solo meses.

Noticias de IA Sin Efecto Falso – Seleccionadas por Humanos

Suscríbase a THE DECODER para leer sin anuncios, un boletín semanal sobre IA, nuestro informe de vanguardia “AI Radar” exclusivo seis veces al año, acceso completo al archivo y acceso a nuestra sección de comentarios.