El ingeniero de Google Haydn Belfield afirma que, aunque el grado de automatización de la IA en el desarrollo de modelos continúa aumentando, actualmente no existe evidencia medible de que la investigación impulsada de forma autónoma por la IA se esté acelerando.
Belfield señala que actualmente la IA escribe más del 75% del código de producción, pero aproximadamente el 88% de los cambios de código todavía requieren supervisión o revisión humana, y cada cambio debe pasar por revisión humana antes de ser enviado. La proporción de cambios de código manejados completamente por la IA ha aumentado del 7,5% al 11,9%. En las 1389 pruebas de ejecución del agente interno Argon, cuanto mayor era la complejidad de la tarea, menor era la tasa de éxito de la IA sin intervención humana.
Una encuesta a 12 investigadores sénior de DeepMind también mostró que la IA tiene un alto grado de automatización en tareas bien definidas y con resultados verificables, pero sigue dependiendo de los humanos en investigación creativa, diseño de experimentos, diagnóstico de anomalías en el entrenamiento y planificación a largo plazo.
En el benchmark RE-Bench, que incluye 74 tareas reales de ingeniería de aprendizaje automático, la tasa de resolución de tareas de Argon fue de aproximadamente el 50%, superior al 27% de Gemini 3.7 Flash, pero aún existe una brecha respecto a la automatización completa.
Para rastrear los cambios en las capacidades de la IA, el equipo de investigación construyó un Índice de Capacidades Generales (GCI) que abarca 123 modelos y 92 benchmarks. Los datos muestran que la capacidad de los modelos Gemini crece de manera estable a un ritmo de aproximadamente 0. 1 puntos GCI al mes, sin que haya aparecido todavía una aceleración estadísticamente significativa. El equipo considera que el rendimiento de Gemini 4 Argon, ligeramente por encima de la línea de tendencia de crecimiento, se debe principalmente al aumento de la potencia de cálculo y de la inversión organizativa, y no a una aceleración de la investigación impulsada de forma autónoma por la IA.
Actualmente, el equipo de investigación considera que los riesgos derivados de la automatización de la investigación impulsada por la IA siguen siendo relativamente limitados, pero continúa perfeccionando el sistema de monitoreo. Al mismo tiempo, más de 20 investigadores, entre ellos Geoffrey Hinton, Yoshua Bengio y el científico jefe de OpenAI, Jakub Pachocki, advierten de que la IA podría lograr en los próximos años un alto grado de automatización del trabajo de investigación y desarrollo, comprimiendo años de avances en meses. Las diferentes valoraciones ponen de relieve que todavía existe una gran incertidumbre sobre la capacidad de auto-mejora de la IA y sus riesgos potenciales.