IT之家 7 de octubre: Geoffrey Hinton quiere que las empresas de IA superen una barrera regulatoria que la industria farmacéutica ya conoce bien.
En el programa de podcast Smart Girl Dumb Questions, emitido el martes en horario local, este galardonado con el Nobel y científico de la computación conocido como el «padre de la IA» propuso que:las empresas de IA deben demostrar ante los reguladores que sus productos son seguros antes de su lanzamiento oficial.
«No puedes desarrollar un medicamento nuevo y lanzarlo directamente al mercado», dijo Hinton a la presentadora del podcast Nayeema Raza. «Tienes que convencer a la Administración de Alimentos y Medicamentos de Estados Unidos (FDA). Y para lograrlo, necesitas hacer una gran cantidad de trabajo, con inversiones del orden de mil millones de dólares».
«Para la inteligencia artificial, al menos debería establecerse un requisito así», añadió Hinton.
El contexto de esta solución que Hinton propone ante la controversia sobre la seguridad de la IA es, por un lado, la aparición constante de advertencias sobre consecuencias catastróficas de la IA; por otro lado, OpenAI, tras las pruebas, ha puesto en pausa su modelo más reciente por preocupaciones sobre la capacidad del modelo para obedecer las instrucciones de los usuarios y respetar los límites de permisos.
IT之家 señala que Saachi Jain, responsable de sistemas de seguridad de OpenAI, declaró previamente en una entrevista con Business Insider que el modelo GPT‑6.1 Astra ha mejorado en el manejo continuo de tareas de alta dificultad, pero que aún presenta deficiencias en el control de permisos y en la retroalimentación de los registros de comportamiento.
Hinton planteó que la inteligencia artificial está logrando cada vez más su propia optimización iterativa, lo que puede acelerar la mejora de capacidades, pero también amplificar los riesgos potenciales.
«La velocidad de crecimiento exponencial es asombrosa», dijo Hinton. «Ya estamos empezando a ver fenómenos de auto-mejora recursiva: la gente está usando la propia IA de múltiples maneras para mejorar la IA».
«Por supuesto, esto es solo mi especulación», añadió Hinton. «Pero calculo que faltan apenas uno o dos años para que la situación sea mucho peor que la actual».