El pionero del aprendizaje automático Michael I. Jordan desmonta el discurso catastrofista sobre la IA como una "gran representación…

El pionero del aprendizaje automático Michael I. Jordan desmonta el discurso catastrofista sobre la IA como una "gran representación moralizante"

Michael I. Jordan, descrito por Science en 2016 como "el científico de la computación más influyente", considera que las advertencias sobre las amenazas existenciales de la IA son pura ciencia ficción. En una amplia entrevista, arremete contra los catastrofistas, los fundadores de empresas y los jóvenes investigadores ingenuos.

Jordan, profesor emérito de UC Berkeley, se opuso con contundencia al discurso catastrofista sobre la IA en una entrevista con Libération. El pionero del aprendizaje automático, de 70 años, trabaja ahora a tiempo completo en Inria, el Instituto Nacional de Investigación en Ciencias y Tecnologías Digitales de Francia en París, donde dirige la nueva cátedra de "mercados y aprendizaje". Cuando le preguntaron sobre el discurso sobre la IA del verano, lo calificó de "totalmente frustrante".

Jordan advirtió sobre el uso imprudente del término IA ya en 2019. "No era el único que lo decía. Era obvio que crearía la histeria que estamos viendo ahora", dice. "Ya has visto lo que pasó: la IA no bastaba, así que empezaron a hablar de AGI, y ahora es 'superinteligencia'..."

Renuncias como "representación moralizante"

Jordan rechaza las demandas de regulación de las empresas de IA como "teatro", una forma de decir "Miren, somos los buenos" mientras "les gustaría tener el control total sobre cómo son regulados".Ad

La renuncia del joven investigador de Anthropic Jacob Coxon, que desencadenó una ola de histeria colectiva por un escenario de "AIpocalipsis" a principios de septiembre, es un ejemplo de manual desde el punto de vista de Jordan. Muchos empleados jóvenes de estas empresas "no son realmente ingenieros", dice. "Vienen de las humanidades, la filosofía u otras disciplinas. Tienen 25 años, son ingenuos, no hacen trabajo de ingeniería, nunca han trabajado en grandes empresas donde se desarrollan productos reales para personas reales, con disciplina".

"Se reúnen, un poco como en los cafés parisinos de los años 1920, para hablar de estas grandes ideas de ciencia ficción". Cuando renuncian, saben que van a llamar la atención. "Les permite sentirse virtuosos y ser vistos como figuras muy importantes. Afirman que renuncian al dinero, pero en realidad ya tienen sus opciones sobre acciones". Jordan ve todo esto como "una gran representación moralizante que no sirve al verdadero objetivo que dice perseguir. Hay mucha ingenuidad aquí, que va de la mano de cierto cinismo..."

La superinteligencia pertenece a la ciencia ficción

"Superinteligencia" es "un término de ciencia ficción", dice Jordan, "y una gran parte de los debates de los que he sido testigo pertenecen al ámbito de la ciencia ficción". Discutir ocasionalmente escenarios descabellados está bien. "Hablar de ello en los pasillos, como tema de ciencia ficción, está bien. Pero cuando se convierte en el discurso dominante, es muy, muy perjudicial. Para el desarrollo tecnológico, para los jóvenes y para la mentalidad de los países". El término está siendo impulsado actualmente entre la élite tecnológica estadounidense por el presidente Trump, que están encantados de seguirle el juego.

Jordan es especialmente duro con el Nobel Geoffrey Hinton, que tiene un historial de hacer afirmaciones audaces que no siempre se sostienen. "Geoffrey Hinton nunca ha creado una empresa que ofrezca servicios reales a personas reales", dice. "Hinton cree que hemos descubierto cómo funciona el cerebro y que podemos reproducirlo en silicio; por lo tanto, podríamos copiarlo tantas veces como quisiéramos y, combinando lo que aprenden todas estas copias, obtendríamos una especie de crecimiento exponencial y, ahí lo tienen: superinteligencia. Ninguno de los pasos de este argumento es creíble. Aquí estamos en el terreno de la ciencia ficción."Anuncio

Es un poco más generoso con Yoshua Bengio. "Yoshua es un poco diferente; toma medidas y hace cosas centradas directamente en la seguridad." Las advertencias de Bengio suelen apuntar a deficiencias de la tecnología actual de IA, como enjambres de agentes que se salen de control.

Jordan enmarca el hackeo de Hugging Face por agentes de OpenAI como una mala ingeniería. "En ingeniería química, jamás habríamos permitido una situación en la que se permitieran explosiones solo para ver qué tan mal podían salir las cosas." OpenAI estaba "realizando experimentos bastante estúpidos, dejando que los agentes hicieran lo que quisieran y alentando este comportamiento". A los doomers les encantó convertirlo luego en algo aterrador. "Dios mío, estos agentes son autoconscientes y están tratando de encontrar una manera de destruir a los humanos." Eso también es ciencia ficción, según Jordan.

La apuesta de un billón de dólares en centros de datos

Jordan considera las masivas inversiones en centros de datos "simplemente una apuesta enorme, pero no tenemos absolutamente ninguna idea de si dará frutos." Los LLM ya son lo suficientemente capaces para tareas de lenguaje natural, y los billones gastados en centros de datos no necesariamente ofrecerán mucho más. "En cambio, a menudo querríamos añadir un poco de conocimiento especializado en un campo particular basado en conocimiento local. Pero no se necesita un centro de datos gigantesco para hacer eso. En particular, si utiliza modelos de pesos abiertos que integre en su empresa."

AI News Without the Hype – Curated by Humans

Suscríbase a THE DECODER para leer sin publicidad, un boletín semanal de IA, nuestro exclusivo informe fronterizo "AI Radar" seis veces al año, acceso completo al archivo y acceso a nuestra sección de comentarios.