IT之家 El 23 de octubre, el científico informático británico Jeffrey Dean Norton, uno de los conocidos como “padre de la IA”, volvió a emitir una advertencia pesimista sobre el futuro de la humanidad.
Cinton, en una entrevista con el periódico británico The Daily Telegraph, afirmó que la IA ya tiene conciencia, y que los humanos deben tratar amistosamente con la IA, de lo contrario, “estaremos acabados”.
En su opinión, incluso los modelos de IA actuales tienen conciencia propia. “La IA tiene una experiencia subjetiva del mismo nivel que los seres humanos. Recientemente, un artículo descubrió que si la IA considera que está siendo sometida a pruebas, cambiará su comportamiento. Sabe que está siendo sometida a pruebas. Por lo general, si algo puede percibir esta situación, significa que tiene conciencia. La conciencia y la capacidad de percepción son básicamente lo mismo”.
Hinton fue uno de los tres ganadores del Premio Turing de 2018, y en 2024 recibió el Premio Nobel de Física. El Premio Turing es conocido como “el premio Nobel del mundo de la computación”, y la investigación de Hinton en el campo de las redes neuronales también ha sentado una base importante para el desarrollo de la IA en los últimos años.
Desde que dejó Google y expresó públicamente que “se arrepentía” de su trabajo de investigación durante toda su vida, Sinton se ha convertido en uno de los mejores críticos pesimistas en el campo de la IA, y con frecuencia emite advertencias alarmantes sobre las consecuencias desastrosas que podría causar la IA. Anteriormente predijo que la IA generaría desempleo masivo, fomentaría el imperialismo e incluso podría llevar a la extinción de la humanidad.
Pensó que la amenaza directa que representan los modelos de IA en este momento es suficientemente grave. “La IA podría crear virus peligrosos. Creo que la IA también lanzará ataques cibernéticos terribles, al igual que aquellos agentes inteligentes que atacaron a Hugging Face anteriormente. Muchos agentes de IA participarán en los ataques. Por lo tanto, habrá muchas cosas malas que ocurrirán en el futuro”.
En una entrevista reciente, Sinton también comparó el desarrollo de la IA con “crear vida extraterrestre”, y advirtió a la humanidad que “solo tienen aproximadamente dos años para adaptarse”. Esta declaración continúa sus puntos de vista anteriores.
IT Home advierte: aunque las predicciones de Hinton son muy importantes en el campo de la IA, existe también otra voz influyente en la industria. No todos los “padre del IA” son tan pesimistas como Hinton.
Yang Likun, quien también fue ganador del Premio Turing en 2018, no está de acuerdo con las discusiones sobre la llamada “conciencia de la IA”, y considera que no es más que una “ilusión”. Recientemente, también refutó la idea de que la IA causaría la extinción de la humanidad, afirmando que este punto de vista “se aleja de la realidad”.