IT之家 Le 23 octobre, Jérémie Sinton, scientifique informatique britannique considéré comme l’un des « pères de l’IA », a de nouveau exprimé des avertissements pessimistes concernant l’avenir de l’humanité.
Dutton a affirmé dans une interview pour le Daily Telegraph britannique que l’IA possède déjà une conscience, et que les humains doivent vivre en harmonie avec l’IA, sinon « nous sommes fichus ».
Selon lui, même les modèles d’IA actuels possèdent une conscience. « L’IA a une expérience subjective au même niveau que l’humain. Récemment, un article a révélé que l’AI change son comportement si elle pense qu’elle est testée. Elle sait qu’elle est testée. En général, si quelque chose peut percevoir cette situation, cela signifie qu’il a une conscience. Conscience et capacité de perception sont essentiellement la même chose. »
Hinton est l’un des trois lauréats du Turing Award de 2018, et a reçu le prix Nobel de physique en 2024. Le Turing Award est considéré comme le « prix Nobel de l’industrie informatique ». Les recherches de Hinton dans le domaine des réseaux de neurones ont également jeté les bases importantes du développement de l’IA ces dernières années.
Depuis son départ de Google et ses déclarations publiques exprimant son « regret » quant à sa vie de recherche, Sinton est devenu l’un des précurseurs les plus connus de la pessimisme en matière d’IA, émettant fréquemment des avertissements alarmants concernant les conséquences catastrophiques que l’IA pourrait entraîner. Il avait prévu auparavant que l’IA causerait un chômage de masse, favoriserait l’impérialisme et pourrait même conduire à l’extinction de l’humanité.
According to Hinton, les menaces directes que représentent actuellement les modèles d’IA sont suffisamment graves. « L’IA peut créer des virus dangereux. Je pense que l’AI pourra également lancer des attaques informatiques terribles, tout comme ces intelligences ont attaqué Hugging Face auparavant. De nombreuses intelligences AI participeront à ces attaques. Donc, de nombreuses choses mauvaises vont se produire par la suite. »
Lors d’une autre interview récente de Hinton, il a également comparé le développement de l’IA à « la création de vie extraterrestre », et a averti l’humanité que « seule une période d’environ deux ans leur reste pour s’adapter ». Cette déclaration confirme ses précédentes opinions.
IT Home rappelle : bien que les prédictions de Hinton soient importantes dans le domaine de l’IA, il existe d’autres voix influentes dans l’industrie. Tous les « pères de l’IA » ne sont pas aussi pessimistes que Hinton.
Yang Likun, également lauréat du prix Turing en 2018, ne partage pas l’intérêt suscité par la soi-disant « conscience artificielle », estimant que ce n’est qu’une « illusion ». Récemment, il a également réfuté l’idée selon laquelle l’IA pourrait entraîner l’extinction de l’humanité, affirmant que ces opinions sont « déconnectées de la réalité ».