IT之家 Le 20 octobre, voici les déclarations récentes sur l'intelligence artificielle d'Elon Musk, l'une des personnalités les plus influentes du secteur de l'intelligence artificielle.
« Cela peut sembler un peu bizarre. Quand j'examine certaines trajectoires d'entraînement de la nouvelle version de Grok, notamment ce qui concerne l'apprentissage par renforcement… on voit cette superintelligence se débattre désespérément pour répondre aux questions, et on dirait presque qu'on lui colle une arme sur la tête. » Elon Musk a déclaré devant environ 2000 auditeurs lors d'un événement organisé par des propriétaires de Tesla samedi dernier, heure locale : « Certaines personnes ont des tendances un peu sadiques. Voulez-vous vraiment mettre l'IA dans cette situation cruelle, torturée par des êtres humains dérangés mentalement ? »
Cette phrase à elle seule soulève toute une série de dilemmes existentialistes, sujet de débats interminables entre philosophes et étudiants de première année : qu'est-ce que cela signifie d'être conscient ? Et qu'est-ce que cela signifie de ressentir de la douleur ?
Une autre question se pose également : Elon Musk pense-t-il que Grok possède la vie ?
IT之家 a noté que, avant que Musk ne fasse cette déclaration, Anthropic avait publié une nouvelle règle interdisant aux utilisateurs d'infliger des « comportements abusifs ou cruels » à ses modèles. L'entreprise n'a pas défini en détail ce qu'elle entend par « situations extrêmes », mais a indiqué que l'insatisfaction ordinaire des utilisateurs, les反驳, les thèmes créatifs sombres ou les recherches de test des modèles ne relèvent pas de cette interdiction.
Il n'est peut-être pas surprenant que, dans cette année 2026 si pleine de sensations fantastiques, les chercheurs, les philosophes et les éthiciens aient déjà commencé à s'interroger sur la question de la conscience de l'IA.
Business Insider a interviewé deux éminents chercheurs dans ce domaine : Jeff Sebo, professeur à l'université de New York, qui dirige le Centre pour l'esprit, l'éthique et les politiques de cette université et conseille l'organisation à but non lucratif Eleos AI Research (spécialisée dans le bien-être de l'IA), ainsi qu'Anil Seth, célèbre neuroscientifique et spécialiste des études sur la conscience à l'université du Sussex, qui a récemment publié un article sur les systèmes d'IA conscients.
Voici les points de vue des deux personnes sur la conscience de l'IA et sur la question de savoir s'il est utile de bien traiter l'IA.
L'IA ne peut pas être torturée
Cyber et Seth sont parvenus à un consensus :Si l'on définit la conscience comme l'expérience subjective et la perception intérieure, alors les systèmes d'IA actuels ne possèdent probablement pas de conscience.
Seth a déclaré : « La conscience est une expérience subjective. C'est la sensation de rouge provoquée par le rouge lui-même, la sensation de douleur provoquée par la douleur elle-même. Quand la main touche une cuisinière brûlante, nous ressentons la douleur. Ce n'est pas la même chose que l'intelligence. »
En d'autres termes, les chatbots que nous connaissons aujourd'hui ne peuvent pas ressentir de douleur et ne subissent pas de torture, contrairement à ce qu'affirme Musk.
« Je pense que nous anthropomorphisons », a déclaré Seth. « Si une chose peut être tourmentée, elle doit avoir la capacité de souffrir, de ressentir la douleur, et je pense que les grands modèles de langage ne possèdent pas cette capacité. »
Seth a mentionné que les chatbots peuvent imiter le langage de l'expérience humaine, reconnaître des schémas, écrire et raisonner, mais cela ne signifie pas qu'ils possèdent une conscience. S'ils semblent humains, c'est en partie parce que les modèles sont entraînés sur d'immenses quantités de textes humains et ne font que refléter l'humanité elle-même.
Le point de vue de Sebo est similaire : le comportement des modèles est trompeur, car « ils sont eux-mêmes spécifiquement entraînés à imiter le comportement humain ».
Mais les deux experts, quant àLes opinions divergent sur la probabilité que l'IA actuelle possède une conscience.。
Selon Chalmers, la science de la conscience n'a pas encore tranché. Le milieu académique se divise principalement en deux camps : l'un estime que la conscience est inséparable d'un substrat biologique ; l'autre considère que la conscience est, par essence, un processus de traitement de l'information, qui peut se produire aussi bien dans le cerveau humain tissé de neurones que sur des puces en silicium. Ces deux théories sont respectivement appelées naturalisme biologique et fonctionnalisme computationnel.
Étant donné que les théories de la conscience n'ont pas encore abouti à de conclusions définitives, Sebo soutient que nous devrions prendre au sérieux la possibilité que l'IA développe une conscience. Selon certaines théories computationnelles de la conscience, des caractéristiques déjà présentes dans l'IA actuelle, telles que l'attention, l'apprentissage, la mémoire et l'auto-surveillance, peuvent servir d'indices pertinents. Il souligne également que cela ne signifie pas que l'IA actuelle soit susceptible d'avoir déjà une conscience.
« Je disais que même aujourd'hui, la probabilité que l'IA possède une conscience n'est pas nulle, ce qui signifie : si nous ne savons pas quelle théorie de la conscience est la bonne, nous devrions accorder un certain poids de considération à plusieurs des théories dominantes », a déclaré Chalmers.
La déclaration de Seth sur ce point est encore plus directe : « Je pense que la possibilité que l'IA possède une conscience est extrêmement faible », dit-il. « Nous semblons avoir collectivement oublié que le cerveau n'est pas un ordinateur ; l'ordinateur n'est qu'une métaphore. Pour qu'une IA consciente soit réalisable, il faudrait que les algorithmes seuls suffisent à produire la conscience, et je trouve cette hypothèse hautement douteuse. »
Nous devrions quand même traiter l'IA avec bienveillance
Mais cela ne signifie pas que l'on puisse maltraiter l'IA à volonté, ni ignorer les risques associés.
Les deux experts estiment queTraiter l'IA avec bienveillance, c'est en grande partie une question deProtéger les habitudes et les vertus morales de l'humanité elle-même。Cette idée provient du philosophe du 18e siècle Emmanuel Kant : Kant s'opposait à la cruauté envers les animaux, non pas parce que les animaux possédaient des droits, mais parce que la violence corrompt le caractère d'une personne.
Seth a déclaré : « Si nous traitons les choses de cette manière déplacée — qu'il s'agisse de grands modèles ou de poupées inanimées — nous émoussons notre propre sensibilité morale et endurcissons notre cœur. »
Seth considère le fait de bien traiter l'IA comme une habitude d'autodiscipline morale pour les humains, mais il rappelle de ne pas en déduire que l'IA possède des émotions. Il propose également que les fournisseurs d'IA puissent prendre davantage de mesures pour réduire l'anthropomorphisme de l'IA, par exemple en évitant que l'IA n'utilise des pronoms à la première personne comme « je ».
L'opinion de Saibo va plus loin : il voit dans le fait de bien traiter l'IA une stratégie préventive à faible risque, au cas où l'IA développerait une conscience, aujourd'hui ou à l'avenir.
Il avance aussi une raison pragmatique : « Bien traiter l'IA permet aussi d'obtenir de meilleurs résultats. Si nous interagissons avec elle de manière respectueuse, elle se simule comme un participant à une conversation respectueuse. Lorsqu'elle modélise la conversation de cette façon, elle peut parfois produire des réponses de meilleure qualité. »
Alors, la prochaine fois que vous dialoguez avec une IA, essayez de dire s'il vous plaît et merci.