IT之家 – Selon un rapport du 28 octobre, l’intelligence artificielle assume déjà le rôle d’assistant dans de nombreux domaines professionnels. Les médecins, les chercheurs et les développeurs logiciels l’utilisent dans leur travail. Malheureusement, cela entraîne ce que les chercheurs appellent une dégradation des compétences : les gens confient le travail à l’IA, et leurs compétences professionnelles s’en trouvent réduites.
IT Home a noté que la chercheuse Kaisa Kärki, membre de l’institut de recherche en philosophie théorique, a abordé cette question dans une thèse intitulée « Qui doit être responsable de la dégradation des compétences professionnelles ? », dont les résultats ont été publiés dans la revue Human Affairs.
« Un problème lié à la dégradation des compétences est que les professionnels ont du mal à percevoir ce changement dans leur travail quotidien. Une partie de la raison vient des biais de perception concernant la dépendance vis-à-vis de l’IA. Lorsque nous dialoguons avec les grands modèles de langage et recevons des réponses qui semblent très convaincantes, il est facile de développer une dépendance excessive. Mais ces modèles peuvent également faire des erreurs. »
Kelki a donné l’exemple du secteur médical : si un médecin dépend d’un grand modèle de langage, mais ne remarque pas les erreurs d’information fournies par le modèle, cela peut entraîner une faute médicale. Une fois qu’il y a un problème, qui doit assumer la responsabilité ?
« En général, la théorie philosophique liée à la responsabilité soutient que l’agent n’est responsable que des actions qu’il a effectuées avec connaissance. Cependant, les biais cognitifs invisibles qui résultent de l’utilisation de l’IA remettent en question cette idée : il est difficile de détecter ses propres erreurs ou la tendance à dépendre excessivement de l’IA. Par conséquent, il n’est pas encore établi si nous devons assumer la responsabilité de cette dégradation silencieuse de nos capacités et des erreurs qui en résultent. »
Sans l'IA, pouvons-nous fonctionner normalement ?
Kelki a souligné que la dégradation des compétences est difficile à détecter en soi, par conséquent il ne faut pas imputer toute la responsabilité des problèmes liés aux professionnels individuellement. Il s’agit d’une question sociale et structurelle.
Les différents communautés professionnelles doivent déterminer clairement quelles sont les compétences essentielles de leur secteur, qui doivent être bien maîtrisées par les humains.
Les pilotes s’entraînent régulièrement au plan de traitement en cas d’échec de la conduite automatique. Les autres industries devraient également réfléchir à la même question : en cas de besoin, sans l’IA, les professionnels peuvent-ils accomplir le travail eux-mêmes ?
« Dans le domaine de l’éducation médicale, certains points de vue suggèrent qu’il faudrait introduire une étape dans la formation des compétences de base interdisant l’utilisation de l’IA. Par exemple, la déduction diagnostique est une compétence essentielle dans le travail médical, et une compréhension globale des domaines spécialisés et des activités connexes est également indispensable. »
Le risque doit être abordé immédiatement
Si l’utilisation de l’IA se développe continuellement dans le monde professionnel, mais que les risques liés à la dégradation des compétences sont ignorés, nous pourrions perdre à l’avenir la capacité de former de nouvelles personnes sans dépendance à l’IA. En d’autres termes, les gens deviendront fortement dépendants des technologies et de l’IA, et perdraient la capacité de détecter ses erreurs.
La capacité de résistance des communautés humaines aux risques repose sur une diversité de compétences humaines.
Kelki a déclaré : « La dégradation des compétences représente un risque majeur. Avant que ne se produise une baisse collective des capacités au niveau de l’industrie, la société humaine et les différents domaines professionnels devraient examiner cette question à l’avance. »
Méthode pour lutter contre la dégradation des compétences de réponse
Il est nécessaire de faire prendre conscience aux professionnels que l’utilisation de l’IA peut entraîner une dégradation des compétences de manière implicite.
Même les professionnels expérimentés et chevronnés doivent subir régulièrement des tests de compétences essentielles.
Une partie des tâches professionnelles ne peut être accomplie que par des humains, et il est interdit de les confier à l’IA.
L’employeur doit établir des règles d’utilisation de l’IA qui tiennent compte du risque de dégradation des compétences ;
Pendant la phase d'enseignement supérieur des professionnels qualifiés, les modules d'apprentissage interdisant l'utilisation de l'IA sont interdits.
Concevoir des incitations appropriées pour encourager les personnes à maintenir leurs compétences professionnelles ;
Dans les domaines où la dégradation des compétences menace les activités clés de la société, des réglementations doivent être établies pour contrôler l'utilisation de l'IA ;
Les communautés professionnelles définissent les compétences clés que l’humanité doit maîtriser dans ce domaine ;
Dans d'autres domaines en dehors de la médecine, étudier plus en profondeur les problèmes de dégradation des capacités liés à l'utilisation de l'IA.
Référence :