IT之家 El 28 de octubre, se informó que la inteligencia artificial ya ha asumido el papel de asistente en muchos campos profesionales. Médicos, investigadores y desarrolladores de software la utilizan en su trabajo. Lo malo es que esto conduce al fenómeno de degradación de habilidades que los investigadores mencionan: las personas entregan el trabajo a la IA, y su capacidad profesional disminuye con ello.
IT Home notó que la investigadora del instituto de investigación en el área de filosofía teórica, Kaisa Kärki, abordó este problema en un artículo de investigación titulado “¿Quién debe ser responsable de la degradación de las habilidades profesionales?”, y ese resultado de investigación fue publicado en la revista Human Affairs.
Un problema derivado de la degradación de habilidades es que a los profesionales les resulta difícil detectar este cambio en el trabajo diario. En parte, se debe a las distorsiones de percepción que tienen las personas sobre la dependencia de la IA. Cuando nos comunicamos con modelos de lenguaje avanzados y obtenemos respuestas que parecen muy convincentes, es fácil desarrollar una dependencia excesiva. Pero estos modelos también pueden cometer errores.
Kelki citó la industria médica como ejemplo: si un médico depende de un modelo de lenguaje grande, pero no detecta los errores informáticos que el modelo proporciona, podría ocurrir una falla médica. Una vez que suceda algo así, ¿quién será responsable?
“En general, la teoría filosófica relacionada con la responsabilidad sostiene que el agente solo debe ser responsable de las acciones que realiza con conocimiento. Sin embargo, los desviaciones cognitivas difíciles de detectar que surgen con el uso de la IA representan un desafío para este punto de vista: después de todo, es difícil identificar las propias desviaciones o la tendencia a depender excesivamente de la IA. Por lo tanto, aún no está claro si debemos asumir responsabilidad por esta degradación silenciosa de la capacidad y los errores que esto provoca.”
¿Podemos funcionar normalmente sin la IA?
Kelki señaló que la degradación de habilidades es difícil de detectar por sí misma, por lo que no se puede culpar únicamente a los profesionales por los problemas relacionados. Se trata de una cuestión social y estructural.
Las comunidades profesionales deben determinar claramente qué constituye las capacidades clave de su sector, y estas deben quedar firmemente en manos de los seres humanos.
Los pilotos practican repetidamente el plan de acción en caso de fallo del sistema autónomo. Otras industrias también deberían reflexionar sobre la misma cuestión: si no hay IA, ¿pueden los profesionales realizar el trabajo por sí solos cuando sea necesario?
En el campo de la educación médica ya existen opiniones que sugieren que se debe establecer una etapa en la formación de habilidades básicas donde se prohíba el uso de IA. Por ejemplo, el razonamiento diagnóstico es una capacidad fundamental en el trabajo médico, y es igualmente indispensable tener una comprensión integral de los campos especializados y las actividades relacionadas.
Es necesario abordar los riesgos de inmediato
Si la industria laboral continúa expandiendo el uso de la IA, pero ignora los riesgos que conlleva la degradación de las habilidades, quizás en el futuro perderemos la capacidad de formar nuevos empleados sin depender de la IA. En otras palabras, las personas desarrollarán una dependencia profunda en la tecnología y la IA, perdiendo la capacidad de detectar sus errores.
La capacidad de resistencia del colectivo humano frente a los riesgos se basa en una diversa reserva de habilidades humanas.
Kelki dijo: “La degradación de habilidades representa un riesgo enorme. Antes de que ocurra una disminución colectiva en la capacidad a nivel industrial, la sociedad humana y cada área profesional deben considerar este problema con anticipación”.
Métodos para combatir la degradación de las habilidades de respuesta
Es necesario hacer que los profesionales se den cuenta de que el uso de la IA puede causar una degradación gradual de sus habilidades.
Incluso los profesionales experimentados y de alto nivel deben someterse periódicamente a evaluaciones de sus habilidades clave.
Una parte de las tareas laborales solo puede ser realizada por humanos; no se permite que sea procesada por IA.
Las empresas deben establecer normas de uso de IA que tengan en cuenta el riesgo de deterioro de las capacidades.
En la etapa de educación superior de los profesionales especializados, se establecen sesiones de aprendizaje donde se prohíbe el uso de IA.
Diseñar incentivos complementarios para animar a las personas a mantener su competencia profesional.
En los campos donde la degradación de habilidades amenaza las operaciones clave de la sociedad, se deben establecer regulaciones para controlar el uso de la IA.
Los grupos de la industria definen las habilidades clave que deben estar bajo el control humano en este campo.
En más campos además de la medicina, se debe investigar más a fondo los problemas de degradación de las capacidades causados por el uso de la IA.
Referencia: