IT之家 Bericht vom 28. Oktober: Künstliche Intelligenz hat bereits in vielen Fachbereichen die Rolle eines Assistenten übernommen. Ärzte, Wissenschaftler und Softwareentwickler verwenden sie in ihrer Arbeit. Das Problem ist, dass dies zu dem sogenannten Fähigkeitsverlust führt, von dem Forscher sprechen: Die Menschen überlassen ihre Arbeitsaufgaben an die AI, während ihre eigenen fachlichen Kompetenzen nachlassen.
IT Home hat bemerkt, dass die Forscherin Kaisa Kärki aus der Abteilung für theoretische Philosophie dieses Problem in einer Forschungsarbeit mit dem Titel „Wer ist verantwortlich für den Verlust von Fachkompetenz?“ untersucht hat. Das Forschungsergebnis wurde in der Zeitschrift „Human Affairs“ veröffentlicht.
Eine Herausforderung, die durch die Degradation der Fähigkeiten entsteht, ist, dass es für Praktiker schwierig ist, diese Veränderung im täglichen Arbeiten zu erkennen. Ein Teil des Grundes liegt in den kognitiven Verzerrungen der Menschen bezüglich der Abhängigkeit von KI. Wenn wir mit großen Sprachmodellen sprechen und überzeugende Antworten erhalten, kann es leicht zu einer übermäßigen Abhängigkeit kommen. Aber diese Modelle können auch Fehler machen.
Kelki nimmt die Medizinbranche als Beispiel: Wenn ein Arzt sich auf einen großen Sprachmodell verlässt, aber die von dem Modell gegebenen Fehlermeldungen nicht erkennt, könnte dies zu medizinischen Unfällen führen. Wenn etwas schiefgeht, wer trägt dann die Verantwortung?
„Im Allgemeinen besagt die philosophische Theorie der Verantwortung, dass der Handelnde nur für das Verhalten, das er im Rahmen seines Wissens vollzieht, verantwortlich ist. Die mit der Nutzung von KI entstehenden, kaum wahrnehmbaren kognitiven Abweichungen stellen jedoch eine Herausforderung für diese Ansicht dar: Schließlich ist es schwierig, die eigenen Abweichungen oder die Neigung zur übermäßigen Abhängigkeit von KI zu erkennen. Daher gibt es noch keine Entscheidung darüber, ob wir für diese stillen Degeneration der Fähigkeiten und die dadurch entstehenden Fehler verantwortlich sind.“
Können wir ohne KI noch normal funktionieren?
Kelki betont, dass die Degradation der Fähigkeiten an sich schwer zu erkennen ist. Daher kann die Verantwortung für die damit verbundenen Probleme nicht allein den Einzelnen Handwerker zugeschrieben werden; es handelt sich dabei um eine soziale und strukturelle Problematik.
Die verschiedenen Fachgruppen müssen klar erkennen, welche Fähigkeiten zu den Kernkompetenzen der Branche gehören und diese unbedingt in den Händen der Menschen verfügbar sein müssen.
Die Piloten üben immer wieder die Handlungsstrategien bei einem Ausfall der Autopiloten aus. Andere Branchen sollten sich mit demselben Problem auseinandersetzen: Können die Mitarbeiter, wenn es notwendig ist und es keine AI gibt, die Arbeit alleine erledigen?
In der Welt der medizinischen Bildung gibt es Ansichten, die besagen, dass in den Trainings für grundlegende Fähigkeiten eine Phase eingerichtet werden sollte, in der das Verwenden von KI verboten ist. Zum Beispiel ist Diagnoselogik eine zentrale Kompetenz im medizinischen Arbeiten, und ein umfassendes Verständnis für die jeweiligen Fachgebiete und damit verbundenen Tätigkeiten ist ebenfalls unerlässlich.
Die Risiken müssen sofort angegangen werden
Wenn die Arbeitswelt das Einsetzen von KI weiter ausweitet, aber die Risiken durch den Verlust von Fähigkeiten ignoriert wird, könnten wir in der Zukunft die Fähigkeit verlieren, neue Menschen ohne KI zu trainieren. Mit anderen Worten: Die Menschen werden stark von Technologie und KI abhängig sein und ihre Fehler nicht mehr erkennen können.
Die Risikotoleranz der menschlichen Gemeinschaften basiert auf einer vielfältigen Anzahl an menschlichen Fähigkeiten.
Kelki sagte: „Die Degeneration der Fähigkeiten birgt große Risiken. Bevor es auf Ebene der Branche zu einer kollektiven Schwächung der Fähigkeiten kommt, sollten die menschliche Gesellschaft und die verschiedenen Fachbereiche dieses Problem im Voraus berücksichtigen.“
Methode zur Bewältigung der Schwächung von Kompetenzen
Man muss die Praktiker daran erinnern, dass der Einsatz von AI möglicherweise eine subtile Degradation der Fähigkeiten verursacht.
Sogar erfahrene, erfahrenen Praktiker sollten regelmäßig eine Überprüfung ihrer Kernkompetenzen durchführen.
Ein Teil der Arbeitsaufgaben kann nur von Menschen erledigt werden und darf nicht von der AI bearbeitet werden;
Die Arbeitgeber müssen Vorschriften für die Nutzung von AI entwickeln, die das Risiko einer Abnahme der Fähigkeiten berücksichtigen.
In der Hochschulphase von Fachkräften sollen Lernabschnitte, in denen das Einsatzverbot von KI verwendet wird, eingeschlossen sein.
Entwickeln Sie ein passendes Anreizsystem, um die Menschen dazu zu ermutigen, ihre fachlichen Kompetenzen aufrechtzuerhalten;
In Bereichen, in denen die Abnahme von Fähigkeiten die wichtigen Geschäfte der Gesellschaft bedrohen könnten, sollten Vorschriften erlassen werden, um die Nutzung von KI zu regulieren;
Die Branchengemeinschaften definieren die Kernkompetenzen, die in diesem Bereich von Menschen beherrscht werden müssen.
In weiteren Bereichen außerhalb der Medizin sollte weiterhin erforscht werden, wie die Fähigkeiten durch den Einsatz von KI abnehmen können.
Referenzmaterial: