IT之家 10월 28일 소식에 따르면, 인공지능은 이미 많은 전문 분야에서 조수의 역할을 하고 있으며, 의사, 연구원, 소프트웨어 개발자들이 업무에서 이를 사용하고 있다. 문제는 이로 인해 연구자들이 말하는 기술 쇠퇴 현상이 발생한다는 것이다. 즉, 사람들은 업무를 AI에 맡기면서 자신의 전문 능력이 하락하게 된다.
IT之家에 따르면, 이론 철학 분야의 연구원인 카이사 케르키가 《전문 기술의 쇠퇴에 대해 누가 책임을 져야 하는가?》라는 제목의 연구 논문에서 이 문제를 다루었습니다. 이 연구 결과는 《인간 사업》 저널에 발표되었습니다.
“기술 쇠퇴로 인한 문제 중 하나는, 전문가들이 일상적인 업무에서 이러한 변화를 쉽게 알아차리지 못한다는 것입니다. 그 이유 중 하나는 AI에 의존하는 것에 대한 인식 오류 때문입니다. 우리가 대형 언어 모델과 대화하며 설득력 있는 답변을 받으면, 과도한 의존도를 갖게 되기 쉽습니다. 하지만 이러한 모델들도 실수를 할 수 있습니다.”
케일키는 의료 업계를 예로 들었다: 만약 한 의사가 대형 언어 모델에 의존하지만 모델이 제공하는 오류 정보을 발견하지 못한다면 의료 사고가 발생할 수 있다. 문제가 생겼을 때 누가 책임을 져야 할까?
“일반적으로 책임과 관련된 철학적 이론에 따르면, 행위자는 자신이 알고 있는 상황에서 행한 행동에 대해서만 책임을 져야 합니다. 하지만 AI 사용으로 인해 발생하는 눈에 띄지 않는 인지 편향은 이러한 관점에 도전을 제기합니다. 결국 우리는 자신의 편향이나 AI에 과도하게 의존하는 경향을 발견하기 어렵습니다. 따라서 이러한 조용한 능력 저하와 그로 인한 실수에 대해 우리가 책임을 져야 하는지에 대해서는 아직 결정된 바가 없습니다.”
AI 없이도 우리는 정상적으로 작동할 수 있을까?
켈키는 기술의 쇠퇴 자체가 매우 미묘하게 나타나기 때문에, 관련 문제의 책임을 전적으로 실무자 개인에게만 돌릴 수는 없다고 지적했습니다. 이는 사회적이고 구조적인 문제입니다.
각 전문 커뮤니티는 어떤 것이 해당 업계의 핵심 역량이며, 인간의 손에 반드시 확보되어야 하는 것인지를 명확히 해야 한다.
조종사는 자율주행이 작동하지 않을 때의 대처 방안을 반복적으로 연습합니다. 다른 업계도 같은 문제를 고민해야 합니다: 필요할 때, AI가 없다면 전문가들이 스스로 일을 완수할 수 있을까?
"의학 교육 분야에서는 기본 기술 훈련에 AI 사용을 금지하는 단계를 포함해야 한다는 의견이 제시되어 왔습니다. 예를 들어, 진단 추론은 의료 업무의 핵심 능력이며, 전문 분야와 관련 업무에 대한 전체적인 이해도 또한 필수적입니다."
위험에 대처하기 위해 지금 당장 행동해야 합니다.
직장에서 AI의 사용이 계속 확대되는 반면, 기술의 쇠약화가 초래하는 위험을 무시한다면, 미래에 우리는 AI 없이 새로운 인재를 양성하는 능력을 잃게 될 수 있습니다. 다시 말해, 사람들은 기술과 AI에 깊은 의존도를 형성하게 되고, 그 오류를 구별할 능력을 잃게 됩니다.
인류 공동체의 위험 대응 능력은 다양한 인류 기술의 축적에 기반한다.
카일키는 “기술의 쇠퇴는 엄청난 위험을 내포한다. 업계 차원에서 집단적인 능력 저하가 발생하기 전에, 인류 사회와 각 전문 분야는 이 문제를 미리 고려해야 한다.”고 말했다.
대응 기술 퇴화에 대한 대처 방법
전문가들이 AI를 사용함으로써 능력이 서서히 저하될 수 있다는 점을 인식해야 합니다.
경험이 풍부한 숙련된 전문가라도 정기적으로 핵심 역량 평가를 받아야 합니다.
일부 업무는 인간만이 수행할 수 있으며, AI가 처리하는 것은 허용되지 않습니다.
고용주는 능력 저하 위험을 고려한 AI 사용 규정을 마련해야 합니다;
전문 인력의 고등 교육 단계에서 AI 사용이 금지된 학습 세션을 설정하는 것이 필요합니다;
부합하는 인센티스 시스템을 설계하여 사람들이 자신의 전문 능력을 유지하도록 격려하세요.
기술이 쇠약해지는 것이 사회의 핵심 사업에 위협이 되는 분야에서는 AI의 사용을 규제하는 법률을 제정해야 한다.
업계 커뮤니티가 해당 분야에서 인간이 반드시 갖추어야 할 핵심 기술을 정의한다.
의학 외의 여러 분야에서 AI 사용으로 인한 능력 저하 문제에 대해 더 깊은 연구가 필요하다.
참고 자료: