IT之家 11월 6일 소식, 사이버안정화판공실은 최근 AI 기술을 이용한 공인 인물 사칭·모방에 대해 집중 단속을 진행하여 위법·위규 정보를 총 4.7만여 건 정리하고 계정 3961개를 처리했다. 이번 단속은 허위 상품판매, 팬 유치 및 트래픽 유도, 유언비어 조작, 저속한 패러디 등 행위에 초점을 맞췄으며, 관련 계정은 법과 규정에 따라 처리되었다.
사이버안정화판공실은 4가지 전형 사례를 통보했으며, 이는 현재 AI를 통한 공인 인물 모방의 주요 위규 형태를 망라한다.
첫 번째 유형은 승인 없이 AI로 유명인의 초상을 모방하거나 유명인의 목소리를 합성하고, 또는 공인 인물 가족의 초상을 도용하여 상품 홍보와 트래픽 유도·판매를 진행하는 것으로, 위챗, 더우인, 샤오홍슈 플랫폼의 여러 계정이 관련되었다.
두 번째 유형은 공인 인물의 초상 사진을 도용하고 AI 특수효과를 이용해 병에 걸렸다는 등의 유언비어 정보를 날조하여 대중의 인식을 오도하는 것이다.
세 번째 유형은 1인칭으로 공인 인물을 사칭하여 의견을 발표하거나 경험을 이야기하고 감성 멘트를 게시하며 사용자의 관심을 유도하는 것으로, 더우인, 샤오홍슈, 비리비리, 콰이수에 분포되어 있다.
네 번째 유형은 AI를 이용해 저명한 공인 인물이 저속한 춤을 추거나 친밀한 상호작용을 하는 등의 화면을 생성·합성하고, 이를 기회로 팬을 모아 마케팅으로 이익을 챙기는 것이다.
이번 단속은 2026년 사이버안정화 부문의 AI 혼란에 대한 지속적 관리 프레임워크에 포함된다. IT之家가 이전에 보도했듯이, 중앙사이버안정화판공실은 9월 '清朗(칭랑) · AI 애플리케이션 혼란 정비' 전문 행동 2단계 업무를 배치하고 '타인 사칭·모방'을 중점 문제 중 하나로 지정했으며, 9월 초까지 위법·위규 정보를 총 561만여 건 정리하고 계정 4.9만여 개를 적발·처리했다.
올해 9월 말, 중앙사이버안정화판공실은 다시 통지문을 발부하여 전국에서 2개월간의 '清朗(칭랑) · 단영상 허위 인설 혼란 정비' 전문 행동을 전개했으며, 그중에서 'AI 등을 이용한 인물 사칭'을 5가지 중점 정비 문제 중 하나로 명확히 지정하고, AI가 합성한 허위 음향·영상으로 공인 인물을 사칭하여 허위 대행·마케팅 등을 하는 행위를 겨냥했다. 이번에 통보된 사례는 상기 전문 행동의 정비 대상과 직접 대응된다.
사이버안정화 부문은 통보에서 문제가 두드러진 웹사이트·플랫폼에 대해 법과 절차에 따라 적발·처리하고, 다음 단계로 AI를 통한 공인 인물 사칭·모방 문제에 대한 단속 강도를 지속적으로 높여 플랫폼의 주체적 책임을 강화하고 AI 기술의 남용을 방지하겠다고 밝혔다.