배우 우요이는 어제 발표에서 위챗 비디오 계정 "화자 미피 다이어리"가 AI를 이용해 그녀의 가짜 판매 영상을 만들었다고 주장했습니다. 그녀가 공개한 녹화 영상에는 "우요이"가 출연한 AI 영상이 있었습니다. 시작 부분에서는 "우요이"가 상품을 판매하는 모습이 나오고, 그 후에 그녀의 공개 행사 장면이 결합되어 있으며, "우요이"의 말투로 "이 제품은 그들이 저를 찾은 것이 아니라, 제가 그들을 찾은 것입니다... 효과는 정말 직관적입니다"라고 말합니다. 더욱 이상한 것은 영상 끝부분에 덩야핑과 유사한 판매 장면이 나타나며, 한 사람이 다른 사람을 위장하여 여러 사람을 연루시키는 것 같습니다.
펑다이 뉴스가 웨이시우 팀에 확인한 결과, 현재 해당 계정은 영구적으로 차단되었으며, 관련 내용은 삭제되어 보이지 않는다.
“청량” 특별 정비 대상의 경계선을 넘었다
이 사건은 규제된 총구에 정확히 부딪혔습니다. 9월 30일, 중앙정보사회망판공실은 전국에 2개월간의 "청량·썸네트바이럴 가짜 인격 행태 단속" 특별 작전을 배치하겠다고 통지했습니다. 주요 목표는 AI를 이용해 인물을 모방하는 행위를 단속하는 것입니다. 여기에는 AI를 통해 가짜 음성·영상을 만들어 대중인물을 사칭하고, 거짓적인 홍보 및 마케팅 등의 침해 행위가 포함됩니다.
AI 얼굴 변신 음성 생성의 기준이 매우 낮아져서, 공인들이 '얼굴을 빌리는' 대상이 되고 있습니다. 이번 웨이시우 비디오 계정의 빠른 정지 및 삭제 처리는 플랫폼이 저작권 침해 콘텐츠를 즉시 막는 조치이며, 위조 행위에 대한 엄격한 대응도 보여줍니다. 일반 사용자에게 있어서 '스타가 직접 제품을 홍보하는' 내용을 볼 때 주의를 기울이는 것이 나중에 권리 보호보다 더 효과적일 수 있습니다. 결국 한 번의 클릭으로 생성된 가짜 얼굴은 눈으로 구분하기 어렵기 때문입니다.