IT之家 10월 16일 소식, 삼성은 딥페이크 탐지 기업 Reality Defender와 협력해 기업 사용자 대상 온디바이스 AI 딥페이크 탐지 솔루션을 개발한다고 발표했다. 해당 솔루션은 삼성 Galaxy 기기에서 직접 구동되며, 기업이 AI로 생성된 가짜 음성, 영상, 이미지를 식별해 사칭 사기 및 기타 관련 위험을 줄이도록 돕고, 싱가포르 시장에서 먼저 도입될 계획이다.
IT之家에 따르면, Reality Defender는 엔터프라이즈급 딥페이크 탐지에 특화되어 있으며, 다양한 AI 모델을 활용해 음성, 영상, 이미지 콘텐츠를 실시간으로 분석한다. 예를 들어 해당 기술은 실시간 통화에서 타인을 사칭하는 합성 음성을 식별할 수 있고, 고객 신원 확인 및 신규 사용자 가입 심사에도 활용되어 기업이 의심스러운 가짜 콘텐츠를 발견하도록 돕는다.
Reality Defender는 생성형 AI 기술의 발전에 따라 합성 음성과 영상을 이용한 사기가 점점 더 주목받고 있다고 밝혔다. 조사에 따르면 2024년 싱가포르 기업의 56%가 음성 딥페이크 사기를 당한 적이 있으며, 별도로 52%의 기업이 영상 딥페이크 관련 사건을 겪었다.
개인 사용자 역시 이러한 사기로 인한 경제적 손실에 직면해 있다. 데이터에 따르면 2025년 싱가포르에서 정부 관리 사칭 사기의 영향을 받은 피해자들이 최소 2.429억 싱가포르달러)를 손실했으며, 이는 현지 연간 사기 피해 총액의 26.6%를 차지한다.
삼성전자 싱가포르 법인 통합사업부 이사이자 책임자인 Timothy Tan은 삼성은 이번 협력을 통해 기업이 잠재적 위협을 더 일찍 발견하도록 돕고자 하며, 양사는 관련 데이터가 클라우드로 업로드되어 처리되기 전에 잠재적 위험을 식별할 수 있는 실용적인 온디바이스 딥페이크 탐지 솔루션을 개발할 계획이라고 밝혔다.
이번 협력의 주요 중점 중 하나는 탐지 과정을 Galaxy 기기 로컬에서 완료하는 것이다. 클라우드 분석에 의존하는 방식과 비교할 때, 이 방식은 민감한 데이터를 외부 서버로 전송해야 할 필요를 줄여 데이터 유출 위험을 낮출 수 있을 것으로 기대된다. 삼성은 또한 Knox 보안 플랫폼을 활용해 관련 기능에 보호를 제공할 계획이다. Knox는 칩 하위 계층부터 애플리케이션 계층까지 여러 보안 단계를 포괄한다.
현재 삼성은 이 솔루션의 구체적인 출시 시기를 공개하지 않았으며, 어떤 Galaxy 모델이 지원을 받을지도 밝히지 않았다. 현재로서는 해당 프로젝트가 주로 싱가포르 기업 사용자를 대상으로 하며, 향후 현지 기업이 AI 사기 위험을 피하도록 먼저 도움을 줄 것으로 기대된다.