IT之家 10월 20일 소식에 따르면, 로이터통신의 보도에 의해 OpenAI와 Meta의 대표는 현지 시간으로 이달 15일 열린 미국 사법회의 증거 규칙 자문위원회 회의에서 인공지능 기반의 심층 가짜 생성이 법적 소송에서의 증거 신뢰성을 심각하게 위협한다고 밝혔습니다.
OpenAI 정책 고문인 시라 앤더슨은 다음과 같이 말했습니다:
AI로 생성된 이미지의 품질이 점점 더 향상되고 있으며, 앞으로는 과학적 방법으로 그 이미지를 식별할 수 없을 것이라고 생각합니다.
메타 제품 관리 디렉터 데빈 노어더는 다음과 같이 말했습니다:
인간은 진정한 미디어와 최근 몇 세대의 첨단 AI 모델이 생성한 미디어를 구분할 수 없게 되었다. 현재 이러한 미디어를 제작하는 데 필요한 비용과 시간은 실제로 매우 적다.
전문가들은 법원이 인공지능이 생성한 거짓 증거를 막는 데 드는 어려움이 점점 커지고 있다고 경고하고 있습니다. 현재 여러 인공지능 기업들이 AI로 생성된 미디어에 보이거나 보이지 않는 수인을 추가하고 있지만, 이러한 수인을 검출할 수 있는 일반적인 방법은 아직 없습니다.
하지만, 심층 조작은 사법 분야의 실제 실무에서 드물다: 931명의 미국 판사가 참여한 조사에서 단 15명의 판사만이 심층 조작 혐의로 증거의 신뢰성에 의문이 제기된 상황을 겪었다.