IT之家 10월 5일 소식에 따르면, OpenAI는 《유럽연합 인공지능 법안》의 내용 투명성 요구에 부응하여, 향후 몇 주 내에 유럽연합 지역에서 적용 대상인 ChatGPT와 Codex 텍스트 출력에 기계가 인식할 수 있는 은폐된 수축인을 추가할 것이라고 발표했습니다.
보도에 따르면, 텍스트 워터마크 기술의 이름은 textGrain(텍스트 그레인 워터마크)이며, 모델 단어 선택 과정에서 보이지 않는 통계 신호를 삽입합니다. 검출기는 이 신호를 인식하여 특정 텍스트에 OpenAI 워터마크가 있는지 여부를 판단합니다.
IT之家에 따르면, OpenAI는 다음 단계로 유럽연합에서 텍스트 워터마크를 도입할 예정입니다. 향후 몇 주 동안, 팀은 유럽연합 내 모든 프로젝트에서 자격이 있는 ChatGPT와 Codex 사용자에게만 텍스트 워터마크 기능을 도입할 것입니다. 특히, OpenAI는 배포 시 텍스트 워터마크를 전 세계적으로 기본 설정으로 하지 않을 예정입니다.
OpenAI는 API 고객에게 선택적으로 추가할 수 있는 워터마크 기능을 도입할 예정입니다. 오늘부터 전 세계의 API 고객은 일부 모델에 워터마크 텍스트를 포함한 출력 결과를 선택할 수 있게 됩니다. 이를 통해 고객은 워터마크가 자신들의 투명성 의무와 사용자에게 제공되는 경험에 어떻게 부합하는지 결정할 수 있습니다. 또한 팀은 클라우드 파트너들과 협력하여 향후 몇 주 내에 자사 서비스를 통해 접근하는 OpenAI 모델의 출력에 워터마크 기능을 제공할 계획입니다.
OpenAI는 연구자와 전문가 단체에 탐지기 접근 권한도 제공할 예정이며, 승인된 연구자 및 전문가 단체는 오늘부터 신청할 수 있다. 행동 규범에 따라 접근 권한은 상황에 따라 개별적으로 부여되며, 텍스트 출처의 평가와 개선을 지원하기 위한 것이다. 이 도구는 OpenAI 워터마크가 감지되는지 여부를 보고할 것이나, 사용자 식별 정보나 대화 내용은 공개하지 않을 것이다.