OpenAI는 EU AI Act을 준수하기 위해 유럽 연합에서 ChatGPT와 Codex가 생성한 텍스트에 보이지 않는 워터마크를 추가하기 시작할 것이라고 회사는 월요일에 블로그 게시물에서 밝혔다.
EU AI Act의 투명성 규정는 8월 2일에 시행되었으며, 이 규정에 따라 AI 기업은 AI로 생성된 콘텐츠를 다른 시스템이 식별할 수 있는 방식으로 표시해야 합니다.
OpenAI는 향후 몇 주 내에 모든 플랜의 ChatGPT와 Codex 사용자에게 해당되는 경우 워터마크가 적용될 것이라고 밝혔지만, 이는 EU에서만 적용됩니다. 전 세계 어디에서든 OpenAI의 API를 사용하는 개발자는 오늘부터 특정 모델에만 워터마크를 활성화할 수 있으며, 기본 상태에서는 워터마크가 비활성화되어 있습니다. OpenAI는 출시 시 텍스트 워터마킹을 전 세계적으로 기본으로 적용하지 않을 것이라고 말했습니다.
워터마크는 실제 상징이 아니라, 모델의 단어 선택을 미묘하게 변형시켜 독자에게는 보이지 않는 패턴을 만들어내지만 검출기는 이를 감지할 수 있습니다. 워터마크가 단어 자체에 존재하기 때문에, 복사하거나 붙여넣을 때 텍스트와 함께 전파됩니다. OpenAI는 워터마크가 사용자를 식별하지 않으며, 켜놓았을 때 모델의 성능에는 의미 있는 변화가 없었다고 말했습니다.
OpenAI는 이 발표와 함께 기술 보고서도 공개했습니다. 이 보고서는 텍스트Grain이라는 방법에 관한 내용이며, 펜실베이니아 대학교와 예일 대학의 연구자들과 공동으로 작성되었습니다. 이 보고서에서는 비밀 키를 사용하여 다음 단어를 예측하는 과정을 통해 문장을 완성하는 예를 설명합니다. 이러한 여러 예시들을 합치면, 탐지기는 텍스트와 키만으로 AI가 생성한 콘텐츠를 식별할 수 있습니다.
워터마크를 편집으로 제거할 수 있을까? OpenAI의 테스트 결과에 따르면 가능하다고 합니다. 한 테스트에서 단어의 10%를 동의어로 대체했을 때 감지율이 약 92%에서 66%로 떨어졌습니다. 또한 회사는 짧은 구절, 수학 문제 답안, 번역된 텍스트가 감지하기 어렵다고 말했습니다.
“이러한 제한 사항은 승인된 연구자들과 전문 기관들에게만 초기 탐지기 접근 권한을 제공하기로 한 우리의 결정에 기여합니다. 이들은 신뢰성과 책임 있는 사용을 평가하는 데 도움을 줄 수 있습니다.”라고 회사는 말했습니다.
OpenAI는 또한 워터마크가 누락된 경우 “인간의 저작권을 증명하지 않는다”고 경고했습니다. 그 텍스트는 너무 짧거나 과도하게 편집된 경우일 수도 있고, 다른 회사의 AI에서 나온 것일 수도 있습니다.
“[워터마크]은 OpenAI 시스템이 글의 일부를 생성하거나 처리했음을 나타낼 수 있지만, 인간의 판단, 편집 또는 창의성이 얼마나 포함되었는지는 표시하지 않습니다”라고 회사는 말했습니다.
Anthropic이 Claude가 생성한 텍스트에 워터마크를 삽입하겠다고 발표했습니다. 이 조치는 전 세계적으로 적용되고 있습니다. 이 결정은 일부 Claude 사용자들로부터 반발을 불러일으켰습니다. 이들은 Claude가 단지 “도구”에 불과했음에도 불구하고 “지시, 맥락, 결정”을 제공했다고 주장했습니다.
OpenAI는 이전에 텍스트 워터마크를 만들었지만, 사용자들이 워터마크가 없는 경쟁 기업으로 옮겨갈까 봐 2024년에 월스트리트 저널이 보도한 것처럼 이를 출시하지 않았습니다.
Anthropic, Google, Meta, Microsoft 및 OpenAI는 AI 생성 콘텐츠에 관한 EU의 코드 프레이밍을 준수하기로 약속한 회사들 중에 포함됩니다.