OpenAI는 EU에서 ChatGPT 텍스트에 워터마크를 적용하지만 전 세계 API 사용자에게는 선택 사항으로 만든다

OpenAI는 EU에서 ChatGPT 텍스트에 워터마크를 적용하지만, 전 세계 API 사용자에게는 선택 사항으로 만든다

OpenAI가 EU 규정을 준수하기 위해 ChatGPT 텍스트에 보이지 않는 워터마크를 추가하고 있습니다. Anthropic과 달리, 전 세계 API 고객이 이를 끌 수 있도록 허용할 예정입니다.

EU AI Act에 따르면 AI 제공자는 생성된 텍스트를 기계 판독 가능한 형식으로 라벨링해야 합니다. OpenAI의 대답은 textGrain으로, 모델의 단어 선택에 보이지 않는 통계적 신호를 심는 기술입니다. 이는 마치 다음과 유사하게 작동합니다. Claude의 SynthID 워터마크, which uses 구글의 오픈소스 기술.

OpenAI는 앞으로 몇 주 안에 유럽 연합의 ChatGPT 및 Codex 사용자를 위해 워터마킹을 활성화할 것이라고 밝혔습니다. 전 세계적으로 API 워터마킹은 옵트인 방식이 되며, 이는 다음과 다릅니다. Anthropic의 Claude 필수 워터마킹이는 사용자가 모델에 어떤 방식으로 접근하든 전 세계적으로 적용됩니다. OpenAI의 API 워터마킹은 앞으로 몇 주 안에 Microsoft Azure와 같은 클라우드 파트너를 통해서도 제공될 예정입니다.

텍스트 편집은 탐지율을 크게 낮춘다

OpenAI는 textGrain이 Google의 텍스트용 SynthID를 포함한 내부 테스트에서 다른 접근 방식과 동등하거나 더 나은 성능을 보였다고 말합니다. 이 회사는 또한 다른 사람들이 이를 기반으로 구축할 수 있도록 해당 기술을 오픈 소스로 공개할 계획입니다.Ad

탐지율은 텍스트 길이와 주제에 크게 좌우됩니다. 탐지기를 1퍼센트의 목표 위양성률로 설정했을 때, 심리학에 관한 400토큰 분량의 문단에서 약 95퍼센트의 워터마크를 식별했습니다. 200토큰에서는 약 80퍼센트로 떨어졌습니다.

수학 콘텐츠의 경우 모델이 단어를 선택할 자유가 적기 때문에 탐지율이 "상당히 낮다"고 OpenAI는 말합니다. 더 긴 문단은 통계적 신호를 강화하고 탐지를 개선할 수 있지만, 결과는 여전히 콘텐츠에 따라 달라질 수 있습니다. OpenAI는 그 가정을 검증할 데이터를 제공하지 않습니다.

텍스트를 편집하면 워터마크 탐지가 더 어려워집니다. OpenAI에 따르면 단어의 10퍼센트만 동의어로 교체해도 400토큰 문단의 탐지율이 약 92퍼센트에서 66퍼센트로 떨어집니다. 단어의 4분의 1을 교체하면 탐지율이 17퍼센트로 하락하여 워터마크를 쉽게 회피할 수 있습니다. 이 약점은 OpenAI에게 유리하게 작용할 수 있습니다. 자신의 ChatGPT 사용이 탐지되기를 원하지 않는 사용자들은 워터마크 제거가 더 어려워지면 오픈 웨이트 모델로 전환할 수 있습니다.

A 기술 보고서 는 textGrain의 작동 방식을 심도 있게 설명합니다. Anthropic은 Claude의 워터마크에 대한 탐지율을 공개하지 않았지만, 자사 시스템이 편집에 잘 견딘다고 말합니다.Ad

OpenAI는 워터마킹이 출력 품질을 해치지 않는다고 말하며, 자사의 프론티어 모델 Astra에 대한 테스트를 근거로 제시합니다. 이 회사는 GPQA Diamond, BrowseComp, DeepSWE를 포함한 8개 벤치마크에서 워터마킹을 켜거나 끄는 것에 따른 유의미한 성능 차이가 없다고 보고합니다. 이러한 결과는 워터마킹이 글쓰기 품질에 영향을 미치는지 여부는 입증하지 못하는데, 이는 비평가들이 Claude의 워터마크에 대해서도 의문을 제기한 부분입니다.

OpenAI는 또한 워터마크가 탐지되었다고 해서 텍스트에 인간의 창의성이나 편집이 얼마나 들어갔는지에 대해서는 아무것도 알 수 없다고 말합니다. 워터마크는 소유권을 확립하거나, 책임을 부여하거나, 사용자를 식별하거나, 텍스트가 정확한지 보여주지 않으며, 워터마크 탐지에 실패했다고 해서 인간이 텍스트를 작성했다는 증거도 되지 않습니다. 해당 문단이 너무 짧거나, 편집 또는 번역되었거나, 탐지기가 지원하지 않는 모델에서 나왔을 수도 있습니다.

OpenAI는 당분간 탐지기 접근을 제한할 예정

처음에는 선별된 연구자와 전문 기관만이 textGrain의 탐지기에 접근할 수 있습니다. 이들은 다음을 통해 신청할 수 있습니다. 신청서. OpenAI는 EU의 행동 강령. Anthropic도 탐지 API에서 비슷한 방식을 취하고 있습니다.

이 도구는 OpenAI 워터마크를 탐지했는지 여부만 보고합니다. 사용자를 식별하거나 프롬프트나 대화 내용을 공개하지는 않습니다.

OpenAI는 탐지기가 워터마크가 없는 텍스트를 표시하거나 워터마크를 놓칠 수 있기 때문에 접근을 제한한다고 밝혔습니다. 회사는 "결과를 책임 있게 해석할 수 있다고 판단될 때" 접근을 확대할 계획입니다. 그 시기가 언제가 될지는 밝히지 않았습니다.

이미지와 오디오용 기존 검증 도구는 다음을 포함해 계속 공개적으로 이용할 수 있습니다: openai.com/verify 그리고 Content Provenance API.

AI News Without the Hype – Curated by Humans

광고 없는 읽기, 주간 AI 뉴스레터, 연 6회 독점 "AI Radar" 프론티어 리포트, 전체 아카이브 접근, 댓글 섹션 이용을 위해 THE DECODER를 구독하세요.