OpenAI marcará con marca de agua el texto de ChatGPT en la UE, pero lo hace opcional para los usuarios de API en todo el mundo

OpenAI marcará con marca de agua el texto de ChatGPT en la UE, pero lo hace opcional para los usuarios de API en todo el mundo

OpenAI está añadiendo marcas de agua invisibles al texto de ChatGPT para cumplir con las normas de la UE. A diferencia de Anthropic, permitirá que los clientes de API de todo el mundo las desactiven.

Se informa que la Ley de IA de la UE exige a los proveedores de IA etiquetar el texto generado en un formato legible por máquina. La respuesta de OpenAI es textGrain, una tecnología que incrusta una señal estadística invisible en las elecciones de palabras del modelo. Funciona de manera muy similar a la marca de agua SynthID de Claude, que utiliza la tecnología de código abierto de Google.

OpenAI dice que activará la marca de agua para los usuarios de ChatGPT y Codex en la Unión Europea en las próximas semanas. La marca de agua en la API será opcional en todo el mundo, a diferencia de la marca de agua obligatoria de Anthropic para Claude, que se aplica globalmente independientemente de cómo los usuarios accedan a los modelos. La marca de agua en la API de OpenAI también estará disponible a través de socios de nube como Microsoft Azure en las próximas semanas.

Las ediciones de texto reducen drásticamente las tasas de detección

OpenAI dice que textGrain igualó o superó otros enfoques en pruebas internas, incluido el SynID de Google para texto. La compañía también planea lanzar la tecnología como código abierto para que otros puedan construir sobre ella.Anuncio

Las tasas de detección dependen en gran medida de la longitud del texto y del tema. Con el detector ajustado a una tasa objetivo de falsos positivos del 1 por ciento, identificó marcas de agua en aproximadamente el 95 por ciento de los pasajes de 400 tokens sobre psicología. Con 200 tokens, esa cifra cayó a alrededor del 80 por ciento.

Las tasas de detección fueron "sustancialmente más bajas" para el contenido matemático, donde el modelo tiene menos libertad para elegir palabras, dice OpenAI. Los pasajes más largos podrían fortalecer la señal estadística y mejorar la detección, aunque los resultados aún podrían depender del contenido. OpenAI no proporciona datos para probar esa suposición.

Editar el texto también hace que la marca de agua sea más difícil de detectar. OpenAI dice que reemplazar solo el 10 por ciento de las palabras con sinónimos reduce las tasas de detección de pasajes de 400 tokens de aproximadamente el 92 por ciento al 66 por ciento. Reemplazar una cuarta parte de las palabras reduce la detección al 17 por ciento, haciendo que la marca de agua sea fácil de evadir. Esa debilidad podría beneficiar a OpenAI. Los usuarios que no quieran que se detecte su uso de ChatGPT podrían cambiar a modelos de pesos abiertos si sus marcas de agua se vuelven más difíciles de eliminar.

Un informe técnico explica en profundidad cómo funciona textGrain. Anthropic no ha publicado tasas de detección para la marca de agua de Claude, aunque dice que su sistema resiste bien las ediciones.Anuncio

OpenAI dice que la marca de agua no perjudica la calidad de la salida, citando pruebas de su modelo fronterizo Astra. La compañía informa diferencias de rendimiento no significativas con la marca de agua activada o desactivada en ocho benchmarks, incluidos GPQA Diamond, BrowseComp y DeepSWE. Esos resultados no establecen si la marca de agua afecta la calidad de la escritura, algo que los críticos también han cuestionado sobre la marca de agua de Claude.

OpenAI también dice que una marca de agua detectada no revela nada sobre cuánta creatividad o edición humana se involucró en el texto. No establece propiedad, asigna responsabilidad, identifica a un usuario, ni muestra si el texto es preciso, y no detectar una marca de agua tampoco prueba que un humano escribió el texto. El pasaje podría ser demasiado corto, haber sido editado o traducido, o provenir de un modelo que el detector no admite.

OpenAI limitará el acceso al detector por ahora

Solo los investigadores seleccionados y las organizaciones especializadas tendrán inicialmente acceso al detector de textGrain. Pueden solicitarlo a través de un formulario de solicitud. OpenAI otorgará acceso caso por caso bajo el Código de Prácticasde la UE. Anthropic adopta un enfoque similar con su API de detección.

La herramienta solo informará si detectó una marca de agua de OpenAI. No identificará a los usuarios ni revelará sus prompts o conversaciones.

OpenAI dice que restringe el acceso porque el detector puede marcar texto sin marca de agua o pasar por alto marcas de agua. La compañía planea ampliar el acceso "cuando creamos que los resultados puedan interpretarse de manera responsable". No ha dicho cuándo podría ocurrir eso.

Las herramientas de verificación existentes para imágenes y audio siguen estando disponibles públicamente, incluyendo openai.com/verify y la API de Procedencia de Contenido.

Noticias de IA sin exageraciones – Curado por Humanos

Suscríbete a THE DECODER para leer sin publicidad, un boletín semanal de IA, nuestro informe exclusivo de frontera "AI Radar" seis veces al año, acceso completo al archivo y acceso a nuestra sección de comentarios.