IT之家 Mensaje del día 5 del mes 10: OpenAI anunció hoy que, para cumplir con los requisitos de transparencia de contenido de la Ley de Inteligencia Artificial de la Unión Europea, en las próximas semanas añadirá marcas de agua invisibles, reconocibles por máquinas, a los resultados de texto de ChatGPT y Codex que cumplan los requisitos en la región de la UE.
Según se informó, la tecnología de marca de agua de texto se llama textGrain (marca de agua de granulado textual), que incrusta señales estadísticas invisibles durante el proceso de selección de palabras del modelo. El detector, al identificar esa señal, determina si un texto lleva la marca de agua de OpenAI.
IT之家 observó que el siguiente paso de OpenAI será extender la marca de agua de texto en la UE. En las próximas semanas, el equipo introducirá la función de marca de agua de texto únicamente en la UE, para usuarios de ChatGPT y Codex de todos los planes que cumplan los requisitos. Cabe destacar que OpenAI no establecerá la marca de agua de texto como predeterminada global en el lanzamiento.
OpenAI habilitará la función de marca de agua como opción de participación para clientes de la API. A partir de hoy, los clientes de la API de todo el mundo podrán optar por añadir marcas de agua a los resultados de texto de algunos modelos. Esto permite a los clientes decidir cómo la marca de agua se ajusta a sus obligaciones de transparencia y a la experiencia que ofrecen a sus usuarios. El equipo también está trabajando con socios de nube para ofrecer en las próximas semanas la función de marca de agua en los resultados de los modelos de OpenAI accesibles a través de sus servicios.
OpenAI también proporcionará acceso al detector a investigadores y organizaciones de expertos; los investigadores y organizaciones de expertos aprobados pueden solicitarlo a partir de hoy. El acceso, conforme a un código de conducta, se otorgará inicialmente caso por caso según las circunstancias, para apoyar la evaluación y mejora de la procedencia del texto. La herramienta informará si se detecta una marca de agua de OpenAI, pero no revelará la identidad del usuario ni el contenido de las instrucciones ni el de las conversaciones.