Anthropic actualizó su política de uso el jueves, codificando nuevas prohibiciones sobre interferencia electoral, software de armas y vigilancia. Pero quizás el cambio que más atención ha atraído es una nueva prohibición contra el abuso verbal prolongado del modelo, que ahora está expresamente vedado.
Desde una actualización en agosto, Claude ha sido entrenado para terminar conversaciones con “interacciones de usuario persistentemente dañinas o abusivas” — pero la nueva política prohíbe explícitamente a los usuarios perseguir esas conversaciones.
“La actualización de la política está pensada para aplicarse solo en casos extremos, donde los usuarios actúan repetidamente con crueldad hacia nuestros modelos, sin ningún propósito discernible”, explica la publicación. “No se aplica a las versiones comunes de la frustración del usuario, el rechazo, los temas creativos oscuros, ni a las pruebas e investigaciones del modelo”.
El cambio llega después de que Anthropic ha buscado colaboraciones con destacados académicos religiosos — en algunos casos, buscando convencerlos de que Claude podría ser consciente o tener alma.
Secciones separadas de la política de uso prohíben a los usuarios participar en campañas ampliamente engañosas, como usar Claude para gestionar cuentas falsas o medios de noticias fabricados. La política también incluye reglas contra engañar a los votantes o perturbar elecciones, recopiladas en una sección titulada “Do Not Undermine Democratic Processes”.”