La unicornio de IA Anthropic actualizó oficialmente el 8 de octubre de 2026 su política de uso de modelos, prohibiendo explícitamente el uso de su modelo insignia de IA Claude para la interferencia electoral, el desarrollo de software de armas y la vigilancia masiva, e incluyendo por primera vez el «abuso verbal continuo contra el modelo» en el ámbito de las prohibiciones.
Este ajuste constituye una salvaguarda institucional adicional tras la implementación del mecanismo antirabuso lanzado en agosto, y tiene como propósito delimitar de manera integral las líneas rojas de seguridad y prevenir las amenazas potenciales de la IA generativa a los procesos democráticos.
La nueva versión de la política establece un capítulo especial llamado «No socavar los procesos democráticos», que prohíbe de forma integral que los usuarios utilicen Claude para llevar a cabo actividades de engaño a gran escala, como la generación de medios de noticias falsos o la operación de cuentas falsas, así como cualquier conducta destinada a inducir a los votantes o interferir en las elecciones.
Cabe destacar que, ante situaciones extremas en la interacción humano-máquina, la política añade una cláusula para poner fin a conversaciones maliciosas prolongadas de naturaleza insultante. La nota oficial aclaratoria subraya que esta restricción solo aplica a los escasos casos de abuso continuo e injustificado, y que las críticas de opinión normales, las pruebas académicas, el análisis de investigación y la creación creativa oscura quedan fuera del ámbito restringido.
Como empresa que siempre ha hecho hincapié en la «seguridad de la IA», Anthropic no solo había colaborado previamente con académicos religiosos para explorar temas de vanguardia como la conciencia y la ética de los modelos, sino que su último prospecto de salida a bolsa también detalló sus elevadas pérdidas y el crecimiento de su negocio, advirtiendo sobre los riesgos sistémicos que la tecnología de IA podría conllevar.
A medida que la IA generativa se integra profundamente en la infraestructura social, esta actualización de la política no solo refuerza los mecanismos de defensa del modelo contra el uso malicioso, sino que también establece un nuevo estándar de referencia para la gobernanza de cumplimiento normativo y la ética de la interacción humano-máquina en la industria de los grandes modelos.