La conocida empresa de inteligencia artificial Anthropic recientemente revisó en su totalidad las políticas de uso de su asistente de IA Claude, y las nuevas regulaciones entrarán en vigor oficialmente el 12 de noviembre de 2026. Una de las cambios más destacados de esta revisión es la inclusión por primera vez en los términos una restricción clara que prohíbe “el maltrato o comportamiento cruel continuo y innecesario”.
Según las instrucciones oficiales, esta regla se aplica principalmente cuando los usuarios no tienen un propósito claro y someten repetidamente al modelo a tratos crueles. En cuanto a los mecanismos de implementación específicos, Anthropic indica que la forma actual de manejarlo es terminar el diálogo, aunque aún no está claro si en el futuro se introducirán medidas punitivas adicionales como el bloqueo de las cuentas de los usuarios. Al mismo tiempo, la empresa destaca especialmente que esta cláusula no se aplica a las quejas diarias de los usuarios, las dudas, la creación literaria con temas oscuros y los tests e investigaciones de seguridad del modelo que cumplen con las normas.
Además de establecer normas para la interacción hombre-máquina, Anthropic también ha ampliado y detallado varias prohibiciones en áreas clave:
Prohibición de armas mejorada: Se amplió aún más el ámbito de aplicación de las prohibiciones relacionadas con armas, incluyendo claramente los software y componentes que permiten el funcionamiento adecuado de las armas, así como las actividades de desarrollo de drones armados y otros vehículos autónomos. Anthropic reveló que anteriormente se han detectado varios intentos ilegales de utilizar Claude para desarrollar software de guía o control de armas.
Restricciones de monitoreo reforzadas: en las disposiciones de monitoreo se prohíbe claramente el seguimiento de personas sin consentimiento, ya sea el seguimiento en tiempo real o el análisis de datos existentes. Asimismo, está estrictamente prohibido utilizar Claude para decidir o sugerir objetivos de investigación, arresto o procesamiento en procedimientos de aplicación de la ley y justicia penal, así como para construir o mejorar cualquier herramienta de monitoreo.
Seguridad de hardware físico: Está estipulado que cuando la IA se conecta a hardware físico autónomo que pueda causar daño al entorno, debe haber personal calificado en el lugar para observar la situación y, si es necesario, poder detener el funcionamiento del dispositivo en cualquier momento. Sin embargo, para clientes gubernamentales específicos, Anthropic indica que las reglas pueden ajustarse de manera flexible, siempre que existan limitaciones contractuales y medidas de protección de seguridad adecuadas.