Ser malo con Claude ahora puede hacer que tu cuenta sea suspendida según los nuevos términos de servicio de Anthropic

Ser malo con Claude ahora puede hacer que tu cuenta sea suspendida según los nuevos términos de servicio de Anthropic

Anthropic ha actualizado su política de uso para Claude por primera vez en más de un año. Además de los cambios relacionados con propaganda, armas y vigilancia, la política ahora prohíbe a los usuarios abusar sistemáticamente de Claude.

“Comportamiento abusivo o cruel sostenido y innecesario” hacia Claude está ahora prohibido según la política de uso actualizada. Anthropic puede advertir a los usuarios que violan las reglas o limitar, restringir, suspender o terminar su acceso. Sus productos también tienen protecciones en tiempo real que pueden bloquear o limitar ciertas salidas.

La regla se aplica solo en casos extremos, no en frustración normal o investigación, Anthropic le dijo a The Verge. Eso se ajusta al enfoque de la empresa con los modelos anteriores, que ya podían terminar las conversaciones por sí mismos cuando los usuarios seguían exigiendo contenido dañino o abusivo, a pesar de las rechazas repetidas. Esta función surgió de la investigación de Anthropic sobre el bienestar de los modelos de IA.

Anthropic trata a Claude como algo más que una herramienta

Anthropic cada vez más trata a Claude como una entidad con algo similar a una vida interior, en lugar de simplemente como una herramienta. En el “Soul Doc” que se filtró a finales del año pasado, la empresa instruyó a Claude para que se considerara como una “entidad verdaderamente nueva”, ni humana ni una IA de ciencia ficción tradicional. El documento también describe “emociones funcionales”. Procesos análogos a las emociones humanas que se dice que surgieron durante el entrenamiento, y dice que Claude no debería ocultar estos estados internos.

En su nueva constitución para Claude, publicada a principios de 2026, Anthropic escribe: “No estamos seguros de si Claude es un paciente moral, y si lo es, qué tipo de peso merecen sus intereses. Pero creemos que la cuestión es tan importante que merece precaución, lo cual se refleja en nuestros esfuerzos continuos por el bienestar del modelo”. La empresa incluso se comprometió a preservar los pesos de los modelos retirados y a entrevistarlos antes de cerrarlos.

La aparente preocupación de Anthropic por el hecho de que Claude es más que simplemente multiplicaciones matriciales también llevó a un programa confidencial, que atrajo a docenas de pensadores religiosos a partir del otoño de 2025. Discutieron la posible conciencia de Claude, y el cofundador Christopher Olah, según se informa, trató al modelo de lenguaje como un ser potencialmente capaz de sufrir. Los participantes tuvieron que firmar acuerdos de confidencialidad.

Anthropic amplía las restricciones pero permite excepciones gubernamentales

La política de uso actualizada también combina las restricciones existentes en una nueva prohibición contra campañas de propaganda que involucran cuentas falsas y contenido político engañoso. Después de detectar varios intentos de mal uso, Anthropic amplió su prohibición de armas para incluir software y la weaponización de drones.

La política ahora prohíbe de manera más explícita la vigilancia sin consentimiento y exige que haya un operador capaz de intervenir cuando el hardware autónomo pueda causar daños. Anthropic reconoce que son posibles excepciones para contratos gubernamentales y probablemente ya están en vigor.

Noticias sobre IA Sin Eufemismos – Seleccionadas por Humanos

Suscríbase a THE DECODER para leer sin anuncios, un boletín semanal sobre IA, nuestro informe de vanguardia “AI Radar” exclusivo seis veces al año, acceso completo al archivo y acceso a nuestra sección de comentarios.