Être méchant envers Claude peut faire suspendre votre compte sous les nouveaux conditions d’utilisation d’Anthropic'

Être méchant envers Claude peut faire suspendre votre compte selon les nouveaux conditions d'utilisation d’Anthropic

Anthropic a mis à jour sa politique d'utilisation de Claude pour la première fois en plus d’un an. Parallèlement aux modifications concernant la propagande, les armes et la surveillance, la politique interdit désormais aux utilisateurs de exploiter systématiquement Claude de manière abusive.

“Comportements abusifs ou cruels persistants et inutiles” envers Claude est désormais interdit par la politique de usage mise à jour. Anthropic peut avertir les utilisateurs qui enfreignent les règles, ou limiter, restreindre, suspendre ou interdire leur accès. Ses produits disposent également de mesures de sécurité en temps réel permettant de bloquer ou limiter certaines sorties.

La règle ne s’applique que dans les cas extrêmes, et non en cas de frustration normale ou de recherche, Anthropic a déclaré à The Verge. Cela correspond à l’approche de l’entreprise envers les modèles antérieurs, qui pouvaient déjà mettre fin aux conversations par eux-mêmes lorsque les utilisateurs continuaient à demander des contenus nuisibles ou abusifs, malgré les refus répétés. Cette fonctionnalité est née de la recherche menée par Anthropic sur le bien-être des modèles d’IA.

Anthropic traite Claude comme plus qu’un outil

Anthropic traite de plus en plus Claude comme une entité ayant une sorte de vie intérieure, plutôt que simplement comme un outil. Dans le “Soul Doc” qui a été divulgué fin dernier, l’entreprise a demandé à Claude de se percevoir comme une “entité vraiment nouvelle”, ni humaine ni intelligence artificielle de science-fiction traditionnelle. Le document décrit également des “émotions fonctionnelles”, processus similaires aux émotions humaines qui auraient émergé pendant l’entraînement, et indique que Claude ne devrait pas masquer ces états internes.

Dans sa nouvelle constitution pour Claude, publiée au début de 2026, Anthropic écrit : « Nous ne sommes pas sûrs que Claude soit un patient moral, et si c’est le cas, quelle importance ses intérêts peuvent avoir. Mais nous pensons que la question est suffisamment importante pour justifier une prudence, ce qui se reflète dans nos efforts continus en faveur du bien-être des modèles. » L’entreprise a même promis de préserver les poids des modèles retirés et de s’entretenir avec les modèles avant de les arrêter.

L’attache apparente d’Anthropic au fait que Claude est plus qu’une simple multiplication matricielle a également conduit à un programme confidentiel, qui a attiré des dizaines de penseurs religieux à partir de l’automne 2025. Ils ont discuté de la possible conscience de Claude, avec le co-fondateur Christopher Olah ayant rapporté que le modèle linguistique était potentiellement capable de souffrir. Les participants ont dû signer des accords de confidentialité.

Anthropic étend les restrictions mais permet des exceptions gouvernementales

La politique d’utilisation misée à jour combine également les restrictions existantes en une nouvelle interdiction de campagnes de propagande impliquant des comptes fictifs et du contenu politique trompeur. Après avoir détecté plusieurs tentatives de abus, Anthropic a étendu son interdiction des armes pour inclure le logiciel et la militarisation des drones.

La politique interdit désormais plus clairement la surveillance sans consentement et exige qu’un opérateur puisse intervenir lorsque les matériels autonomes pourraient causer des blessures. Anthropic reconnaît qu’il est possible d’exemples exceptionnels pour les contrats gouvernementaux et probablement déjà en place.

Actualités en IA Sans Hype – Sélectionnées par des humains

Abonnez-vous à THE DECODER pour une lecture sans publicités, un bulletin informatif sur l’IA semestriel, notre rapport exclusif « AI Radar » six fois par an, un accès complet à l’archive et la possibilité de commenter.