Claude traverse récemment une vague de bannissements glaçante. Pendant toutes les vacances, les discussions autour de ses bannissements ont même dépassé le million, et les développeurs d'IA ont collectivement pété un câble.
Ce feu a été rallumé par un ancien rapport. Anthropic avait publié un rapport en juillet, récemment déniché d'un coin d'ombre et devenu viral sur tout le web, dont les chiffres sont proprement vertigineux : au premier semestre 2026, en l'espace de six mois seulement, Claude a banni au total 1140万个 comptes, et parmi les 39.8万 appels soumis par les utilisateurs, seuls 4.2万 ont finalement abouti.
En étalant ces comptes, cela représente en moyenne près de 190万个 comptes supprimés chaque mois, soit plus de 6万个 comptes effacés physiquement du monde cyber chaque jour. Converti en taux de réussite, environ 9 personnes sur 10 bannies sont froidement exécutées — la voie du recours est quasiment un Potemkin. Le bannissement ne prend qu'un instant, le temps d'une phrase de la plateforme, mais pour inverser la décision, l'utilisateur affronte une longue et tortueuse guerre d'usure d'appels.
Anthropic n'a pas dévoilé la répartition complète des motifs de bannissement, mais a clairement listé plusieurs catégories de situations déclenchant un bannissement. Une partie centrale entière du rapport est consacrée à la modération des contenus d'infraction extrêmes : rien que sur le premier semestre, elle a transmis plus de 1.5万 rapports d'infraction à des organisations internationales de sécurité telles que le NCMEC, non seulement en recourant à la méthode traditionnelle de correspondance par empreinte de hachage, mais en déployant aussi intégralement ses propres nouveaux classificateurs d'apprentissage automatique. Toute instruction impliquant des abus illégaux, des atteintes à la vie privée, une malveillance inductrice, une automutilation extrême, etc., déclenche presque instantanément la mort de la modération intégrée au modèle — dès qu'un Prompt touche une frontière sensible, le système ne donne même pas un second avertissement et procède directement à un bannissement permanent.
L'autre zone sinistrée majeure est le tir sans discrimination d'un grand nombre de comptes frauduleux, combiné à la restriction par zones prises en charge, et beaucoup sont tombés en masse devant ce barrage.
Encore plus révélateur, Anthropic vient de mettre à jour la politique d'utilisation de Claude, interdisant expressément l'insulte et la cruauté envers Claude. La nouvelle règle entre en vigueur à partir du 12 novembre : les utilisateurs qui maltraitent le modèle d'IA sans raison s'exposent à une limitation de débit, voire à un bannissement, et c'est la première révision de la politique d'utilisation par Anthropic depuis plus d'un an. L'entreprise explique que cette règle ne s'applique qu'aux cas extrêmes, c'est-à-dire lorsque des utilisateurs infligent de façon répétée des traitements cruels au modèle sans but évident ; l'expression quotidienne de mécontentement, la réfutation des points de vue du modèle, la création de contenus sombres, ainsi que les tests de modèles et la recherche, ne sont en aucun cas interdits. Alors qu'une entreprise réputée pour ses bannissements se dote de règles contre la maltraitance, la frontière des droits et responsabilités entre l'IA et ses utilisateurs est en train d'être retracée.