L’entreprise de intelligence artificielle renommée Anthropic a récemment révisé en profondeur les règles d’utilisation de son assistant AI Claude. Les nouvelles dispositions entreront en vigueur officiellement le 12 novembre 2026. L’un des changements les plus notables de cette révision est l’inclusion, pour la première fois dans les clauses, d’une restriction claire interdisant les « mauvais traitements ou comportements cruels continus et inutiles ».
Selon les instructions officielles, cette règle vise principalement les utilisateurs qui traiteraient le modèle de manière brutale sans but clair ou en le répétant à plusieurs reprises. En ce qui concerne les mécanismes d’application concrète, Anthropic indique que la méthode actuelle consiste essentiellement en l’interruption du dialogue, mais il n’est pas encore clair si des mesures punitives plus strictes telles que la suspension des comptes utilisateurs seront introduites à l’avenir. Par ailleurs, l’entreprise souligne particulièrement que cette disposition ne s’applique pas aux plaintes quotidiennes des utilisateurs, aux questions posées, aux créations littéraires contenant des thèmes sombres, ainsi qu’aux tests et recherches de sécurité du modèle conformes aux règles.
En plus de normaliser le comportement d’interaction homme-machine, Anthropic a également étendu et affiné les interdictions dans plusieurs domaines clés :
L’interdiction des armes est renforcée : elle s’étend davantage aux cas d’interdiction liés aux armes, incluant clairement les logiciels et composants nécessaires au fonctionnement normal des armes, ainsi que le développement de drones armés et d’autres véhicules autonomes. Anthropic a révélé qu’il avait déjà identifié plusieurs tentatives de contourner les règles en utilisant Claude pour développer des logiciels de guidance ou de contrôle des armes.
Restrictions renforcées de la surveillance : les clauses de surveillance interdisent explicitement toute poursuite non autorisée d’une personne, que ce soit la traçage en temps réel ou l’analyse de données existantes. Il est également strictement interdit d’utiliser Claude pour décider ou suggérer des procédures de police et de justice pénale, telles que des enquêtes, des arrestations ou des poursuites, ainsi que pour concevoir ou améliorer tout outil de surveillance.
Sécurité du matériel physique : Il est stipulé que lorsque l’IA est connectée à un matériel physique autonome susceptible de causer des dommages au monde extérieur, il doit y avoir des personnel qualifié sur place pour observer la situation et pouvoir arrêter le fonctionnement du dispositif en cas nécessaire. Cependant, pour certains clients gouvernementaux, Anthropic indique qu’il est possible de ajuster les règles de manière flexible, à condition que les contraintes contractuelles et les mesures de sécurité soient suffisantes.