IT之家 – 9 octobre. Selon un article publié aujourd’hui (9 octobre) par le média technologique The Verge, Anthropic a modifié sa politique concernant Claude. Cette modification entrera en vigueur le 12 novembre 2026 et ajoutera pour la première fois une clause interdisant les « comportements cruels et inutiles de manière continue ». Cette règle s’applique aux cas où un utilisateur commet des comportements cruels envers le modèle de manière répétée et sans but clair.
En ce qui concerne le mécanisme d’exécution, Anthropic indique que la principale méthode est de mettre fin au dialogue, mais ne précise pas quand des mesures supplémentaires telles que l’inclusion de bannissements utilisateur seront mises en place. Elle souligne également que cette disposition ne s’applique pas aux plaintes courantes, aux questions, aux thèmes de création sombre et aux tests et recherches des modèles. IT Home a joint les captures d’écran correspondantes comme suit :
Anthropic a élargi la liste des interdictions concernant les armes, incluant les logiciels et composants permettant le fonctionnement des armes, ainsi que les drones armés et autres véhicules autonomes. L’entreprise affirme avoir découvert plusieurs tentatives d’utiliser Claude pour développer des logiciels de direction ou de contrôle des armes.
Les clauses de surveillance interdisent clairement tout suivi d’individus sans consentement, que ce soit par suivi en temps réel ou en analyse de données existantes. Claude ne doit pas être utilisé pour décider ou proposer des procédures judiciaires, d’arrestation ou de poursuite dans le domaine de l’application de la loi et de la justice pénale, ni pour construire ou améliorer des outils de surveillance.
Anthropic stipule également que lorsque l’IA est connectée à des équipements physiques autonomes susceptibles de causer des dommages, il est nécessaire que des opérateurs qualifiés surveillent le dispositif et le mettent en veille si nécessaire. Pour certains clients gouvernementaux, l’entreprise peut ajuster les règles lorsque les restrictions contractuelles et les mesures de sécurité sont suffisantes.