Anthropic a mis à jour sa politique d'utilisation jeudi, en formalisant de nouvelles interdictions concernant l'ingérence électorale, les logiciels d'armement et la surveillance. Mais le changement qui attire peut-être le plus l'attention est une nouvelle interdiction des abus verbaux prolongés envers le modèle, désormais expressément interdits.
Depuis une mise à jour en août, Claude a été entraîné à mettre fin aux conversations présentant des « interactions utilisateur persistamment nuisibles ou abusives » — mais la nouvelle politique interdit explicitement aux utilisateurs de poursuivre ces conversations.
« La mise à jour de la politique vise à s'appliquer uniquement dans des cas extrêmes, où les utilisateurs agissent de façon répétée avec cruauté envers nos modèles, sans aucun objectif discernable », explique la publication. « Elle ne s'applique pas aux formes courantes de frustration des utilisateurs, de contestation, de thèmes créatifs sombres, ni aux tests et recherches sur les modèles. »
Ce changement intervient après qu'Anthropic a recherché des collaborations avec d'éminents spécialistes des sciences religieuses — dans certains cas, en cherchant à les convaincre que Claude pourrait être conscient ou avoir une âme.
Des sections distinctes de la politique d'utilisation interdisent aux utilisateurs de se livrer à des campagnes largement trompeuses, comme l'utilisation de Claude pour gérer de faux comptes ou des médias d'information fabriqués de toutes pièces. La politique comprend également des règles contre la tromperie des électeurs ou la perturbation des élections, regroupées dans une section intitulée « Do Not Undermine Democratic Processes ».