IT之家 Le 5 octobre (10e mois), une femme de 30 ans du comté de Lee (Lee County), en Floride (États-Unis), a été arrêtée pour avoir été soupçonnée d'avoir rédigé, dans ses conversations avec Claude, le chatbot d'Anthropic, des menaces de violence visant le bureau du shérif local.
Selon le communiqué de la police locale, Carli Michelle Heller, résidente de Bonita Springs, a déclaré lors d'une conversation le 26 septembre (9e mois) vouloir commettre une fusillade (shoot up) contre le bureau du shérif du comté de Lee. Ce contenu a immédiatement déclenché le mécanisme de sécurité d'Anthropic et a été signalé par Claude à la révision humaine ainsi qu'aux forces de l'ordre.
Selon le média local WINK News, le shérif Carmine Marceno a déclaré à ce média que Heller avait ensuite expliqué qu'elle utilisait l'IA comme un « journal intime ».
Selon les enquêteurs, Anthropic surveille les mots-clés et les contenus de menaces potentielles via son mécanisme de sécurité ; les informations concernées sont, selon leur gravité, escaladées vers une révision humaine, puis l'équipe humaine, après confirmation, contacte les forces de l'ordre locales.
Après réception du signalement, les policiers locaux se sont rendus à son domicile et ont procédé à « l'interpellation sans incident » de la femme ; l'affaire a ensuite été prise en charge par un enquêteur du renseignement du bureau du shérif du comté de Lee. Heller a déclaré aux enquêteurs ; elle fait actuellement l'objet d'une accusation de menace de violence par écrit, mais n'a pas encore été condamnée par un tribunal.
L'article 836.10 des lois de Floride prévoit que quiconque menace de tuer, de causer des blessures corporelles, de commettre une fusillade de masse ou d'accomplir un acte terroriste au moyen d'un enregistrement écrit ou électronique pouvant être consulté par autrui peut commettre un crime de deuxième degré. Le texte de loi en vigueur précise également que ces dispositions s'appliquent aux enregistrements électroniques, et que envoyer, publier ou diffuser à autrui un enregistrement contenant de telles menaces peut constituer une infraction. Quant à savoir si la conversation avec Claude dans cette affaire satisfait aux éléments juridiques spécifiques, et si l'accusation pourra prouver les faits dans la procédure judiciaire, cela reste à déterminer par le tribunal.
Marceno a déclaré que l'IA a peut-être changé la manière dont les menaces apparaissent, mais que l'engagement de protéger les résidents du comté de Lee reste inchangé : lorsque quelqu'un utilise l'IA pour commettre ou faciliter des menaces, la police doit les prendre au sérieux.
Parallèlement, cette affaire a également suscité des discussions sur les limites de la confidentialité des chatbots. La politique actuelle d'Anthropic en matière de demandes d'informations gouvernementales, rendue publique, indique que l'entreprise ne divulgue généralement les informations des utilisateurs au gouvernement qu'après réception d'une procédure légale valide, mais qu'il existe une exception de divulgation d'urgence si l'entreprise estime qu'une situation d'urgence pourrait entraîner un danger imminent de blessure corporelle ou de mort, et que la communication rapide des informations concernées pourrait éviter ce danger.
La page de transparence mise à jour par Anthropic en juillet 2026 (7e mois) indique également que l'entreprise dispose d'équipes de sécurité chargées de concevoir et de mettre en œuvre les mécanismes de détection et de surveillance servant à appliquer la politique d'utilisation, et de traiter les demandes de données, y compris les divulgations d'urgence, émanant des forces de l'ordre et des gouvernements. Ainsi, utiliser Claude comme journal personnel ne signifie pas que le contenu concerné ne sera nécessairement vu que par l'utilisateur lui-même ; la plateforme peut détecter et examiner une partie du contenu conformément aux politiques de sécurité et d'utilisation, et, si les conditions correspondantes sont remplies, elle peut également fournir des informations aux forces de l'ordre.
En outre, les conditions d'utilisation d'Anthropic précisent également que les conversations avec l'IA ne sont pas protégées par un secret comparable au privilège de confidentialité entre avocat et client, mais Anthropic n'a pas encore détaillé les modalités de l'examen de cette conversation.
Outre cette affaire, la province canadienne de Colombie-Britannique a récemment poursuivi OpenAI et son PDG Sam Altman devant un tribunal fédéral de San Francisco (États-Unis), alléguant qu'OpenAI avait précédemment marqué les conversations liées à la violence entre le tireur de la fusillade scolaire de février (2e mois) à Tumbler Ridge et ChatGPT, sans en informer la police, alors que l'événement aurait pu être évité.
Selon TechSpot, la Floride avait déjà poursuivi OpenAI et Altman en juin (6e mois), alléguant que ChatGPT avait causé des dommages réels, notamment dans la fusillade de l'Université d'État de Floride de 2025 (note d'IT之家 : il s'agit d'allégations des plaignants, le tribunal n'a pas encore établi de responsabilité à cet égard).