IT之家 Noticia del día 5 del mes 10: una mujer de 30 años del condado de Lee (Lee County), en Florida, Estados Unidos, fue arrestada por presuntamente escribir amenazas de violencia contra la oficina del alguacil local en una conversación con Claude, el chatbot de Anthropic.
Según el comunicado de la policía local, Carli Michelle Heller, residente de Bonita Springs, declaró el día 26 del mes 9 en una conversación que iba a cometer un tiroteo (shoot up) en la oficina del alguacil del condado de Lee. Dicho contenido activó de inmediato el mecanismo de control de seguridad de Anthropic, y Claude lo reportó a la revisión humana y a las autoridades policiales.
Según el medio local WINK News, el alguacil Carmine Marceno dijo al medio que Heller afirmó después que usaba la IA como un "diario".
Los investigadores señalan que Anthropic monitorea palabras clave y contenido de amenazas potenciales mediante mecanismos de seguridad; la información se escala a revisión humana según su gravedad y, tras ser confirmada por el equipo humano, se contacta a las autoridades policiales locales.
Tras recibir el aviso, los agentes locales acudieron a su domicilio y detuvieron a la mujer "sin conflictos"; el caso fue luego asumido por un detective de inteligencia de la oficina del alguacil del condado de Lee. Heller dijo a los investigadores que actualmente enfrenta un cargo por amenazas de violencia por escrito, pero aún no ha sido condenada por un tribunal.
El artículo 836.10 de los estatutos de Florida establece que cualquier persona que, mediante registros escritos o electrónicos que puedan ser vistos por otros, amenace con matar, causar daño corporal, realizar un tiroteo masivo o cometer un acto de terrorismo puede incurrir en un delito grave de segundo grado. La ley vigente aclara además que estas disposiciones aplican a registros electrónicos, y establece que enviar, publicar o difundir a otros registros que contengan dichas amenazas puede constituir un delito. Si la conversación con Claude en este caso cumple la configuración legal específica, y si la fiscalía puede probar los hechos delictivos en el proceso judicial, queda aún por decidirlo a los tribunales.
Marceno señaló que la IA puede haber cambiado la forma en que surgen las amenazas, pero el compromiso de proteger a los residentes del condado de Lee no cambia: cuando alguien utilice la IA para cometer o ayudar a cometer amenazas, la policía debe tomarlas en serio.
Al mismo tiempo, el caso también ha generado un debate sobre los límites de privacidad de los chatbots. La política de solicitudes de información gubernamental actualmente pública de Anthropic indica que la empresa generalmente solo revela información de usuarios al gobierno tras recibir un proceso legal válido, pero existe una excepción de divulgación de emergencia si la empresa considera que una situación de emergencia podría provocar daños corporales o muerte inminentes, y que proporcionar la información oportunamente podría evitar el peligro.
La página de transparencia que Anthropic actualizó en el mes 7 de 2026 también muestra que la empresa cuenta con un equipo de seguridad encargado de diseñar e implementar los mecanismos de detección y monitoreo para hacer cumplir la política de uso, y de gestionar las solicitudes de datos, incluida la divulgación de emergencia, presentadas por agencias policiales y gobiernos. Visto así, usar Claude como diario privado no significa que el contenido relacionado solo lo vea el propio usuario; la plataforma puede detectar y revisar parte del contenido conforme a sus políticas de seguridad y uso y, si se cumplen las condiciones correspondientes, también puede proporcionar información a las autoridades policiales.
Además, los términos del acuerdo de Anthropic también mencionan que las conversaciones con la IA no están protegidas por un privilegio de confidencialidad similar al de abogado y cliente, aunque Anthropic aún no ha detallado los pormenores de la revisión de esta conversación.
Además de este caso, la provincia canadiense de Columbia Británica demandó recientemente a OpenAI y a su CEO Sam Altman en un tribunal federal de San Francisco, Estados Unidos, alegando que OpenAI ya había marcado las conversaciones relacionadas con violencia entre el autor del tiroteo escolar de Tumbler Ridge del mes 2 y ChatGPT, pero no informó a la policía, por lo que el suceso pudo haber sido evitado.
Según TechSpot, Florida ya demandó en el mes 6 a OpenAI y a Altman, alegando que ChatGPT causó daños en el mundo real, incluido el tiroteo de la Universidad Estatal de Florida de 2025 (nota de IT之家: todo lo anterior son acusaciones de la parte demandante; el tribunal aún no ha determinado responsabilidad alguna).