IT之家 Bericht vom 5. Oktober: Eine 30-jährige Frau aus Lee County, Florida, USA, wurde verhaftet, weil sie in einem Dialog mit dem Chatbot Claude von Anthropic gewalttätige Drohungen gegen das Büro des örtlichen Sheriffen verfasst haben soll.
Laut der örtlichen Polizei sagte die Einwohnerin von Bonita Springs, Carli Michelle Heller, am 26. September in einem Gespräch, dass sie das Büro des Sheriffes von Lee mit Waffen angreifen wolle (shoot up). Die entsprechende Information löste anschließend das Sicherheits- und Risikomanagement-System von Anthropic aus, und Claude wurde an die menschliche Überprüfung und die Strafverfolgungsbehörden gemeldet.
Laut dem lokalen Medienportal WINK News sagte Sheriff Carmine Marceno dem Medium, dass Heller später erklärte, sie verwende die AI als „Tagebuch“.
Die Ermittler sagen, dass Anthropic durch Sicherheitsmechanismen die Schlüsselwörter und potenziellen Bedrohungsinhalte überwacht. Die relevanten Informationen werden je nach Schweregrad auf eine manuelle Überprüfung gebracht, die anschließend von einem menschlichen Team bestätigt und mit den lokalen Strafverfolgungsbehörden kommuniziert wird.
Nachdem die Meldung eingegangen war, ging ein örtlicher Polizist zu ihrem Wohnhaus und hielt die Frau „ohne Konflikt“ fest. Das Fallverfahren wurde anschließend von einem Kriminalbeamten im Büro des Sheriff von Li County übernommen. Heller sagte den Ermittlern, dass sie derzeit wegen einer schriftlichen Gewaltandrohung angeklagt sei, aber noch nicht vom Gericht verurteilt worden sei.
Laut Regelung 836.10 der Gesetze von Florida kann jeder, der durch schriftliche oder elektronische Aufzeichnungen, die von anderen gesehen werden können, Drohungen zur Tötung, körperliche Verletzungen, Massenanschläge oder Terroraktionen ausstichtet, eine zweite schwere Straftat begehen. Die geltenden Gesetzesbestimmungen legen außerdem fest, dass diese Bestimmungen auch für elektronische Aufzeichnungen gelten und es strafbar ist, Aufzeichnungen mit solchen Drohungen an andere zu senden, zu veröffentlichen oder zu verbreiten. Ob die Gespräche von Claude in diesem Fall eine konkrete rechtliche Struktur bilden und ob die Staatsanwaltschaft im Justizverfahren die Straftaten beweisen kann, muss vom Gericht entschieden werden.
Marcheno sagte, dass KI möglicherweise die Art und Weise, wie Bedrohungen entstehen, verändern könnte, aber das Versprechen, die Einwohner des Bezirks Lee zu schützen, bleibt bestehen. Die Polizei muss ernsthaft darauf reagieren, wenn jemand KI nutzt, um Bedrohungen auszuführen oder zu unterstützen.
Gleichzeitig hat der Fall auch Diskussionen über die Privatsphäregrenzen von Chatbots ausgelöst. Die derzeit öffentlich verfügbaren Richtlinien von Anthropic bezüglich der Anfragen an die Regierung zeigen, dass das Unternehmen normalerweise nur Informationen über Nutzerinnen und Nutzer preisgibt, nachdem ein wirksamer rechtlicher Verfahren eingeleitet wurde. Es gibt jedoch Ausnahmen für dringende Offenlegungen, wenn das Unternehmen meint, dass eine Notlage unmittelbare körperliche Verletzungen oder Todesfälle verursachen könnte und die rechtzeitige Bereitstellung der Informationen das Risiko vermeiden lässt.
Die im Juli 2026 aktualisierte Transparenzseite von Anthropic zeigt auch, dass das Unternehmen ein Sicherheitsteam einsetzt, das für die Entwicklung und Umsetzung von Mechanismen zur Überwachung der Verwendungsrichtlinien verantwortlich ist, sowie für die Bearbeitung von Datenanfragen von Strafverfolgungsbehörden und Regierungen, einschließlich dringender Offenlegungen. Aus diesem Grund bedeutet die Verwendung von Claude als privates Tagebuch nicht, dass die relevanten Inhalte unbedingt nur vom Benutzer selbst gesehen werden; die Plattform kann einige Inhalte aufgrund der Sicherheits- und Nutzungsrichtlinien überprüfen und prüfen, und unter Einhaltung der entsprechenden Bedingungen kann sie Informationen auch an die Strafverfolgungsbehörden übermitteln.
Außerdem erwähnt die Vereinbarung von Anthropic, dass das Gespräch mit der KI nicht von den gegenseitigen Geheimhaltungsrechten zwischen Anwalt und Mandanten geschützt ist, aber Anthropic hat noch keine detaillierten Details zur Überprüfung dieses Gesprächs angegeben.
Abgesehen von diesem Fall hat die Provinz British Columbia in Kanada kürzlich vor dem Bundesgericht in San Francisco, USA, gegen OpenAI und seinen CEO Sam Altman geklagt. Sie behaupten, dass OpenAI bereits das Gewaltthema des Schulschützen in Tumbler Ridge im Februar mit den gewalttätigen Gesprächen von ChatGPT in Verbindung gebracht hat, ohne die Polizei zu informieren – was hätte das Ereignis verhindern können.
Laut TechSpot haben die Behörden in Florida im Juni OpenAI und Orteman angeklagt, weil sie behaupten, dass ChatGPT realen Schaden verursacht hat, einschließlich des Schussanschlags an der Florida State University im Jahr 2025 (IT之家 Anmerkung: Das alles sind Anschuldigungen der Kläger; das Gericht hat noch keine Verantwortlichkeit festgestellt).