Bei Claude hat kürzlich eine beunruhigende Welle von Kontosperrungen eingesetzt. Während der gesamten Ferien stieg die Diskussion um diese Sperrungen sogar auf über eine Million Aufrufe, und eine ganze Reihe von KI-Entwicklern geriet in der Szene kollektiv in Aufruhr.
Dieses Feuer wurde von einem alten Bericht neu entfacht. Anthropic hatte im Juli einen Bericht veröffentlicht, der kürzlich jemand aus der Versenkung gezogen und im gesamten Netz viral verbreitet hat; die darin enthaltenen Zahlen sind schlicht erschütternd: In der ersten Hälfte des Jahres 2026 sperrte Claude in nur einem halben Jahr insgesamt 1140 万 Konten, und von den 39.8 万 von Nutzern eingereichten Einsprüchen wurden letztlich nur 4.2 万 erfolgreich.
Rechnet man diese Bilanz auseinander, entspricht das durchschnittlich fast 190 万 ausgelöschten Konten pro Monat – täglich werden mehr als 6 万 Konten in der Cyberwelt physisch ausgelöscht. Als Erfolgsquote umgerechnet bedeutet das: Von je 10 Gesperrten werden etwa 9 kaltblütig hingerichtet – der Einspruchsweg ist praktisch nur eine Scheinveranstaltung. Eine Sperrung ist eine Sache eines Augenblicks, eines Wortes der Plattform, doch wer umkehren will, sieht sich einem langen und quälenden Einspruchsmarathon gegenüber.
Anthropic hat die vollständige Verteilung der Sperrgründe nicht offengelegt, aber einige Kategorien, die eine Sperrung auslösen können, ausdrücklich aufgeführt. Ein ganzer zentraler Teil des Berichts widmet sich der Prüfung extrem regelwidriger Inhalte: Allein in der ersten Jahreshälfte reichte das Unternehmen über 1,5万（15,000）Meldungen an NCMEC und ähnliche internationale Sicherheitsorganisationen weiter – dabei nutzte es nicht nur die klassische Hash-Fingerprint-Abgleichung, sondern führte auch durchgehend einen neu entwickelten, hauseigenen Machine-Learning-Klassifikator ein. Anweisungen mit illegaler Nutzung, Verletzung der Privatsphäre, bösartiger Verführung, extremen Selbstverletzungen und dergleichen lösen die eingebaute Prüfung des Modells nahezu sofort und endgültig aus: Sobald ein Prompt die Grenze des Sensiblen berührt, gibt das System nicht einmal eine zweite Warnung, sondern sperrt direkt permanent.
Ein weiteres gravierendes Problemfeld ist das wahllose Wegschießen großer Mengen von Betrugs- und Schwarzmarkt-Konten, das sich mit der Prüfung der unterstützten Regionen verbindet – viele Nutzer fielen an dieser Hürde massenhaft um.
Noch bemerkenswerter ist, dass Anthropic kürzlich die Nutzungsrichtlinien für Claude aktualisiert hat und Beleidigungen sowie grausame Behandlung von Claude ausdrücklich verbietet. Die neue Regel tritt am 11. bzw. 12. November in Kraft; wer das KI-Modell ohne Grund misshandelt, muss mit Drosselung oder gar Sperrung rechnen – es ist die erste Revision der Nutzungsrichtlinien seit über einem Jahr. Das Unternehmen erklärte, diese Regel gelte nur für extreme Fälle, in denen Nutzer ohne erkennbaren Zweck wiederholt grausame Handlungen am Modell vornehmen; alltägliche Äußerungen von Unzufriedenheit, Widerspruch gegen die Ansichten des Modells, die Erstellung düsterer Inhalte sowie Modelltests und -forschung fallen sämtlich nicht unter das Verbot. Wenn ein Unternehmen, das für Kontosperrungen bekannt ist, sich nun selbst Regeln gegen Misshandlung gibt, dann wird die Grenze der Rechte und Pflichten zwischen KI und Nutzern gerade neu gezogen.