Die bekannte KI-Unternehmen-Annonce Anthropic hat kürzlich die Nutzungsrichtlinien ihres AI-Assistenten Claude umfassend überarbeitet. Die neuen Vorschriften treten am 12. November 2026 offiziell in Kraft. Einer der bemerkenswertesten Änderungen ist die erstmalige Einführung einer klaren Beschränkung in den Bestimmungen, die „dauerhaften und unnötigen Misshandlungen oder grausamen Handlungen“ verbietet.
Laut offiziellen Anweisungen bezieht sich dieses Regelwerk hauptsächlich auf Nutzer, die ohne klare Absicht und wiederholt grausame Behandlung des Modells durchführen. In Bezug auf die konkrete Umsetzung sagte Anthropic, dass derzeit hauptsächlich das Beenden des Dialogs erfolgt, doch es ist noch nicht klar, ob in Zukunft weitere Strafmaßnahmen wie die Sperrung von Benutzerkonten eingeführt werden werden. Gleichzeitig betonte das Unternehmen besonders, dass diese Klausel nicht auf alltägliche Beschwerden, Zweifel, literarisches Schreiben mit dunklen Themen sowie ordnungsgemäße Sicherheitstests und Forschungen an Modellen anwendbar ist.
Neben der Standardisierung des mensch-maschine Interaktionsverhaltens hat Anthropic auch die Verbote in mehreren Kernbereichen erweitert und detaillierter gestaltet:
Erweiterung des Waffenverbots: Die Anwendungsbereiche des Waffenverbots werden weiter ausgeweitet, um Software und Komponenten zu umfassen, die das Funktionieren von Waffen ermöglichen, sowie Entwicklungsaktivitäten für bewaffnete Drohnen und andere autonome Fahrzeuge. Anthropic gab bekannt, dass bereits mehrere Versuche entdeckt wurden, mit Claude Software zur Entwicklung von Waffenleitungen oder Steuerungssystemen zu nutzen.
Stärkere Überwachungsbeschränkungen: In den Überwachungsbestimmungen ist das Verfolgen von Personen ohne Zustimmung ausdrücklich verboten, sei es durch Live-Tracking oder die Analyse vorhandener Daten. Gleichzeitig ist es strengstens untersagt, Claude zur Entscheidung oder Empfehlung in Ermittlungen, Festnahmen oder Anklagen im Strafrecht und der Polizei zu verwenden, sowie zur Erstellung oder Verbesserung von Überwachungswerkzeugen.
Physikalische Sicherheit von Hardware: Es wird festgelegt, dass bei der Verbindung von KI mit autonomer Physik hardware, die eine Schädigung für die Umwelt verursachen könnte, qualifizierte Mitarbeiter vor Ort anwesend sein müssen, um Beobachtungen durchzuführen, und bei Bedarf das Betriebssystem jederzeit stoppen können. Für bestimmte Regierungskunden gibt es jedoch an, dass die relevanten Regeln flexibel angepasst werden können, sofern Vertragsbeschränkungen und Sicherheitsmaßnahmen vorhanden sind.