IT Home Am 9. Oktober veröffentlichte das Technologie-Medium The Verge heute (9. Oktober) einen Blogpost, in dem berichtet wird, dass Anthropic die Richtlinien für den Einsatz von Claude überarbeitet hat und diese am 12. November 2026 in Kraft treten werden.Erstmalig Einführung eines Klausus, der das Verbot von „dauerhaftem und unnötigem Missbrauch oder grausamen Handlungen“ vorsieht. Die Regel gilt für Fälle, in denen Benutzer wiederholt und ohne klare Absicht grausame Handlungen gegen die Modelle durchführen.
Was den Ausführungsmechanismus angeht, erklärt Anthropic, dass die Hauptmethode der Beendigung des Dialogs ist. Allerdings wurde nicht klar, wann weitere Maßnahmen wie Benachrichtigungen für Nutzer eingeführt werden könnten. Zudem betont das Unternehmen, dass diese Regelung nicht auf häufige Beschwerden, Zweifel, Themen der dunklen Kreativität sowie Modeltest- und -Untersuchungen anwendbar ist. IT Home hat die entsprechenden Screenshots wie folgt hochgeladen:
Anthropic erweitert den Waffenverbot um Verhaltensweisen wie die Verwendung von Software und Komponenten, die Waffen in Betrieb setzen, sowie bewaffnete Drohnen und andere autonome Fahrzeuge. Das Unternehmen behauptet, mehrere Versuche entdeckt zu haben, mit Claude Waffensteuerungs- oder -kontrollsoftware zu entwickeln.
Die Überwachungsbestimmungen verbieten ausdrücklich das Tracking von Personen ohne Zustimmung, sei es im Echtzeit-Tracking oder bei der Analyse bestehender Daten. Claude darf nicht verwendet werden, um Entscheidungen oder Vorschläge in Verfahren der Strafverfolgung und der Strafjustiz zu treffen oder zu geben, sowie für die Erstellung oder Verbesserung von Überwachungswerkzeugen.
Anthropic legt außerdem fest, dass, wenn eine KI mit autonomen physischen Geräten verbunden wird, die Geräte von qualifizierten Betreibern überwacht werden müssen und bei Bedarf eingeschränkt werden können. Für bestimmte Regierungskunden kann das Unternehmen die Regeln anpassen, sofern Vertragsbeschränkungen und Sicherheitsmaßnahmen vorhanden sind.