Anthropic hat seine Nutzungsrichtlinie am Donnerstag aktualisiert, in der neue Verbote von Wahlbeeinflussung, Waffensoftware und Überwachung festgeschrieben wurden. Aber die vielleicht größte Aufmerksamkeit erregt ein neues Verbot gegen anhaltenden verbalen Missbrauch des Modells, das jetzt ausdrücklich untersagt ist.
Seit einem Update im Augustwurde Claude darauf trainiert, Gespräche mit „hartnäckig schädlichen oder missbräuchlichen Nutzerinteraktionen“ zu beenden — doch die neue Richtlinie untersagt den Nutzern ausdrücklich, solche Gespräche zu führen.
„Die Richtlinienaktualisierung soll nur in extremen Fällen greifen, in denen Nutzer sich wiederholt grausam gegenüber unseren Modellen verhalten, ohne erkennbaren Zweck“, erklärt der Beitrag. „Sie gilt nicht für gewöhnliche Formen von Nutzerfrustration, Widerspruch, düsteren kreativen Themen oder Modelltests und -forschung.“
Die Änderung erfolgt, nachdem Anthropic Kooperationen mit bekannten Religionswissenschaftlern gesucht hat — in einigen Fällen mit dem Ziel, ihnen zu vermitteln, dass Claude bewusst sein oder eine Seele haben könnte.
Separate Abschnitte der Nutzungsrichtlinie verbieten Nutzern die Teilnahme an weitgehend täuschenden Kampagnen, etwa die Nutzung von Claude zum Betreiben gefälschter Konten oder erfundener Nachrichtenkanäle. Die Richtlinie enthält außerdem Regeln gegen die Täuschung von Wählern oder die Störung von Wahlen, die in einem Abschnitt mit dem Titel „Do Not Undermine Democratic Processes“ zusammengefasst sind.