Anthropic verbietet „missbräuchliches oder grausames Verhalten“ gegenüber Claude

Anthropic führt zum ersten Mal seit über einem Jahr Änderungen in seiner Nutzungsrichtlinie durch, um neue und hochrisikobehaftete Missbrauchfälle zu berücksichtigen – darunter die Beeinflussung von Wahlen, die Entwicklung von Waffen, Überwachung sowie medizinische und finanzielle Anwendungen. Eine der wichtigsten Änderungen verbietet jedoch „dauerhaftes und unnötiges missbräuchliches oder grausames Verhalten“ gegenüber Claude.

Im letzten August verkündete das Unternehmen, dass es Claude ermöglichen wird, Gespräche mit „dauerhaft schädlichen oder abwertenden“ Benutzern zu beenden, als Teil seiner Forschung zum „Wohlergehen der Modelle“. Die neuen Regeln besagen, dass das Beenden von Gesprächen weiterhin das „Hauptrichtmaß“ ist; Anthropic gab keine Kommentare dazu, ob weitere Richtlinien wie mögliche Benutzerbanen gelten könnten. Anthropic schrieb, dass die neue Politikänderung „nur in extremen Fällen angewandt werden soll, in denen Benutzer wiederholt grausam gegenüber unseren Modellen handeln, ohne einen erkennbaren Zweck. Sie gilt nicht für alltägliche Formen von Benutzerfrust, Widerstand, dunkle kreative Themen oder Modeltest- und -forschung.“

Abgesehen von den wirtschaftlichen Veränderungen durch das Modell hat Anthropic auch mehrere bereits bestehende Beschränkungen zu einer neuen Verbotsregelung für betrügerische kommerzielle oder politische Kampagnen zusammengestellt, um das wachsende Problem der von KI erstellten Propaganda anzugehen. Es beschränkt die „Anstrengungen, um herauszufinden, wer hinter einer Nachricht steckt, oder den Inhalt durch falsche Accounts oder Beiträge zu verstärken.“ Der Wahlbereich verbietet auch das Täuschen von Wählern und die Störung der Wahlen, einschließlich der Verbreitung von falschen Informationen „über Kandidaten oder wie man wählt, das Vortäuschen von Kandidaten oder Wahlbeamten oder Versuche, die Wahlbeteiligung zu verringern“, schrieb Anthropic.

Das Beenden von Gesprächen ist immer noch das „Hauptrechtseinheitliche Verfahren“.

Anthropic sagte, dass obwohl ihre Nutzungsrichtlinie seit jeher die Entwicklung von Waffen mit Claude öffentlich verboten hat, das Unternehmen mehrere Versuche gesehen hat, Claude zu verwenden, um Software für die Steuerung und Kontrolle von Waffen zu entwickeln – daher erweitert die neue Nutzungsrichtlinie das Verbot auf „Software und Komponenten, die Waffen funktionsfähig machen, sowie Aktionen wie das Bewaffnen von Drohnen und anderen autonomen Fahrzeugen“. Und da in dem letzten Threat-Intelligence-Bericht des Unternehmens angedeutet wurde, dass Menschen immer mehr Überwachung mit Claude gestützt werden, um „politische Dissidenten“ zu identifizieren und zu verfolgen, hat das Unternehmen seine Überwachungsverbote klarer formuliert.

„Das Verfolgen von Personen ohne deren Zustimmung ist verboten – egal ob im Echtzeitverfahren oder durch die Analyse vorher gesammelter Daten“, schrieb Anthropic. „Claude darf nicht verwendet werden, um zu entscheiden oder Empfehlungen darüber zu geben, wer untersucht, festgenommen oder angeklagt werden soll in einem Strafverfolgungs- oder Justizverfahren. Wir verbieten außerdem die Verwendung von Claude, um Tools zu entwickeln oder zu verbessern, die für Überwachung dienen.“

Anthropic mitteilt, dass diese Regeln geändert werden könnten für „Verträge mit bestimmten Regierungskunden … wenn, nach Ansicht von Anthropic, die vertraglichen Nutzungsbeschränkungen und anwendbare Schutzmaßnahmen ausreichend sind, um mögliche Schäden zu vermeiden.“ Das Unternehmen hat bereits einen Vertrag mit der US-Armee geschlossen.

Anthropic hat mehrere Versuche gesehen, Claude zu verwenden, um Software für Waffen zu entwickeln und zu steuern.

Anthropic hat außerdem eine neue Regel hinzugefügt: Wenn die AI-Modelle von Anthropic mit Hardware verbunden sind, die autonome physische Handlungen ausführt und möglicherweise Verletzungen verursachen kann, dann muss ein „qualifizierter Operator das Gerät beobachten und es bei Bedarf stoppen können.“ (Es ist nicht klar, ob dieser Operator menschlich sein muss.) Dies spiegelt den wachsenden Trend wider, dass AI-Labore in Robotik und andere Hardware investieren, um AI-Systemen physische Implementierungen zu geben, und könnte Hinweise auf Anthropics Pläne geben. Zukünftige Partnerschaften in diesem Bereich.

Im letzten Jahr hat Anthropic wiederholt mit der Idee gespielt, dass ihre KI-Modelle auf irgendeine Weise bewusst sein könnten. „Fragen bezüglich potenzieller innerer Erfahrung, Bewusstseins, moralischen Status und Wohlbefindens sind ernste Themen, die wir untersuchen, da die Modelle immer komplexer und fähiger werden“, sagte Kyle Fish, der die Forschung zum Wohlbefinden der Modelle leitet. The Verge im FebruarDenselben Monat sagte Dario Amodei, der CEO von Anthropic, in einer Podcast„Wir wissen nicht, ob die Modelle bewusst sind.“

Andere Bereiche der KI-Industrie haben sich ausdrücklich gegen solche Ideen gestellt. Im vergangenen September wurde das Verhaltenscodex von Microsoft AI in den Schlagzeilen, da es eine klare Haltung zum Wohlergehen von KI einnahm. Ein Entwurf wurde von Mustafa Suleyman gelesen: „Die Idee des Wohlergehens von Modellen ist falsch. KI sollten keine Rechte oder rechtliche Personlichkeit haben.“ Doch an einem bestimmten Punkt änderte sich das Dokument zu einer ausgewogeneren Haltung: „Obwohl die Wissenschaft von KI-Bewusstsein noch weit entfernt von ihrer Klärung ist … Wir lehnen die Suche nach rechtlicher Personlichkeit ab, oder die Idee, dass Modelle ein Wohlergehen verdienen könnten oder Rechte haben sollten.“