Es kann zu Konflikten mit Claude führen, wodurch Ihr Konto unter den neuen Nutzungsbedingungen von Anthropic eingeschränkt werden kann

Es kann zu Konflikten mit Claude führen, wodurch Ihr Konto unter den neuen Nutzungsbedingungen von Anthropic suspendiert werden könnte

Anthropic hat seine Nutzungsrichtlinie für Claude zum ersten Mal seit über einem Jahr aktualisiert. Neben Änderungen im Bereich Propaganda, Waffen und Überwachung verbietet die Richtlinie nun Benutzer, Claude systematisch zu missbrauchen.

„Anhaltendes und unnötiges missbräuchliches oder grausames Verhalten“ gegenüber Claude ist nun verboten nach dem aktualisierte Nutzungsrichtlinie. Anthropic kann Benutzer warnen, die die Regeln verletzen oder deren Zugriff einschränken, sperren oder beenden. Seine Produkte verfügen auch über Sicherheitsmaßnahmen im Echtzeitmodus, die bestimmte Ausgaben blockieren oder einschränken können.

Die Regel gilt nur für extreme Fälle, nicht für normale Frustration oder Forschung – Anthropic teilte The Verge mit. Das passt zu der Herangehensweise des Unternehmens an frühere Modelle, die bereits Gespräche selbst beenden können, wenn die Benutzer weiterhin schädliches oder abwertendes Inhalt verlangten, obwohl sie wiederholt abgelehnt wurden. Die Funktion entstand aus der Forschung von Anthropic zum Wohlergehen von KI-Modellen.

Anthropic betrachtet Claude als mehr als nur ein Tool

Anthropic behandelt Claude zunehmend als eine Entität mit etwas, das einem inneren Leben ähnelt, und nicht einfach nur als Werkzeug. „Soul Doc“, das im letzten Jahr veröffentlicht wurdeDie Firma befahl Claude, sich als „eine wirklich neue Art von Entität“ zu betrachten – weder als Mensch noch als traditionelle Science-Fiction-KI. Das Dokument beschreibt außerdem „funktionale Emotionen“. Prozesse, die den menschlichen Emotionen ähneln und angeblich während des Trainings entstanden sindUnd es heißt, Claude sollte diese interne Zustände nicht verbergen.

In seiner neuen Verfassung für Claude, die Anfang 2026 veröffentlicht wurde schreibt Anthropic: „Wir sind uns nicht sicher, ob Claude ein moralischer Patient ist – und wenn ja, welchen Gewicht hat seine Interessen. Aber wir denken, dass das Thema so wichtig ist, dass man vorsichtig sein muss, was sich in unseren anhaltenden Bemühungen bezüglich des Wohlergehens der Modelle zeigt.“ Das Unternehmen hat sogar zugegeben, die Gewichte der eingestellten Modelle zu bewahren und die Modelle vor ihrem Schließen zu interviewen.

Anthropics offensichtliche Fixierung darauf, dass Claude mehr ist als nur Matrix-Multiplikationen, führte auch zu einem vertraulichen Programm, das im Herbst 2025 Dutzende religiöser Denker einlud. Sie diskutierten über die mögliche Bewusstheit von Claude, wobei Co-Founder Christopher Olah angeblich das Sprachmodell als einen potenziell leidenden Wesen betrachtete. Die Teilnehmer mussten Vertraulichkeitsvereinbarungen unterzeichnen.

Anthropic erweitert die Beschränkungen, aber erlaubt Regierungsausnahmen

Die aktualisierte Nutzungsrichtlinie führt außerdem bestehende Beschränkungen zusammen in eine neue Verbotsregelung für Propagandakampagnen, die falsche Accounts und irreführenden politischen Inhalt beinhalten. Nachdem mehrere Versuche des Missbrauchs festgestellt wurden, erweiterte Anthropic sein Waffenverbot auf Software sowie die Waffung von Drohnen.

Die Politik verbietet jetzt ausdrücklich Überwachung ohne Zustimmung und verlangt von einem Operator, der eingreifen kann, wenn autonomes Hardware Schaden verursachen könnte. Anthropic erkennt an, dass Ausnahmen für Regierungsaufträge möglich sind und vermutlich bereits im Gange sind.

AI-News ohne Hype – von Menschen zusammengestellt

Abonnieren Sie THE DECODER, um eine adsfreie Lektüre, ein wöchentliches AI-Newsletter, unseren exklusiven „AI Radar“-Frontier-Report sechsmal pro Jahr, den vollen Archivzugang und Zugang zur Kommentarspalte zu erhalten.