Anthropic sagt, dass sie den Diebstahl von Claude-Reasoning-Tokens um bis zu 99% reduziert hat im Kampf gegen die industrielle Abfüllung

Anthropic sagt, dass sie den Diebstahl von Claude-Reasoning-Tokens um bis zu 99% reduziert hat im Kampf gegen die industrielle Abfüllung

Anthropic bekämpft Angriffe auf großflächige Destillationen seiner Claude-Modelle. Bei diesen Angriffen kopieren Unternehmen systematisch die Fähigkeiten eines KI-Modells, um sich eigene, kleinere Modelle zu trainieren. Anthropic sagt, dass ihre neuen Verteidigungsmaßnahmen den Umfang der extrahierten Rechenschlüssel sowie die internen Schritte des Modells um 90 bis 99 Prozent reduziert haben. Angreifer nutzen Netzwerke von Hunderttausenden falscher Accounts, um dies zu erreichen.

Anthropic nennt chinesische Unternehmen Zhipu und Moonshot als Teilnehmer. Es wird behauptet, dass Zhipu die Cyberfähigkeiten von führenden US-Modellen für sein GLM-5.3 Modell abgezogen hat, während Moonshot die Anfragen heimlich über Claude weiterleitete. Die gestohlenen Fähigkeiten könnten in ausländische Militär- und Überwachungssysteme gelangen.

Anthropic beschränkt jetzt den Zugang zu den internen Schlussfolgerungsschritten von Claude, führt einen Klassifikator ein, der Versuche zur Extraktion erkennt, und sperrt automatisch gesperrte Kontozeiten. Zehntausende haben bereits gesperrt werden. Anthropic fordert andere AI-Entwickler auf, ähnliche Schutzmaßnahmen zu ergreifen, obwohl das Unternehmen zugibt, dass auch legitime Benutzer in den Prozess verwickelt werden.

AI-News ohne Hype – von Menschen ausgewählt

Abonnieren Sie THE DECODER, um eine Werbefreie Lektüre, einen wöchentlichen AI-Newsletter, unseren exklusiven „AI Radar“-Frontier-Report sechsmal jährlich, Zugang zum vollständigen Archiv und Zugang zur Kommentarspalte zu erhalten.