IT之家 Bericht vom 13. Oktober: Anthropic teilte am Montag in der örtlichen Zeit mit, dass das Unternehmen mehrere neue Sicherheitsmaßnahmen eingeführt habe, um die Fähigkeit von Wettbewerbern, das Claude AI-Modell nachzuahmen, zu verhindern. Diese Maßnahmen haben die Menge der gestohlenen Daten bei Modell-Distillation-Angriffen um etwa 90 bis 99 % reduziert.
Modell-Distillation ist zu einem Thema geworden, das die führenden AI-Unternehmen besorgt macht. Unternehmen wie Anthropic, OpenAI und Google glauben, dass diese Methode es Konkurrenten ermöglicht, die fortschrittlichen Fähigkeiten von Modellen mit geringeren Kosten und schnellerer Geschwindigkeit nachzuahmen.
Laut Anthropic hat das Schutzsystem, das dazu dient, den Zugriff von außen auf den Denkprozess von Claude einzuschränken, die Informationsextraktion erheblich reduziert. Heute beträgt die Anzahl der Token, die „Distillation-Angreifer extrahieren können“, nur ein Zehntel bis ein Prozent des Vorgangs.
IT Home hat bemerkt, dass das in Kalifornien ansässige Unternehmen erklärt hat, dass die neuen Schutzmaßnahmen die Schwierigkeit erhöhen, mit dem Proxy-Netzwerk wiederholt Claude’s geschützte Inferenzwege zu prüfen, Informationen zur Extraktion zu blockieren und großflächige Destillation zu verhindern.
Anthropic sagt, dass die Stabilität dieses Sicherungssystems „ungefähr dem Schutzsystem entspricht, das verhindert, dass Claude bei der Herstellung biologischer Waffen hilft“, und die Fehlalarmrate liegt unter 0,1%.
Anthropic hat zahlreiche Accounts, die mit der Distillationaktivität zu tun haben, gesperrt. Als Beispiel wird das AI-Gründungsunternehmen Zhilu AI genannt, das während der Entwicklung des GLM-5.3-Modells versucht hat, die Modelleigenschaften aus Claude zu extrahieren. Anthropic warnt, dass solche Handlungen Sicherheits- und Nationalen-Sicherheitsrisiken mit sich bringen könnten.