Anthropic gibt METR Zugang zu, um seine KI-Modelle und Sicherheitspraktiken zu überprüfen

Anthropic gibt METR Zugang zu, um seine KI-Modelle und Sicherheitspraktiken zu überprüfen

Anthropic hat ein Team aus der gemeinnützigen Organisation METR Zugang zu den AI-Modellen und Sicherheitspraktiken gegeben, wie das Unternehmen bekanntgab. Sechs METR-Mitarbeiter erhielten Unternehmenshardware, Bürofläche und Zugang zu internen Tools – dies macht sie laut Anthropic in etwa auf dem Niveau der eigenen Risiketeams.

Kundendaten, Informationen, die von dem Anwalt-Klienten-Vorteil geschützt sind, sowie Details zur Modellarchitektur bleiben unzugänglich. METR wird seine Erkenntnisse unabhängig veröffentlichen. Anthropic gibt an, dass es in bestimmten vordefinierten Kategorien eine Veröffentlichungsverbotseinholung fordern kann, aber METR hat das Recht, öffentlich zu erklären, ob sie glaubt, dass diese Veröffentlichungsverbote gerechtfertigt waren.

Anthropic argumentiert, dass nicht alle mit Sicherheit verbundenen Informationen öffentlich gemacht werden können – entweder weil sie Angreifern helfen könnten oder weil sie kommerziell sensibel sind. Der METR-Deal geht noch weiter als das, was das Unternehmen bereits anderen externen Prüfern angeboten hat. SecureBio, Accenture und Faculty haben bisher weniger Zugang und strengere Einschränkungen bezüglich dessen, was sie veröffentlichen dürfen, während Anthropic bereits frühzeitig Gespräche mit Hugging Face geführt hat. Der Schritt folgt auf die Unterzeichnung des White House Accords über Superintelligenz durch Anthropic, der auch eine Verpflichtung beinhaltet, mit externen Prüfern zusammenzuarbeiten.

AI-News ohne Hype – von Menschen ausgewählt

Abonnieren Sie THE DECODER, um eine adfreie Lektüre, einen wöchentlichen AI-Bulletin, unseren exklusiven „AI Radar“-Frontier-Report sechsmal pro Jahr, den vollen Archivzugang und Zugang zur Kommentarspalte zu erhalten.