Anthropic donne à METR l’accès pour auditer ses modèles d’IA et leurs pratiques de sécurité

Anthropic donne à METR l’accès pour auditer ses modèles d’IA et leurs pratiques de sécurité

Anthropic a accordé à une équipe de la organisation non lucrative METR l’accès à l’examen de ses modèles d’IA et de ses pratiques de sécurité, a annoncé l’entreprise. Six employés de METR ont reçu du matériel informatique de l’entreprise, un espace de travail et accès à des outils internes, ce qui, selon Anthropic, les place à peu près sur le même niveau que ses propres équipes de risque.

Les données clients, les informations couvertes par le privilège avocat-client et les détails concernant l’architecture du modèle restent interdits. METR publiera ses conclusions de manière indépendante. Anthropic déclare pouvoir demander des révélations dans certaines catégories prédéfinies, mais METR est libre de dire publiquement si ces révélations sont justifiées.

Anthropic affirme que toutes les informations pertinentes pour la sécurité ne peuvent pas être rendues publiques, soit parce qu’elles pourraient aider les attaquants, soit parce qu’elles sont sensibles sur le plan commercial. Le deal avec METR va plus loin que ce que l’entreprise a offert à d’autres analystes externes. SecureBio, Accenture et Faculty ont jusqu’à présent reçu moins d’accès et des restrictions plus strictes sur ce qu’ils peuvent publier, tandis qu’Anthropic a commencé précocement des négociations avec Hugging Face. Le mouvement suit la signature de l’Accord de la Maison Blanche sur la super-intelligence par Anthropic, qui comprend une engagement à collaborer avec des examinateurs externes.

Nouvelles sur l’IA sans hype – sélectionnées par des humains

S’abonner à THE DECODER pour une lecture sans publicités, un bulletin hebdomadaire sur l’IA, notre rapport exclusif « AI Radar » sur les tendances six fois par an, un accès complet aux archives et la possibilité de commenter.