Anthropic proporciona a METR acceso para auditar sus modelos de IA y sus prácticas de seguridad

Anthropic proporciona a METR acceso para auditar sus modelos de IA y sus prácticas de seguridad

Anthropic ha proporcionado a un equipo de la organización sin fines de lucro METR el acceso para revisar sus modelos de IA y prácticas de seguridad, anunció la compañía. Seis empleados de METR recibieron equipamiento de la empresa, espacio de oficina y acceso a herramientas internas; según Anthropic, esto los coloca aproximadamente en igualdad de condiciones que sus propios equipos de riesgo.

Los datos de los clientes, la información protegida por el privilegio abogado-cliente y los detalles sobre la arquitectura del modelo permanecen fuera del alcance. METR publicará sus hallazgos de manera independiente. Anthropic dice que puede solicitar la protección en ciertas categorías predefinidas, pero METR tiene la libertad de decir públicamente si considera que dicha protección fue justificada.

Anthropic sostiene que no toda la información relevante para la seguridad puede ser pública, ya sea porque podría ayudar a los atacantes o porque es sensible desde el punto de vista comercial. El acuerdo con METR va más allá de lo que la empresa ha ofrecido a otros revisores externos. SecureBio, Accenture y Faculty han recibido hasta ahora menos acceso y límites más estrictos en lo que pueden publicar, y Anthropic ha comenzado conversaciones preliminares con Hugging Face. El movimiento sigue a la firma del Acuerdo de la Casa Blanca sobre la Superinteligencia por parte de Anthropic, que incluye un compromiso para colaborar con revisores externos.

Noticias de IA Sin Eufemismos – Seleccionadas por Humanos

Suscríbase a THE DECODER para leer sin anuncios, un boletín semanal sobre IA, nuestro informe de vanguardia “AI Radar” exclusivo seis veces al año, acceso completo al archivo y acceso a nuestra sección de comentarios.