La oferta de Anthropic para ayudar a los proyectos de código abierto a encontrar vulnerabilidades de seguridad con un nuevo servicio llamado OSS Scanner. Se indica que los proyectos de código abierto que opt-in recibirán “escaneos de seguridad exhaustivos y periódicos realizados por nuestros modelos más potentes, sin costo alguno”. Esto podría significar que los proyectos de código abierto serán alertados sobre posibles problemas de seguridad antes, pero el precio a pagar es que los informes del OSS Scanner no incluyen revisión humana.
Los resultados de este escáner de vulnerabilidades opt-in serán generados completamente por modelos, sin revisión o triaje humano. Esto permitirá un escaneo más rápido y frecuente, pero implica que los informes podrían ser incorrectos o inválidos. Estos informes serán generados por nuestros modelos más avanzados (incluyendo Claude Mythos) para proporcionar a los proyectos de código abierto la mayor ventaja defensiva posible.
OSS Scanner está lejos de ser el primer ayudante para la búsqueda de errores en IA. En los últimos meses, las herramientas de IA han ayudado a encontrar algunos principales defectos de seguridad en software de código abierto, como el error “Copy Fail” que afectó a casi todas las distribuciones de Linux en mayo. Al mismo tiempo, algunos proyectos de código abierto tienen dificultades para seguir el ritmo de los reporte de errores generados por IA, incluyendo a Linus Torvalds e incluso Google.
Siga los temas y autores de esta historia para ver más contenido similar en su carrusel de la página principal personalizada y para recibir actualizaciones por correo electrónico.