La proposition d’Anthropic pour aider les projets open-source à détecter les vulnérabilités de sécurité par le biais d’un nouveau service appelé OSS Scanner. Il est indiqué que les projets open-source qui choisissent de participer recevront “des scans de sécurité approfondis et périodiques effectués par nos modèles les plus puissants, sans coût”. Cela pourrait signifier que les projets open-source seront alertés plus tôt sur d’éventuelles problèmes de sécurité, mais le prix à payer est que les rapports du OSS Scanner ne font pas l’objet d’une revue humaine.
Les résultats de ce scanner de vulnérabilités opt-in seront entièrement générés par les modèles, sans revue humaine ou triage. Cela permettra des scans plus rapides et plus fréquents, mais cela signifie que les rapports peuvent être incorrects ou invalides. Ces rapports seront produits par nos modèles les plus puissants (y compris Claude Mythos) afin de donner aux projets open-source la plus grande avantage défensif possible.
OSS Scanner n’est pas le premier outil de recherche de bugs d’IA qui existe. Ces outils ont aidé à découvrir des failles de sécurité majeures dans les logiciels open-source au cours des derniers mois, comme le bug “Copy Fail” qui a affecté presque toutes les distributions Linux en mai. En même temps, certains projets open-source ont du mal à faire face à l’afflux soudain de rapports de bugs générés par l’IA, y compris Linus Torvalds et même Google.
Suivez les sujets et les auteurs de cette histoire pour voir davantage de contenu similaire sur votre flux d’accueil personnalisé, et pour recevoir des mises à jour par e-mail.