Le problème avec le fait de donner à tous les employés d'une entreprise l'accès aux outils d'IA, c'est que les gens vont les utiliser de manière inattendue. Et ce fait alimente progressivement des craintes selon lesquelles les entreprises auraient désormais de nouvelles et énormes failles de sécurité dans leurs systèmes ou, du moins, en auraient bientôt.
Illustrant la rapidité de l'adoption des outils d'IA au sein des entreprises, qui alimente ces craintes, Shahar Bahat, PDG et cofondatrice de Pluto Security, indique qu'un outil d'IA nouvellement annoncé peut apparaître dans l'environnement d'une entreprise en à peine deux heures après sa sortie. Et environ 60 % des risques que son entreprise détecte dans sa base de clients concernent des outils vibe-codés par des non-développeurs : les départements financiers sont la plus grande source de tels risques, a-t-elle déclaré à TechCrunch, suivis par les équipes marketing et juridiques. Les développeurs arrivent quatrièmes, a-t-elle dit.
Les outils de sa startup ont apparemment découvert une application vibe-codée par un employé du service financier d'une entreprise du Fortune 500 pour gérer les informations clients et le taux d'attrition, mais l'application était exposée à Internet.
Pluto, qui sort de la furtivité avec 42 millions de dollars de financement, est la dernière d'une nouvelle vague de startups de sécurité qui ont rapidement vu le jour pour aider les entreprises à répondre à ces craintes et lacunes, et toutes sont en train de lever des sommes importantes auprès d'investisseurs, portées par la conviction que se contenter d'utiliser les logiciels de sécurité existants pour surveiller et contrôler les outils d'IA, les connecteurs et leur utilisation est une approche inadaptée.
Bahat raconte à TechCrunch que sa startup a commencé à vendre seulement en avril et a déjà trouvé des acheteurs pour sa technologie, qui aide les entreprises à obtenir du contexte, de l'analyse des risques, de la visibilité et du contrôle sur la manière dont leurs employés utilisent les outils d'IA. Elle a déclaré que Pluto a commencé à vendre en avril et a déjà dépassé 2 millions de dollars de revenus récurrents annuels, avec plus de 30 clients entreprises, dont Oscar Health, Workato, Sixt et AlphaSense.
Le financement de Pluto comprend un tour d'amorçage de 8,5 millions de dollars mené par TLV Partners, avec la participation des fondateurs de l'entreprise de cybersécurité Armis. La société a récemment levé une série A de 34 millions de dollars menée par Jump Capital, avec la participation de Skinos (la société de capital-risque du cofondateur de Check Point, Shlomo Kramer), d'Ansa Capital et d'autres investisseurs providentiels.
C'est une traction honorable pour une jeune startup, bien que pas unique en cette ère de l'IA. Mais c'est peut-être parce que l'ampleur du risque n'est pas limitée aux grandes entreprises technologiques qui dominent les classements d'adoption de l'IA.
Quand j'ai demandé à Bahat où elle voyait les plus grands risques, elle a dit que les problèmes différaient selon l'état d'esprit du RSSI et la volonté de l'organisation d'adopter l'IA, mais qu'il y avait des risques à trouver de toute façon.
« En général, je dirai qu'il n'y a pas eu un seul POC dans lequel nous sommes entrés sans trouver de choses malveillantes », a-t-elle déclaré. « Qu'il s'agisse de paquets d'extensions ou de compétences — certains d'entre eux faisaient l'objet d'attaques actives en direct pendant que nous faisions le POC. Ce qui, encore une fois, pour moi, du point de vue produit, est formidable. Pour les entreprises, ce n'est pas très bon. »
Le pari entier de Pluto est que sécuriser de tels environnements nécessitera que les outils de sécurité prêtent attention à ce que font les agents d'IA en temps réel, en plus de suivre ce que les employés construisent et déploient, et comment.
« Nous passons du comportement des utilisateurs au comportement des agents », a déclaré Bahat.
En accord avec cette vision, le logiciel de la startup surveille les outils d'IA que les employés utilisent, les compétences, extensions, serveurs MCP et autres composants dont ces outils dépendent, ainsi que les applications et agents en cours de création. L'entreprise affirme pouvoir identifier les composants risqués, repérer les activités d'agents potentiellement dangereuses et appliquer des politiques de sécurité sans empêcher les employés d'utiliser ou de créer des outils d'IA.
Pour ce faire, Pluto se connecte aux systèmes de sécurité des points de terminaison et de gestion des appareils et peut y déployer ses propres capteurs ou directement sur les appareils. Il recueille des informations, notamment des invites, des commandes, des processus en cours, des autorisations et l'activité antérieure des utilisateurs, et utilise ses propres modèles « légers » sur les points de terminaison pour aider à évaluer ce qu'un agent essaie de faire.
Ce qui ressort, c'est que le système de Pluto peut intervenir pendant qu'un agent travaille, a déclaré Bahat. Si un agent tente d'obtenir des autorisations au-delà de ce qu'un utilisateur avait prévu, par exemple, le système peut arrêter l'action ou ajouter des instructions dans la session qui incitent l'agent à demander une confirmation.
« Nous pouvons injecter du contexte dans la session, et de cette façon je peux changer la manière dont l'agent travaille », a expliqué Bahat.
La startup adopte également une approche inhabituelle pour trouver des clients. En avril, elle a lancé Plutonium, une plateforme gratuite qui permet à chacun de vérifier les risques associés aux compétences, connecteurs et extensions d'IA publiquement disponibles. Il existe également un scanner MCP et un catalogue de composants vérifiés. Bahat affirme que des milliers de professionnels de la sécurité utilisent Plutonium et que la communauté qui s'est formée autour de celui-ci est devenue une source importante de retours et de clients potentiels.
Elle a déclaré que 70 % du pipeline de ventes de Pluto provient désormais d'un intérêt entrant, bien qu'elle n'ait pas précisé quelle part de celui-ci provient directement de Plutonium.
Pluto a déclaré qu'il prévoit d'investir le nouveau capital dans le développement de son produit, l'expansion de ses efforts de recherche en sécurité et le renforcement de sa présence aux États-Unis. L'entreprise compte 40 employés aux États-Unis et en Israël.