El problema de permitir que todos en una empresa tengan acceso a herramientas de IA es que las personas las utilizarán de maneras inesperadas. Y ese hecho está generando cada vez más temores de que las empresas ahora tengan nuevos agujeros de seguridad en sus sistemas, o, al menos, los tendrán pronto.
Ilustrando el ritmo de la adopción de herramientas de IA en las empresas que generan tales temores, Shahar Bahat, CEO y cofundadora de Pluto Security, dice que una herramienta de IA recién anunciada puede aparecer en el entorno de las empresas en solo dos horas desde su lanzamiento. Y aproximadamente el 60% de los riesgos que su empresa detecta entre sus clientes están relacionados con herramientas codificadas por no desarrolladores: los departamentos financieros son la mayor fuente de tales riesgos, según dijo a TechCrunch, seguidos por los equipos de marketing y legal. Los desarrolladores ocupan el cuarto lugar, dijo ella.
Las herramientas de su startup aparentemente encontraron una aplicación codificada con “vibe” creada por un empleado de finanzas en una empresa de la lista Fortune 500 para gestionar la información de los clientes y el abandono de los clientes, pero la aplicación se dejó expuesta a Internet.
Pluto, recién salido de la fase de ocultación con 42 millones de dólares en financiación, es el más reciente en una serie new cultivo de startups de seguridad esas que se han hecho rápidamente se desarrolló Para ayudar a las empresas a abordar esos problemas miedos huecos, y todos ellos son recaudar mucho dinero de inversores, basándose en la convicción de que utilizar únicamente el software de seguridad existente para monitorear y controlar herramientas de IA, conectores y su uso es un enfoque ineficaz.
Bahat le dijo a TechCrunch que su startup comenzó a vender sus productos solo en abril y ya ha encontrado clientes interesados en su tecnología, lo que ayuda a las empresas a obtener contexto, análisis de riesgos, visibilidad y control sobre cómo sus empleados utilizan las herramientas de IA. Dijo que Pluto comenzó a vender sus productos en abril y ya ha alcanzado ingresos anuales recurrentes de $2 millones, con más de 30 clientes empresariales, entre los cuales se encuentran Oscar Health, Workato, Sixt y AlphaSense.
La financiación de Pluto abarca una ronda de capital inicial de $8.5 millones liderada por TLV Partners, y los fundadores de la empresa de ciberseguridad Armis también invirtieron en ella. La compañía recientemente obtuvo una ronda A de $34 millones bajo el liderazgo de Jump Capital, con Skinos (la firma de venture de Shlomo Kramer, cofundador de Check Point), Ansa Capital y otros inversores ángeles participando.
Eso es una tracción decente para una startup joven, aunque no es algo único en esta era de la IA. Pero podría ser porque el alcance del riesgo no se limita a las grandes empresas tecnológicas que lideran los índices de adopción de la IA.
Cuando pregunté a Bahat dónde está enfrentando los mayores riesgos, ella dijo que los problemas se diferencian según la mentalidad del CISO y cuán dispuesta es la organización a adoptar la IA, pero de todas formas existían riesgos.
“En general, diría que no hubo ningún estudio de caso en el que entráramos y no encontráramos nada malicioso”, dijo ella. “Ya sean paquetes de extensión o habilidades: algunos tenían ataques activos en tiempo real mientras realizábamos el estudio de caso. Para mí, desde el punto de vista del producto, es algo increíble. Para las empresas, no es muy bueno”.
Todo el riesgo de Plutón es que la obtención de tales entornos requerirá herramientas de seguridad para prestar atención a lo que hacen los agentes de IA en tiempo real, además de vigilar qué y cómo los empleados construyen y implementan.
“Estamos pasando de la conducta del usuario a la conducta del agente”, dijo Bahat.
De acuerdo con esa visión, el software de la startup monitorea las herramientas de IA que utilizan los empleados, las habilidades, las extensiones, los servidores MCP y otros componentes en los que dependen esas herramientas, así como las aplicaciones y agentes que se crean. La empresa afirma que puede identificar componentes peligrosos, detectar actividades de agentes potencialmente peligrosas y aplicar políticas de seguridad sin impedir que los empleados utilicen o creen herramientas de IA.
Para hacer todo eso, Pluto se conecta a los sistemas de seguridad de puntos de extremo y de gestión de dispositivos, y puede desplegar sus propios sensores a través de ellos o directamente en los dispositivos. Recolecta información, incluyendo prompts, comandos, procesos en ejecución, permisos y la actividad anterior de los usuarios, y utiliza sus propios modelos “ligeros” en los puntos de extremo para ayudar a evaluar lo que intenta hacer el agente.
Lo que llamó la atención es que el sistema de Plutón puede intervenir mientras un agente está en funcionamiento, dijo Bahat. Si un agente intenta obtener permisos más allá de lo que el usuario pretendió, por ejemplo, el sistema puede detener la acción o añadir instrucciones en la sesión que hacen que el agente solicite confirmación.
“Podemos inyectar contexto de nuevo en la sesión, y de esta manera puedo cambiar la forma en que funciona el agente”, explicó Bahat.
La startup también adopta un enfoque inusual para encontrar clientes. En abril, lanzó Plutonium, una plataforma gratuita que permite a cualquier persona verificar los riesgos asociados con las habilidades de IA, los conectores y los complementos disponibles públicamente. También hay un escáner MCP y un catálogo de componentes verificados. Bahat afirma que miles de profesionales de seguridad utilizan Plutonium y que la comunidad alrededor de ella se ha convertido en una fuente importante de retroalimentación y clientes potenciales.
Dijo que el 70% del canal de ventas de Plutón ahora proviene de interés entrante, aunque no detalló cuánto de ese flujo proviene directamente a través de Plutonio.
Pluto dijo que planea invertir el nuevo capital en el desarrollo de su producto, en la expansión de sus esfuerzos de investigación de seguridad y en aumentar su presencia en los Estados Unidos. Tiene 40 empleados en los Estados Unidos y en Israel.