Das Problem mit der Berechtigung für alle Mitarbeiter in einem Unternehmen, auf AI-Tools zugreifen zu dürfen, ist, dass die Menschen diese Tools auf unerwartete Weise verwenden werden. Diese Tatsache lässt die Befürchtung entstehen, dass Unternehmen jetzt neue, große Sicherheitslücken in ihren Systemen haben – oder zumindest bald welche bekommen werden.
Um den Tempo des Einsatzes von KI-Tools in Unternehmen zu veranschaulichen, die solche Bedenken verursachen, sagt Shahar Bahat, CEO und Mitgründer von Pluto Security, dass ein neu veröffentlichtes KI-Tool innerhalb von nur zwei Stunden nach seiner Veröffentlichung in die Umgebung der Unternehmen gelangen kann. Etwa 60 Prozent der Risiken, die ihre Firma in ihrer Kundenbasis erkennt, betreffen Tools, die von Nicht-Entwicklern entwickelt wurden: Die Finanzabteilungen sind der größte Quell solcher Risiken, sagte sie gegenüber TechCrunch, gefolgt von den Marketing- und Rechtsteams. Entwickler kommen auf den vierten Platz, so sie.
Die Tools der Startup-Company haben offenbar ein von einem Mitarbeiter eines Fortune-500-Unternehmens erstelltes App, das auf Vibe-Coding basiert, gefunden, um Kundendaten und Abwanderung zu verwalten – doch die App wurde dem Internet ausgesetzt.
Pluto, gerade mit 42 Millionen Dollar an Finanzmitteln ausgestattet, ist das neueste Mitglied einer neuen Anbau von Sicherheitsstart-ups, die schnell entstanden sind um Unternehmen dabei zu helfen, diese Angstlücken zu überwinden. Alle diese Unternehmen werfen große Mittel von Investoren auf, weil sie der Überzeugung sind, dass die einzige Methode, um AI-Tools, -konnektoren und -nutzung zu überwachen und zu kontrollieren, indem man nur bestehendes Sicherheitssoftware verwendet, eine sinnlose Vorgehensweise ist.
Bahat erzählt TechCrunch, dass ihr Startup erst im April mit dem Verkauf begann und bereits Kunden für seine Technologie gefunden hat. Dadurch können Unternehmen Kontext, Risikobewertung, Sichtbarkeit und Kontrolle darüber erhalten, wie ihre Mitarbeiter die AI- Tools nutzen. Sie sagte, dass Pluto im April mit dem Verkauf begann und bereits Einnahmen von über 2 Millionen Dollar pro Jahr erzielt hat, mit mehr als 30 Unternehmenskunden, darunter Oscar Health, Workato, Sixt und AlphaSense.
Plutos Finanzierung umfasst eine Seed-Runde in Höhe von 8,5 Millionen US-Dollar, die von TLV Partners geleitet wird, und auch die Gründer der Cybersecurity-Firma Armis investieren. Das Unternehmen hat kürzlich eine Series A-Runde in Höhe von 34 Millionen US-Dollar aufgelegt, die von Jump Capital geleitet wird, mit Teilnahme von Skinos (der Startup-Firma von Shlomo Kramer, Co-Gründer von Check Point), Ansa Capital und anderen Angel-Investoren.
Das ist eine angemessene Dynamik für eine junge Startup – obwohl es in dieser AI-Ära nicht einzigartig ist. Doch das könnte daran liegen, dass das Risikoumfang nicht ausschließlich auf die großen Technologieunternehmen beschränkt ist, die die AI-Einführung chartieren.
Als ich Bahat fragte, wo sie die größten Risiken sehe, sagte sie, dass die Probleme durch den Denken des CISO und darüber, wie bereit das Unternehmen ist, KI zu verwenden, unterschieden sind, aber es gab trotzdem Risiken.
„Im Allgemeinen kann ich sagen, dass es keinen einzigen POC gab, in den wir eingedrungen sind und dort keine bösartige Elemente gefunden haben“, sagte sie. „Egal ob es sich um Erweiterungspakete oder Fähigkeiten handelt – einige hatten während unserer Untersuchung aktive Live-Angriffe. Für mich ist das im Hinblick auf das Produkt erstaunlich. Für die Unternehmen ist das jedoch nicht sehr gut.“
Plutos gesamter Vertrag besteht darin, dass die Sicherung solcher Umgebungen Sicherheitswerkzeuge erfordern wird, um im Realzeit zu überwachen, was die AI-Agenten tun, sowie zu beobachten, was und wie die Mitarbeiter entwickeln und implementieren.
„Wir wechseln von Benutzerverhalten zu Agentenverhalten“, sagte Bahat.
Im Einklang mit dieser Vision überwacht das Softwareprodukt des Start-ups die von den Mitarbeitern verwendeten KI-Tools, die Fähigkeiten, Erweiterungen, MCP-Server und andere Komponenten, auf denen diese Tools beruhen, sowie die erstellten Apps und Agenten. Das Unternehmen behauptet, dass es risikoreiche Komponenten identifizieren kann, potenziell gefährliche Agentaktivitäten erkennen und Sicherheitsrichtlinien durchsetzen kann, ohne die Mitarbeiter daran zu hindern, KI-Tools zu verwenden oder zu nutzen.
Um all dies zu erreichen, verbindet Pluto mit Sicherheitssystemen für Endpunkte und Geräteverwaltungssystemen und kann seine eigenen Sensoren über diese oder direkt auf den Geräten installieren. Es sammelt Informationen, einschließlich Anweisungen, Befehle, laufender Prozesse, Berechtigungen und der vorherigen Aktivität der Benutzer, und nutzt seine eigenen „leichten“ Modelle auf den Endpunkten, um zu beurteilen, was ein Agent versucht zu tun.
Was besonders hervorsticht, ist, dass Plutos System eingreifen kann, während ein Agent arbeitet, sagte Bahat. Wenn ein Agent versucht, Berechtigungen zu erhalten, die über das hinausgehen, was der Benutzer beabsichtigt hat, kann das System die Aktion stoppen oder Anweisungen in die Sitzung einfügen, die den Agenten dazu anregen, eine Bestätigung zu verlangen.
„Wir können Kontext in die Sitzung einschleichen, und auf diese Weise kann ich verändern, wie der Agent funktioniert“, erklärte Bahat.
Die Startup nimmt auch eine ungewöhnliche Herangehensweise bei der Suche nach Kunden. Im April startete sie Plutonium, eine kostenlose Plattform, die es jedem ermöglicht, die mit öffentlich verfügbaren AI-Fähigkeiten, Verbindern und Add-ons verbundenen Risiken zu überprüfen. Es gibt außerdem einen MCP-Scanner und ein Katalog mit verifizierten Komponenten. Bahat behauptet, dass Tausende von Sicherheitsprofis Plutonium nutzen und dass die Gemeinschaft um es eine wichtige Quelle für Feedback und potenzielle Kunden geworden ist.
Sie sagte, dass 70 Prozent des Verkaufsprozesses von Pluto jetzt aus Inbound-Interesse stammen, obwohl sie nicht aufgeschlüsselt hat, wie viel davon direkt durch Plutonium kommt.
Pluto sagte, dass es vor planen, das neue Kapital in die Entwicklung seines Produkts zu investieren, die Sicherheitsforschung zu erweitern und seine Präsenz in den USA zu vergrößern. Es hat 40 Mitarbeiter in den USA und Israel.