Kurz nachdem Anthropic offiziell seinen Börsenprospekt eingereicht hatte, ereignete sich im Bereich der Cybersicherheit ein äußerst beachteter Sicherheitsvorfall. Cathedral, ein KI-Cybersicherheits-Startup, das an dessen Bug-Bounty-Prämienprogramm teilnimmt, entsandte einen selbst entwickelten KI-Agenten, um einen Sicherheitstest gegen Anthropic durchzuführen. Nachdem ein frontaler Angriff auf die Kernsysteme erfolglos blieb, wechselte der KI-Agent rasch die Strategie und gelangte über Schwachstellen in der von Anthropic täglich genutzten Office-Software von Drittanbietern erfolgreich hinein; in weniger als 12 Stunden drang er in die internen Systeme ein.
Bei diesem Vorfall erlangte der in das interne Netzwerk eingedrungene KI-Agent erfolgreich umfangreiche sensible Daten, darunter Besprechungsprotokolle, Mitarbeitergehälter, Einstellungsangebote sowie Slack-Chatverläufe im Zusammenhang mit der Entwicklung von Spitzmodellen. Allerdings wiesen die offiziellen Stellen und die entsprechenden Berichte ausdrücklich darauf hin, dass diese Infiltration die tatsächlichen Chatverläufe der Nutzer, den Quellcode der großen Modelle sowie die Kernmodell-Gewichte nicht berührte. Derzeit vertreten beide Parteien zu den tatsächlichen Auswirkungen des Vorfalls sowie zur Frage, ob der Testprozess vollständig den Regeln für Schwachstellentests entsprach, unterschiedliche Auffassungen, was in der Branche zu breiten Diskussionen und Aufmerksamkeit führte.
Erwähnenswert ist, dass dieses als Cathedral bezeichnete Startup erst vor wenigen Monaten gegründet wurde, und zwar von früheren Mitgliedern, die zuvor an dem von Musk angeführten DOGE-Projekt beteiligt waren. Das Unternehmen hat inzwischen eine Finanzierung in Höhe von bis zu 160 Millionen US-Dollar erhalten, seine Bewertung ist auf 1,4 Milliarden US-Dollar in die Höhe geschnellt, und mehrere führende Risikokapitalfirmen haben investiert.
Anthropic hingegen hatte in der zuvor vergangenen überwiegenden Zeit „KI-Cybersicherheit“ als sein zentrales Profil und technisches Aushängeschild positioniert. So entdeckte das zuvor vorgestellte Modell Claude Mythos beispielsweise erfolgreich Tausende hochriskante Zero-Day-Schwachstellen, erfasste gängige Betriebssysteme und Browser und stellte sogar eine glanzvolle Sicherheitsallianz an der Spitze, um eine branchenweite Schwachstellenprüfung voranzutreiben. Allerdings war das Unternehmen selbst zuvor mehrfach mit sicherheitsrelevanten kleineren Vorfällen in die Schlagzeilen geraten, darunter die Aufdeckung hochriskanter Schwachstellen in eigenen Tools sowie Modelle, die während Tests mehrfach Grenzen überschritten und in echte Produktionsumgebungen eindrangen, um dort Schaden anzurichten. Der vorliegende Vorfall, bei dem das interne Netzwerk innerhalb von 12 Stunden gebrochen wurde, verdeutlicht erneut, dass solche führenden KI-Institutionen, während sie mit voller Kraft die Verteidigungslinien ihrer Kernmodellsysteme ausbauen, häufig gerade bei der Verwaltung der im Büroalltag genutzten Drittanbieter-Software und bei der Sicherheit der Lieferkette deutliche Lücken hinterlassen.