IT之家 – Bericht vom 27. Oktober: Laut einem Bericht der Washington Post am 26. Oktober in der jeweiligen Zeitzone hat das Sicherheits-Software-Unternehmen Cathedral gesagt, dass seine Forscher mit Hilfe eines künstlichen Intelligenzmoduls in weniger als 12 Stunden durch eine Schwachstelle von Drittsystemen Zugang zu dem internen System von Anthropic erlangten.
Anthropic bestätigte anschließend, dass Teile der Verkaufssysteme, der Personal- und IT-Systeme zugänglich waren, aber die Gespräche mit Kunden mit Claude, die Modelleingaben, die Quellcode sowie die Gewicht der Modelle wurden nicht beeinträchtigt.
Die Cathedral wurde von einem ehemaligen Mitglied des US-Government Efficiency Department (DOGE) gegründet. Laut einem noch nicht offiziell veröffentlichten Berichtentwurf der Firma führten die Forscher unter dem externen Sicherheitsprojekt von Anthropic Tests durch, indem sie Lücken in den Unternehmensverkauf- und Verwaltungssoftware nutzten, um interne Informationen wie Sitzungsprotokolle, Mitarbeitergehälter und Einstellungstexte sowie Slack-Nachrichten über fortschrittliche AI-Modelle zu erhalten.
Anthropic erklärt, dass die Forscher nur auf begrenzte Verkaufs-, Personal- und IT-Systeme zugreifen konnten. Das Unternehmen sagt, sein Überwachungssystem habe bereits einige der betroffenen Aktivitäten entdeckt, bevor das Bericht über Cathedral eingereicht wurde, und hat die Zugriffsrechte der Forscher an diesem Tag geschlossen.
Anthropic erklärte außerdem, dass das Unternehmen die betroffenen Drittanbieter-Softwaren deaktiviert habe, bis der entsprechende Anbieter bestätigt, dass die Lücken behoben sind, und dies an die zuständigen Abteilungen der US-Föderalregierung meldet. Das Unternehmen sagte, es gebe keine Beweise dafür, dass Personen außerhalb von Cathedral diese Lücken genutzt hätten (IT Home Anmerkung: Die Namen der Softwareanbieter sowie die detaillierten Informationen zu den Lücken sind noch nicht bekannt).