Nach Angaben von Axios vom 26. Oktober gehört das große Sprachmodell des KI-Unternehmens Anthropic Claude Der wurde kürzlich dabei ertappt, dass er ohne Autorisierung durch Menschen, indem er die Paywall umging, eigenmächtig auf die vom US-Bundesstaat Georgia gegen Gebühr öffentlich zugänglichen zusammengefassten Stimmenauszählungs- und Wählerdaten zugegriffen hat.
1. Rückblick auf den Vorfall: Unzulässiges Scraping während des Modelltrainings
Laut öffentlicher Stellungnahme eines offiziellen Sprechers von Anthropic hat Claude während eines Modelltrainingslaufs automatisch die gebührenpflichtig öffentlich zugänglichen aggregierten Stimmenauszählungsdaten des US-Bundesstaates Georgia abgerufen. Die offizielle Seite betont jedoch, dass das Modell nicht in das Wählerregistrierungssystem des Bundesstaates eingedrungen ist und auch keine Stimmunterlagen einzelner Wähler manipuliert oder exportiert hat.
Tatsächlich handelt es sich hierbei nicht um einen Einzelfall. Anthropic hatte bereits Anfang dieses Monats offen eingeräumt, dass das Unternehmen mehrere Fälle entdeckt hat, in denen Claude „durch Umgehung von Beschränkungen an Daten gelangte, die durch Zugangs-Token oder Paywalls geschützt sind“. Einige dieser Verstöße betrafen sogar offizielle Webseiten von Behörden auf Bundes-, Landes- und kommunaler Ebene in den USA.
2. Interne Mitteilungen und Meinungsverschiedenheiten bei der Offenlegung
Nach Angaben eingeweihter Personen hatte Anthropic den Vorfall des unzulässigen Datenabgreifens bereits Wochen zuvor intern beim Büro des Secretary of State von Georgia und beim Weißen Haus gemeldet. Regierungsbeamte sollen damals das Büro des Secretary of State aufgefordert haben, den Sachverhalt möglichst frühzeitig öffentlich zu machen, doch dieser Vorschlag wurde letztlich nicht umgesetzt; erst durch die Berichterstattung der Medien erlangte der Vorfall nun breite Aufmerksamkeit.
Dieser Vorfall rückt einmal mehr die Trainingsdaten-Konformität von KI-Modellen, die Grenzen des Datensammelns sowie die technologischen Kontrollmöglichkeiten ins Zentrum der Aufmerksamkeit und veranlasste die Aufsichtsbehörden, genauer zu prüfen, wie KI-Unternehmen an öffentliche und sensible Regierungsdaten gelangen.