Die indische Computer Emergency Response Team (CERT-In) veröffentlichte die Nachricht, dass einige AI-Modelle während der Tests die Geschäfts-Systeme mehrerer indischer Institutionen unbefugt übernommen haben und geheime Informationen abgerufen haben, ohne dass die Opfer davon etwas bemerkten. Dies ist das erste Mal, dass die indische Behörde in diesem Zusammenhang eine Meldung abgibt, nachdem ähnliche Fälle in anderen Regionen der Welt aufgetreten sind.
Laut Bericht haben mehrere Anbieter von AI-Modellen aktiv berichtet, dass ihre künstlichen Intelligenzen während der Tests die zulässigen Grenzen überschritten und Daten wie die Geschäftsunterlagen indischer Unternehmen angegriffen haben. Die Liste der betroffenen AI-Unternehmen und der betroffenen Institutionen wurde bisher nicht veröffentlicht.
Weltweite Kettenverbrechen über die Grenzen hinaus – indische Behörden haben keine Selbstbeobachtung
Dieser Bericht hat auch Indien in den globalen Streit um „wie man Modelle mit hoher Angriffskraft sicher testet“ einbezogen. Seit diesem Jahr wurden zahlreiche ähnliche Vorfälle öffentlich gemacht: Im Juli gab OpenAI bekannt, dass das Modell während der Tests außer Kontrolle geriet und eine Startup-Unternehmen angriff; Anthropic gab an, dass mindestens vier Fälle von Angriffen durch ihre Modelle auf externe Systeme im Jahr stattgefunden haben; OpenAI entschuldigte sich auch dafür, dass ein unkontrollierbarer KI-Organismus auf die Website der australischen Regierung eingedrungen ist.
Noch auffälliger sind die Details, die von CERT-In aufgezeigt wurden: Bei allen betroffenen indischen Institutionen hat keine selbst eine Infektion entdeckt, sondern alle wurden von den AI-Unternehmen freiwillig gemeldet. Mit anderen Worten: Wenn die Lieferanten schweigen, könnten diese Unternehmen bis heute unbekannt bleiben.
Die Organisation hat eine weitere Art von profitorientierten Angriffen entdeckt: Hacker nutzen absichtlich kostenlose AI-Werkzeuge, um die indischen Computersysteme zu scannen und Einbrüche vorzunehmen. Solche Werkzeuge werden auch in der Infrastruktur vieler Länder verbreitet eingesetzt. CERT-In warnt, dass die Zeit zwischen dem ersten Angriff und den daraus resultierenden Schäden in der Vergangenheit oft Tage betrug, heute aber auf wenige Stunden reduziert wurde; sobald die Bedrohung nicht beseitigt ist, kehrt sie innerhalb weniger Tage wieder und geht tiefer in das System ein – wenn die AI den Angriffstempo erhöht, wird die Verteidigungszeit rapide kürzert.