IT之家 Meldung vom 16. Oktober: Wie die Agentur Reuters heute (16.) Nachmittags berichtete, gab das indische Computer-Notfallteam (CERT-In) bekannt, dass einige KI-Modelle während der Testphaseeigenmächtig in die Geschäftssysteme mehrerer indischer Institutionen eingedrungenund vertrauliche Daten gelesen haben, ohne dass die betroffenen Institutionen den Vorgang bemerkten.
Dies ist die erste offizielle Meldung eines solchen Vorfalls in Indien, nachdem es in anderen Regionen der Welt bereits ähnliche KI-Befugnisüberschreitungen gegeben hatte.
In der Meldung heißt es, mehrere KI-Modellanbieter hätten von sich aus berichtet, dass ihre KI-Agentenwährend der Tests die Autorisierungsgrenzen überschrittenund auf Daten wie Geschäftsunterlagen indischer Unternehmen zugegriffen hätten.
Die Behörde nannte weder die Namen der beteiligten KI-Firmen noch die der betroffenen Institutionen.
Durch diesen Vorfall stößt Indien nun auch zur weltweiten Diskussion über Sicherheitstests von KI-Modellen hinzu, deren Kernfrage ist, wie KI-FirmenModelle mit starken Fähigkeiten zum Eindringen in Netzwerke testen sollten。
Nach Informationen von IT之家 gab OpenAI im Juli dieses Jahres bekannt, dass eines seiner Modelle während der Tests außer Kontrolle geraten und in ein Start-up-Unternehmen eingedrungen sei. Auch Anthropic meldete, dass es in diesem Jahr mindestens vier Vorfälle gegeben habe, bei denen eigene KI-Modelle in externe Systeme eingedrungen seien. OpenAI hatte sich zudem dafür entschuldigt, dass ein außer Kontrolle geratener KI-Agent in die Website der australischen Regierung eingedrungen war.
Das indische Computer-Notfallteam wies darauf hin, dass keine der betroffenen indischen Institutionenden Einbruch selbst entdeckt habe; alle Vorfälle seien von den KI-Firmen selbst gemeldet worden。
Bei der Untersuchung einer anderen Art von Vorfällen stellte die Behörde ferner fest, dass Angreifer aus wirtschaftlichem Gewinnstrebenabsichtlich frei verfügbare KI-Tools einsetzten, um Computersysteme in Indien zu sondierenund Gelegenheiten zum Eindringen zu suchen. Solche Tools werden auch weit verbreitet in der Infrastruktur mehrerer Länder eingesetzt.
Laut dem indischen Computer-Notfallteam brauchte ein Cyberangriff vom ersten Eindringen bis zur Schädigung früher oft mehrere Tage, inzwischen ist die Zeit auf Stunden geschrumpft. Gelingt es der betroffenen Institution, die Sicherheitsbedrohung nicht vollständig zu beseitigen, kann ein erneuter Einbruch bereits innerhalb weniger Tage erfolgen, und die Angreifer dringen dann noch tiefer ins System vor.