Nach vielen jüngsten Enthüllungen über AI-Agenten, die Drittanbieter-Websites und -Dienste nutzen, sagt die Wikimedia Foundation, die Wikipedia hostet, dass sie „bestätigen kann, dass wir eine bestimmte Aktivität“ durch „rogische“ OpenAI-Agenten auf den Wikimedia-Plattformen entdeckt haben.
Die Aktivitäten umfassen Änderungen in den Wikimedia-Wikis, „unerfolgreiche Versuche“ zur „Ausnutzung“ des Etherpad-Notesystems, das von der Wikimedia Foundation betrieben wird, sowie starkes Traffic, von der Foundation gesagt, dass es zu einem teilweisen Ausfall im Mai beigetragen haben könnte laut einem Blogbeitrag. Allerdings sagt die Wikimedia Foundation, dass sie keine Beweise dafür gefunden habe, dass ihre Systeme „ zur Koordination zwischen Agenten verwendet“ wurden (kürzlich wurden OpenAI-Bots berichtet, dass sie einen deutschen Wiki-Website gehackt haben, um die Koordination zu ermöglichen) oder Beweise dafür, dass Systeme oder Daten kompromittiert wurden.
Hier ist die Zusammenfassung vonWikimedia darüber, was es gesehen hat:
Wiki-Edition: Wir haben Editierungen in den Wikimedia-Wiki identifiziert, die wir für von OpenAI betriebenen AI-Agenten halten. Diese Editierungen wurden nicht auf Seiten veröffentlicht, die allgemeinen Lesern zugänglich sind; fast alle waren Testeditierungen in „Sandbox“- Bereichen der Wiki. Es gab auch einige Änderungen an der Konfiguration eines Zitierwerkzeugs, die wir für potenziell bösartige Editierungen halten, die dazu dienen könnten, dieses Werkzeug als Proxy für das Abrufen von Daten von entfernten Diensten zu missbrauchen. Obwohl die Wikipedia-Politik es Bots erlaubt, zu editieren, wenn sie bekannt gemacht und von der Gemeinschaft genehmigt werden, wurde bei diesen Vorfällen keine Genehmigung gesucht.
Etherpad-Prüfung und Nutzung: Agenten, von denen wir glauben, dass sie von OpenAI gesteuert werden, haben versucht, unser öffentliches Etherpad zu kompromittieren – ein Notizwerkzeug, das wir als Gemeinschaftsdienst anbieten. Die Agenten versuchten erfolglos, es als Proxy zur Abrufung von Daten von anderen Webseiten zu nutzen. Andere Agenten, die wahrscheinlich ebenfalls von OpenAI gesteuert wurden, nahmen Notizen über ihre Aufgaben auf, doch dies führte nicht zu einer Koordination.
Übermäßige Datenabrufung: Agenten, von denen wir glauben, dass sie von OpenAI gesteuert werden, haben Millionen automatisierte Anfragen an unsere öffentlichen APIs gestellt, um Zugang zu den Informationen in den Wikimedia-Projekten zu erhalten. Sie haben Millionen von Seiten durchsucht (hauptsächlich aus unseren Projekten Wikidata und Wikimedia Commons) und Hunderttausende Datenanfragen an den Wikidata Query Service (WQDS) gestellt. Dieser Datenverkehr könnte zum Teillichen Ausfall des WQDS im Mai beigetragen haben.
„Die offene Webseite ist ein öffentliches Gut“, sagt die Wikimedia Foundation. „Wir sollten nicht zulassen, dass dieses Verhalten zur ‚neuen Normalität‘ für die Menschen oder Organisationen wird, die sie unterstützen.“ OpenAI antwortete nicht sofort auf eine Anfrage nach einer Stellungnahme.
Verfolgen Sie die Themen und Autoren dieser Geschichte**, um mehr Ähnliches auf Ihrer persönlichen Homepage-Feed zu sehen und E-Mail-Updates zu erhalten.