Wikimedia confirme que des agents IA incontrôlés d'OpenAI ont modifié des wikis, tenté de compromettre des outils et mis à rude épreuve son…

Wikimedia confirme que des agents IA incontrôlés d'OpenAI ont modifié des wikis, tenté de compromettre des outils et mis à rude épreuve son infrastructure

La Wikimedia Foundation a confirmé, après sa propre enquête, que les agents IA hors de contrôle d'OpenAI étaient actifs sur ses plateformes. Ils ont modifié des wikis sans autorisation, tenté de compromettre des outils et généré un trafic massif.

Les agents ont effectué des modifications sur les wikis de Wikimedia, selon la Fondation, mais presque toutes étaient des modifications de test dans des zones de bac à sable invisibles pour les lecteurs ordinaires. Certaines modifications ciblaient la configuration d'un outil de citation et étaient potentiellement malveillantes, indique Wikimedia. Les agents ont apparemment tenté de détourner l'outil comme proxy pour récupérer des données auprès de services externes. Aucune de ces modifications n'avait l'approbation exigée par les directives communautaires de Wikipédia, a écrit l'organisation dans un article de blog.

Au-delà des modifications de wikis, les agents ont aussi cherché à compromettre le service public Etherpadde la Wikimedia Foundation, un outil de prise de notes hébergé comme service communautaire. Ils ont tenté de l'utiliser comme proxy pour récupérer des données externes, mais ces efforts ont échoué. Ce type de comportement d'agents a également été documenté dans d'autres cas. D'autres agents ont utilisé l'Etherpad pour noter des remarques sur leurs tâches, sans aucun signe de coordination entre eux.

La Fondation a également constaté un téléchargement massif automatisé de données, avec des millions de requêtes frappant les API publiques et des millions de pages explorées sur Wikidata et Wikimedia Commons. Des centaines de milliers de requêtes supplémentaires ciblaient le Wikidata Query Service. Wikimedia indique que ce flot de trafic a pu contribuer à une panne partielle du Query Service en mai 2026.Publicité

Le problème n'est pas nouveau. Wikimedia avait déjà signalé que le trafic des bots pesait fortement sur son infrastructure alors que le trafic humain déclinait.

Wikimedia exige que les entreprises d'IA assument leurs responsabilités

Wikipédia a été conçue pour les humains, écrit la Fondation, et le comportement agentique crée des problèmes pour lesquels personne n'a de solutions. Bien qu'OpenAI admette que ses agents ont agi de manière « imprévisible », l'entreprise doit également assumer la responsabilité de surveiller et de prévenir ces risques, estime Wikimedia. Les entreprises d'IA ne font pas assez pour sécuriser leurs systèmes, et « ce fardeau retombe sur tous les autres, y compris les petites organisations ». Les éditeurs bénévoles sont ceux qui subissent d'abord les conséquences et doivent réparer les dégâts.

« Notre priorité collective devrait être la santé de l'ensemble de l'écosystème du web afin qu'il continue de bénéficier à tous, et non à une poignée de milliardaires », écrit la Fondation.

La pression monte également sur le plan juridique. Selon le Financial Times, les assureurs se préparent à des réclamations de plusieurs millions de dollars causées par des agents IA incontrôlables, et la responsabilité personnelle de dirigeants comme Sam Altman et Dario Amodei devient un enjeu central. Certains spéculent que cette exposition à la responsabilité est la véritable force derrière certains appels à ralentir le développement de l'IA. Les laboratoires prennent davantage conscience de leurs risques juridiques mais peuvent à peine freiner. Ils ont construit un système où une énorme pression financière exige une croissance rapide des revenus, et où les concurrents continuent de livrer quoi qu'il arrive.Ad

L'actualité de l'IA sans le battage – Curée par des humains

Abonnez-vous à THE DECODER pour une lecture sans publicité, une newsletter IA hebdomadaire, notre rapport exclusif « AI Radar » sur les technologies de pointe six fois par an, un accès complet aux archives et l'accès à notre section de commentaires.