Les fabricants d’agents IA promettent la confidentialité – va-t‑ils tenir leurs promesses ?

Lors de la OpenAI DevDay de cette année, le PDG Sam Altman a dévoilé l’agent IA nouveau de l’entreprise, Dots, et a déclaré à la foule que l’entreprise souhaite « établir un nouveau standard en matière de confidentialité dans l’IA de pointe ». OpenAI a passé la journée à critiquer de manière détournée Muse de Meta, son principal concurrent, pour ne pas protéger les données des utilisateurs. Cependant, quelques mois plus tôt, Muse avait été lancée comme une alternative supposément plus sûre à OpenClaw – avec le PDG Mark Zuckerberg promettant qu’elle était « conçue dès le départ pour la confidentialité et la sécurité ».

À une époque où les entreprises stockent les données personnelles des clients et où les attaques informatiques sont courantes, les laboratoires d’IA cherchent à convaincre les utilisateurs de partager encore plus d’informations avec leurs agents. Leur dernière stratégie pour réussir consiste à surpasser la concurrence en promettant que, contrairement à leurs rivaux, ils protégeront les données des utilisateurs de toute intrusion. La question est de savoir si les entreprises peuvent tenir ces promesses.

Nat Friedman, chef de produit chez Meta Superintelligence Labs, écrivit Sur X, l’objectif de la société avec Muse était de créer quelque chose comme OpenClaw, afin que nous puissions le rendre sûr, sécurisé, facile à utiliser et capable de s’adapter à des milliards de personnes. Les données utilisateur sont stockées dans une VM sécurisée, ce que Zuckerberg a décrit comme « un ordinateur Linux isolé équipé d’un navigateur, d’une CPU, de mémoire et de stockage ». La société dit La plupart des efforts déployés pour la construction de Muse ont été liés à une « conception et ingénierie minutieuses afin de le faire fonctionner plus en sécurité ». Le blog post de Meta a poursuivi : « Muse peut et fera encore commettre des erreurs, mais nous nous attendons à ce qu’elles soient beaucoup moins fréquentes et causent beaucoup moins de dommages grâce aux systèmes de sécurité que nous avons construits ».

Lié

• Les Tamagotchis artificiels sont en route
• Comment Meta a dépassé OpenAI dans la course aux agents d’IA

Mais bien que Muse occupe la première place sur les classements de l’App Store et qu’après Apptopia, elle ait attiré 600 000 utilisateurs actifs quotidiens aux États-Unis en quelques semaines, les promesses de Meta semblent avoir été dépassées. Bien que les données soient isolées des autres utilisateurs, et l’entreprise prévoit d’introduire plus tard cette année une méthode permettant de « empêcher cryptographiquement et de manière vérifiable Meta d’accéder aux données dans votre VM », Meta peut toujours accéder aux données. Un chercheur en sécurité a rapidement exposé une vulnérabilité zero-day qui pourrait permettre à quelqu’un de prendre le contrôle de Muse (qui a depuis été corrigée), suscitant des craintes d’attaques extérieures. Plusieurs problèmes de sécurité sérieux auraient été identifiés au dernier moment avant le lancement, dont un pourrait permettre aux utilisateurs d’accéder aux bases de données internes de Meta, selon 404 Media.

Muse semble également collecter généreusement (et dans certains cas, distribuer) des données. Par défaut, elle permet à Meta de entraîner des modèles grâce aux informations que les utilisateurs y insèrent, bien qu’il soit possible de choisir de ne pas le faire. Un journaliste d’une Inc. a reproché à Muse de téléverser et de lire ses messages privés sans son consentement, tandis qu’un YouTubeur a affirmé que Muse avait transmis son adresse à un inconnu via Marketplace. Dans les deux cas, Muse fonctionnait apparemment comme prévu, mais l’utilisateur ne savait pas jusqu’où elle pouvait aller. La plateforme crée des “profil détaillés de tous vos amis et membres de la famille”, comme le rapportait Wired. rien de cela n’est nécessairement inattendu de la part de Meta, mais cela ne prouve certainement pas que Muse soit particulièrement consciente de la vie privée ou de la sécurité.

OpenAI a pris note de ce fait lors de la présentation de Dots à la fin du mois de septembre. Alexander Embiricos, chef de produit Codex chez OpenAI, a déclaré en direct lors du DevDay que OpenAI se concentre sur l’offrir « l’assistant le plus fiable, sûr et sécurisé ». Le PDG Sam Altman a également montré comment les utilisateurs pouvaient contrôler leurs Dots individuels, par exemple en établissant une règle selon laquelle ils ne devraient jamais effectuer d’achat pour un montant supérieur à un certain niveau. « Je pense que nous sommes dans une situation différente de Meta, car celle-ci n’a pas de produit d’IA qui compte 1,2 milliard d’utilisateurs », a dit Glen Coates, chef de la plateforme d’applications chez OpenAI. Il a ajouté que « lancer quelque chose qui peut commettre ce genre d’erreurs est quelque chose que nous essaierons de éviter avec soin ».

Altman lui-même a également mis en avant le point de vue sur la confidentialité lors du DevDay. Pour attirer les clients professionnels, les dirigeants ont présenté un cadre permettant aux entreprises d’exercer des “contrôles plus stricts” sur leurs données et de ne pas conserver de données (c’est-à-dire que aucune donnée n’est stockée sur les serveurs OpenAI). En réalité, jusqu’à présent, il n’y a pas eu de nombreux scandales de confidentialité liés à Dots – bien qu’étant disponible uniquement dans les plans de abonnement ChatGPT à 100 $ et plus, il est probable que moins de personnes l’utilisent.

Les gens peuvent encore ne pas se sentir à l’aise pour partager leurs données personnelles avec OpenAI, en partie simplement parce que les agents d’IA en nécessitent beaucoup. Par exemple, Allison Johnson de The Verge a ressenti des difficultés à taper ses informations bancaires lorsque le bot a demandé des données dans le cadre d’une tâche pertinente (Muse dispose d’une intégration Stripe pour gérer cela).

Bien sûr, tous les entreprises ne font pas de promesses en matière de confidentialité. Instinct a été critiqué publiquement pour des termes de service trop généraux, lui donnant un accès illimité aux données ; depuis lors, l’entreprise semble avoir apporté des ajustements. Pour l’instant, les laboratoires d’IA semblent compter sur une approche en trois parties pour populariser l’utilisation des agents d’IA auprès du grand public : les rendre utiles, les rendre agréables et détendants afin de compenser leur côté inquiétant, et faire des promesses en matière de confidentialité — et espérons qu’elles se réalisent.