IT之家 Le 5/10, informations : le tout nouvel assistant personnel de Meta, Muse, est devenu rapidement populaire, des millions d'utilisateurs ont téléchargé cet agent d'intelligence artificielle, le reliant à leur compte bancaire, à leurs applications de messagerie ou à leurs données de santé, et lui confiant diverses tâches. Cependant, au moment où Muse se diffuse rapidement parmi les consommateurs ordinaires, des données provenant de l'intérieur de l'application permettent également au public d'entrevoir la logique de fonctionnement de ce produit en matière d'organisation et de présentation des informations aux utilisateurs.
Selon le magazine WIRED, ces derniers jours, plusieurs chercheurs ont extrait les documents internes de Muse, rendant publics les instructions de fonctionnement de cet agent, ce qui a permis de comprendre comment ce système a été construit et quelles sont ses caractéristiques comportementales. Meta a toujours affirmé que ces documents étaient volontairement ouverts au public afin d'accroître la transparence ; grâce à eux, il est également possible de voir comment Muse répond aux invites et aux questions des utilisateurs, par exemple la manière dont il traite les sujets hautement politisés ou sensibles.
Le chercheur indépendant en sécurité de l'intelligence artificielle Karan Joshi est parvenu à extraire un grand nombre d'instructions et de prompts système de Muse. Sa méthode a consisté à utiliser simplement l'interface de chat ordinaire, en demandant à Muse de copier et d'afficher ses propres fichiers logiciels.
L'une des instructions de travail de Muse indique que le système crée une fiche dédiée pour chaque contact de la vie de l'utilisateur. Ce processus s'exécute toutes les heures, et l'instruction précise que le système compile et organise diverses informations concernant la famille, les partenaires, les amis, les collègues, les « partenaires de collaboration » ainsi que les personnes que l'utilisateur « suit ».
L'idée de base de cette conception est que Muse, grâce à sa « mémoire », c'est-à-dire des fichiers texte structurés, recueille des informations sur vos relations sociales ainsi que sur les personnes importantes de votre entourage. Il peut ensuite formuler des suggestions : par exemple, vous dire comment améliorer une relation donnée, ou recommander un lieu approprié pour emmener petit-déjeuner un ami amateur de café. Certes, le fait qu'un chatbot d'intelligence artificielle ordinaire enregistre des informations sociales n'a rien de nouveau ; depuis des années, des utilisateurs demandent des conseils en matière de relations à ChatGPT. Mais compte tenu du passé de Meta et des immenses quantités de données de réseaux sociaux dont il dispose, une telle conception de la part de Muse mérite tout de même attention.
Selon Joshi : « Au vu de tous ces prompts, de ces données de compétences système et de tout ce qui est injecté dans Muse, je comprends qu'ils cherchent à déterminer la nature de vos relations avec les autres personnes du monde réel. Ils tentent de vous connaître comme le ferait un ami. Honnêtement, c'est plutôt troublant. »
La documentation interne de Muse précise que les nouvelles fiches de personnes peuvent être sommaires au départ, puis se compléter progressivement au fil du temps. Les pages de profils peuvent comporter des sections consacrées aux informations factuelles, aux événements passés, à la relation, aux points communs, aux points de suivi restants ainsi qu'aux conseils d'entretien de la relation. Les instructions de travail fournies par Meta stipulent que Muse ne peut utiliser que les « preuves » auxquelles il a accès ; inventer des informations est bien plus préjudiciable que de laisser une page de profil vide.
L'instruction indique : « Où réside la personne, quelle est son activité professionnelle, les sujets récurrents (déménagement, objectifs d'épargne communs). » Le document mentionne également que le modèle peut enregistrer des « dates importantes », comme un anniversaire ou un anniversaire de rencontre. La section sur les événements passés peut consigner certains éléments de contexte, par exemple « ce voyage de mars, cette dispute qui a été réglée, un événement important survenu la semaine dernière ».
L'instruction demande également au système d'enregistrer des détails sur le plan relationnel : « le degré de proximité, les fondements sur lesquels cette relation s'est construite, la manière dont les personnes interagissent, ainsi que les besoins que cette relation semble présenter actuellement. » La section d'entretien de la relation propose des pistes concrètes pour l'améliorer, notamment « de bonnes raisons d'appeler, des dates méritant d'être célébrées, des propos de l'autre mentionnant un suivi à assurer, et des moyens d'apporter un soutien significatif à cette personne ».
Carissa Véliz, professeure associée à l'Institut d'éthique de l'intelligence artificielle de l'université d'Oxford, donne son avis : « Nous fournissons aux systèmes d'intelligence artificielle bien plus d'informations sur nous-mêmes que nous n'en obtenons d'eux. Cela inclut non seulement ce que nous leur disons volontairement, mais aussi toutes les inférences que le système effectue — qu'elles soient justes ou erronées, les deux cas sont préoccupants à leur manière ; s'ajoute à cela la capacité du système à croiser des fragments d'informations provenant d'autres sources de données. »
L'architecture de Muse prévoit d'allouer à chaque utilisateur distinct une machine virtuelle dédiée, servant à stocker ses données et le contexte de ses conversations. Les autres agents ne peuvent pas accéder à cette machine virtuelle ; l'utilisateur peut à tout moment effacer les enregistrements de mémoire ou révoquer les autorisations accordées aux services externes. Meta indique que Muse demande d'abord une confirmation à l'utilisateur avant d'effectuer des opérations telles que l'envoi d'e-mails ou les paiements ; le système conserve par ailleurs des journaux d'audit, permettant à l'utilisateur de consulter l'ensemble des activités déjà réalisées par l'agent ainsi que ses projets à venir.
Le porte-parole de Meta, Daniel Roberts, a déclaré à Wired : « Pour qu'un agent soit utile et vous aide concrètement à atteindre vos objectifs, il doit disposer d'informations contextuelles sur vous et sur les personnes de votre entourage. Les informations que Muse collecte proviennent de contenus publics et des données que vous choisissez de partager. C'est grâce à cette mémoire qu'il peut se rappeler que la personne qui vous envoie une facture est le plombier qui a précédemment réparé la tuyauterie de votre salle de bains, ou se souvenir du type de fleurs que votre conjoint a déclaré préférer. »
IT之家 note qu'aujourd'hui, de nombreux assistants d'intelligence artificielle intègrent des fonctions de mémoire afin de rendre les réponses et l'exécution des tâches mieux adaptées au profil de l'utilisateur. Selon Miranda Bogen, directrice du laboratoire de gouvernance de l'IA au Center for Democracy and Technology, Muse accorde nettement plus d'importance que les systèmes concurrents à l'enregistrement des relations interpersonnelles et des contacts personnels. De manière générale, ce type d'outils offre habituellement un certain degré de transparence ainsi que des fonctions d'édition de la mémoire, et Muse dispose lui aussi de cette capacité. Bogen souligne toutefois que ces agents et assistants d'intelligence artificielle encouragent surtout les utilisateurs à soumettre davantage de données personnelles au système, plutôt qu'à réduire les données déjà conservées.
« Ces produits d'assistants à intelligence artificielle cherchent activement à amener les utilisateurs à y connecter toute leur vie : e-mails, calendriers, comptes financiers, tout doit être branché, en échange des services de l'assistant », déclare Bogen. « Le volume d'informations que les utilisateurs remettent aux entreprises dépasse de loin ce que les gens étaient auparavant disposés à fournir. À mesure que l'étendue des informations que ces outils peuvent mobiliser ne cesse de s'élargir, les données qu'ils détiennent sur les utilisateurs augmentent elles aussi de façon spectaculaire. »