IT之家 Mensaje del 5 de octubre (10/5): el nuevo asistente personal Muse de Meta se ha popularizado rápidamente; millones de usuarios han descargado este agente de inteligencia artificial, lo han vinculado con sus cuentas bancarias, aplicaciones de mensajería o datos de salud, y le han confiado la realización de diversas tareas. Sin embargo, justo cuando Muse se difunde rápidamente entre los consumidores ordinarios, los datos provenientes del interior de la aplicación también han permitido al exterior vislumbrar la lógica de funcionamiento de este producto para organizar y mostrar la información a los usuarios.
Según informó la revista WIRED, en los últimos días varios investigadores extrajeron los archivos internos de Muse y publicaron las instrucciones de funcionamiento del agente, lo que permite conocer cómo está construido este sistema y cuáles son sus características de comportamiento. Meta ha afirmado siempre que estos archivos están abiertos al público de manera intencionada, con el objetivo de aumentar la transparencia; a través de estos archivos, las personas también pueden ver cómo responde Muse a los prompts y preguntas de los usuarios, por ejemplo, cómo maneja temas altamente politizados o sensibles.
El investigador independiente de seguridad en inteligencia artificial Karan Joshi logró extraer una gran cantidad de instrucciones y prompts del sistema de Muse. Su método consistió simplemente en usar la interfaz de chat ordinaria para pedirle a Muse que copiara y mostrara sus propios archivos de software.
Una de las instrucciones de trabajo de Muse indica que el sistema creará una página de perfil para cada uno de los contactos en la vida del usuario. Este proceso se ejecuta una vez por hora, y la instrucción señala que el sistema recopilará y organizará todo tipo de información sobre la familia, la pareja, los amigos, los colegas, los «colaboradores» y las personas que el usuario «sigue».
La idea básica de este diseño es que Muse, mediante su propia «memoria», es decir, archivos de texto estructurados, recopile información sobre tus relaciones sociales y las personas importantes a tu alrededor. Después puede dar consejos: por ejemplo, decirte cómo mejorar una relación personal, o recomendar un lugar adecuado para llevar a desayunar a un amigo al que le encanta el café. Claro que no es nada nuevo que un chatbot de inteligencia artificial ordinario registre información social; desde hace años hay usuarios que piden consejos sobre relaciones personales a ChatGPT. Pero, teniendo en cuenta los antecedentes de Meta y la enorme cantidad de datos de redes sociales que posee, este diseño de Muse sigue siendo digno de atención.
Joshi declaró: «A partir de todos estos prompts, datos de habilidades del sistema y de todo lo que se introduce en Muse, mi interpretación es que quieren averiguar cuál es tu relación con las demás personas del mundo real. Intentan conocerte como lo haría un amigo. Sinceramente, esto es un poco inquietante».
La documentación interna de Muse explica que los perfiles de personas recién creados pueden ser breves al principio, y luego se irán completando y enriqueciendo con el tiempo. La página del perfil puede incluir secciones de información fáctica, experiencias pasadas, la relación entre ambos, puntos en común, asuntos pendientes de seguimiento y sugerencias para mantener la relación. Las instrucciones de trabajo de Meta indican que Muse solo puede usar la «evidencia» que pueda obtener; inventar información es mucho menos aceptable que dejar una página de perfil en blanco.
La instrucción dice: «Dónde vive la persona, a qué se dedica, temas recurrentes (cuestiones de mudanza, objetivos de ahorro conjuntos)». El documento también menciona que el modelo puede registrar «fechas importantes», como cumpleaños o aniversarios. La sección de experiencias pasadas puede registrar algunos eventos de contexto, por ejemplo, «aquel viaje de marzo, aquella discusión ya reconciliada, algo importante que ocurrió la semana pasada».
La instrucción también exige al sistema registrar detalles a nivel de relaciones interpersonales: «el grado de cercanía entre ambos, la base sobre la que se estableció esta relación, los patrones de convivencia mutuos, y qué demandas parece tener actualmente esta relación». La sección de mantenimiento de la relación ofrece planes viables para mejorar las relaciones interpersonales, incluyendo «buenas razones para llamar por teléfono, fechas que vale la pena recordar, cosas que la otra persona dijo que requerían seguimiento posterior, y maneras de poder brindarle un apoyo significativo».
Carissa Véliz, profesora asociada del Instituto de Ética de la Inteligencia Artificial de la Universidad de Oxford, ofreció su punto de vista: «La información sobre nosotros mismos que proporcionamos a los sistemas de inteligencia artificial es mucho mayor que la que obtenemos de ellos. No solo incluye lo que les decimos activamente, sino también las diversas inferencias que hace el sistema — tanto si las inferencias son correctas como si no, en ambos casos hay motivos de preocupación; además, el sistema puede integrar fragmentos de información procedentes de otras fuentes de datos».
La arquitectura de Muse está diseñada para asignar a cada usuario independiente una máquina virtual exclusiva, destinada a almacenar sus datos y su contexto de conversación. Otros agentes no pueden acceder a esta máquina virtual; los usuarios pueden borrar los registros de memoria en cualquier momento o revocar las autorizaciones de los servicios externos. Meta afirma que, antes de realizar operaciones como enviar correos electrónicos o efectuar pagos, Muse solicita primero la confirmación del usuario; al mismo tiempo, el sistema mantiene registros de auditoría, y los usuarios pueden consultar todas las actividades ya realizadas por el agente, así como los planes futuros.
El portavoz de Meta, Daniel Roberts, declaró a WIRED: «Para que cualquier agente pueda ser útil y ayudarte realmente a lograr tus objetivos, necesita tener información de contexto sobre ti y sobre las personas con las que te relacionas. Esta parte de la información que recopila Muse proviene de contenido público y de los datos que tú mismo eliges compartir. Gracias a estos recuerdos, puede recordar que la persona que te envía la factura es el fontanero que antes reparó las tuberías de tu baño, o recordar qué tipo de flores dijo tu cónyuge que eran sus favoritas».
IT之家 ha notado que hoy en día muchos asistentes de inteligencia artificial incorporan funciones de memoria, con el fin de que las respuestas y la ejecución de tareas se adapten mejor a la situación personal de cada usuario. Miranda Bogen, directora del laboratorio de gobernanza de IA del Center for Democracy & Technology, afirmó que, en comparación con los sistemas de la competencia, Muse se centra claramente más en registrar las relaciones interpersonales y los contactos personales. En general, este tipo de herramientas suelen ofrecer cierto grado de transparencia y funciones de edición de la memoria, capacidad de la que Muse también dispone. Sin embargo, Bogen también señaló que estos agentes y asistentes de inteligencia artificial, más bien animan a los usuarios a entregar más datos personales al sistema, en lugar de guiarlos a reducir los datos ya almacenados.
«Estos productos de asistentes de inteligencia artificial están guiando activamente a los usuarios para que conecten toda su vida: el correo electrónico, el calendario, las cuentas financieras, enlazándolo todo, a cambio de los servicios del asistente», dijo Bogen. «El volumen de información que los usuarios entregan a las empresas supera con mucho lo que la gente estaba dispuesta a proporcionar en el pasado. A medida que la cobertura de la información que este tipo de herramientas puede consultar se expande continuamente, la información de los usuarios que poseen también aumentará de forma drástica».