En el OpenAI DevDay de este año, el CEO Sam Altman presentó el nuevo agente de IA de la compañía, Dots, y le dijo a la multitud que la empresa quiere “establecer un nuevo estándar en privacidad en la inteligencia artificial avanzada”. OpenAI pasó el día criticando en forma velada a Muse de Meta, su principal competidor, por no proteger los datos de los usuarios. Sin embargo, hace unos meses, Muse se lanzó como una alternativa supuestamente más segura que la anterior OpenClaw —con el CEO Mark Zuckerberg prometiendo que estaba “desarrollada desde cero para la privacidad y la seguridad”.
En una era en la que las empresas acumulan datos personales de los clientes y los ataques cibernéticos son algo común, los laboratorios de IA intentan convencer a los usuarios de que compartan aún más información con sus agentes. Su última estrategia para tener éxito es superar a la competencia, prometiendo que, a diferencia de sus rivales, mantendrán los datos de los usuarios alejados de ojos curiosos. La pregunta es si las empresas pueden cumplir con estas promesas.
Nat Friedman, jefe de producto en Meta Superintelligence Labs, escribió en X que el “objetivo de la empresa con Muse era construir algo como Openclaw, de modo que pudiéramos hacerlo seguro, seguro y fácil de usar y escalable para miles de millones de personas”. Los datos de los usuarios se almacenan en una VM segura, lo que Zuckerberg describió como “un ordenador Linux aislado con navegador, CPU, memoria y almacenamiento”. La empresa dijo que la mayor parte del esfuerzo en la construcción de Muse se relaciona con “un diseño y ingeniería cuidadosos para operarlo de manera más segura”. El artículo del blog de Meta continuó diciendo: “Muse puede y seguirá cometer errores, pero esperamos que sean mucho menos frecuentes y causen menos daño debido a los sistemas de seguridad que hemos construido”.
Relacionado
Pero aunque Muse ocupó el primer lugar en los índices del App Store y, según Apptopia, ganó 600,000 usuarios activos diarios en Estados Unidos en pocas semanas, las promesas de Meta parecen no haberse cumplido. Aunque los datos están separados de otros usuarios, y la empresa planea introducir una forma “de prevenir cifralmente y de manera verificable que Meta acceda a los datos en su VM” este año, Meta sigue siendo capaz de acceder a los datos. Un investigador de seguridad rápidamente exponió una vulnerabilidad de tipo zero-day que podría permitir que alguien tome el control de Muse (la cual ya ha sido corregida), lo que genera temores de ataques externos. Se informó que surgieron múltiples problemas de seguridad graves en el último momento antes del lanzamiento, uno de los cuales podría haber permitido a los usuarios acceder a las bases de datos internas de Meta, según 404 Media.
Muse también parece recopilar (y en algunos casos, distribuir) datos de manera generosa. Por defecto, permite que Meta entren modelos con la información que los usuarios ingresan, aunque es posible optar por no permitirlo. Un periodista de una Inc. se quejó de que Muse subió y leyó sus mensajes privados sin que él lo solicitara, y un YouTuber dijo que la plataforma le ofreció su dirección a un desconocido a través de Marketplace. En ambos casos, Muse funcionaba como se esperaba, pero el usuario no se dio cuenta de hasta qué punto podía llegar. La plataforma crea “perfil detallados de todos sus amigos y familia”, según Wired. Nada de esto es necesariamente inesperado para Meta, pero definitivamente no respalda la idea de que Muse sea única en cuanto a privacidad o seguridad.
OpenAI se basó en este hecho al anunciar Dots a finales de septiembre. Alexander Embiricos, líder del producto Codex de OpenAI, dijo en el escenario durante DevDay que OpenAI se enfoca en tener el “assistente más confiable, seguro y protegido”, y el CEO Sam Altman mostró formas en las que las personas podían controlar sus propios Dots, como establecer una regla que impida que hagan compras por un monto determinado. “Creo que estamos en una posición diferente a Meta, ya que ellos no tienen un producto de IA con 1.2 mil millones de usuarios”, dijo Glen Coates, jefe de la plataforma de aplicaciones de OpenAI, añadiendo que “lanzar algo que cometa ese tipo de errores es algo que intentaríamos evitar con mucho cuidado”.
El propio Altman también destacó el aspecto de privacidad en DevDay. Para atraer a clientes empresariales, los ejecutivos presentaron un marco que permite a las empresas tener “controles más estrictos” sobre sus datos y sin opciones de política de retención de datos (es decir, no se almacena ningún dato en los servidores de OpenAI). De hecho, hasta ahora no han habido muchos escándalos de privacidad relacionados con Dots — aunque, como solo está disponible en las categorías de suscripción de ChatGPT que cuestan $100 o más, probablemente también hay menos personas que lo usen.
Las personas podrían seguir no sentirse cómodas al entregar sus datos personales a OpenAI, en parte simplemente porque los agentes de IA requieren una gran cantidad de ellos. Por ejemplo, Allison Johnson de The Verge se sintió incómoda al escribir sus datos bancarios cuando el bot le pidió eso como parte de una tarea relevante (Muse tiene una integración con Stripe para ocuparse de eso).
Por supuesto, no todas las empresas hacen promesas sobre privacidad. Instinct fue críticado públicamente por sus términos de servicio demasiado amplios, lo que le permitía acceder libremente a los datos; desde entonces, la empresa parece haber hecho ajustes. Por ahora, los laboratorios de IA parecen confiar en un enfoque en tres partes para popularizar el uso de agentes de IA entre el público general: hacerlos útiles, hacerlos amigables y desarmantes para compensar la sensación de incomodidad, y hacer promesas sobre privacidad — y esperan que se cumplan.
Seguir temas y autores de esta historia para ver más contenido similar en tu feed de página principal personalizada y para recibir actualizaciones por correo electrónico.