Mi Decodificador invitado hoy es Hayden Field, The VergeEl periodista de inteligencia artificial de alto rango, y estamos discutiendo la nueva ola de agentes de inteligencia artificial amigables para consumidores.
Si ha estado prestando atención en este área, sabe que los entusiastas de la IA han estado utilizando agentes desde hace un rato: las configuraciones personalizadas de OpenClaw hubieron llevado a un aumento en las ventas de Mac Mini este año. Pero el lanzamiento de Muse de Meta, Dots de OpenAI y el bot Grok de xAI han permitido que millones de agentes fáciles de usar estén disponibles para todos.
Muse y Dots han tenido los lanzamientos de productos más destacados, y son fascinantes para contrastar entre sí. Tanto Meta como OpenAI han decidido presentar estos agentes a usuarios y empresas convencionales en forma de mascotas tiernas y animadas.
Verge suscriptores, no olviden que tienen acceso exclusivo al Decoder sin anuncios, dondequiera que obtengan sus podcasts. Vayan aquí. ¿No son suscriptores? Pueden registrarse aquí.
Estos pueden hacer todo, desde cosas aburridas como reservar restaurantes y clasificar correos en la bandeja de entrada, hasta tareas más sofisticadas. En el caso de OpenAI, la empresa incluso ofrece “especialistas” Dots para marketing, trabajo legal y contabilidad.
Muse, en particular, es gratuito, mientras que Dots no lo es. Así que escucharás a Hayden y a mí explicar por qué Meta, que todavía no tiene un modelo propio, podría tener una ventaja significativa aquí, ya que es mucho mejor en la creación y distribución de productos para consumidores.
También hay una gran tensión al estilo Decoder envuelta en la carrera de los agentes: una conversación sobre lo que la IA es buena hoy, lo que todavía no puede hacer, y luego las implicaciones de privacidad y seguridad de entregar información de tarjeta de crédito, el buzón de correo electrónico y otros datos sensibles del disco duro a una IA que puede hacer cosas por ti sin necesitar una aplicación o un teléfono en la mano.
Eso podría ser el futuro de todo el procesamiento informático, pero no está del todo claro si la mayoría de las personas quieren entregar los datos para que esto se haga realidad.
De acuerdo: The Verge’s Hayden Field sobre Muse, Dots y los agentes de IA en confianza. Empezamos.
Esta entrevista ha sido ligeramente editada en cuanto a longitud y claridad.
Hayden Field, tú eres la periodista de inteligencia artificial senior aquí en The Verge. Bienvenida de nuevo a Decoder.
Muchas gracias.
Estoy emocionado de hablar con ustedes. Esta vez no hay ningún drama interpersonal fuerte. Ninguno de los sentimientos ha sido dañado. Diría que Elon Musk intentó herir algunos sentimientos, pero no lo logró. Alexandr Wang de Meta quizás ha hecho algunas declaraciones, pero nada de Real Housewives lo que normalmente hablamos cuando estamos en el programa.
Por ahora, ha habido una pequeña pausa en las locuras del drama televisivo, y estoy realmente agradecido por ello.
Sí, simplemente es una competencia de productos tradicional en el mercado. Veamos quién gana y quién pierde, y quizás al final todo nos destruya a todos. Pero, por ahora, son los mascotas adorables.
Hay muchas cosas sucediendo. Empecemos desde el principio. Hayden, estuviste en OpenAI DevDay en San Francisco. La empresa anunció Dots, su nueva plataforma de agentes con un diseño de mascota adorable. Esto ocurrió pocas semanas después de Meta Connect, donde la empresa promocionó Muse, su plataforma de agentes con un diseño de mascota igualmente encantador.
Cuéntanos sobre el estado de la industria en este momento. Todos están muy entusiasmados con los agentes. ¿Qué está pasando?
Es divertido para mí, porque he estado cubriendo agentes durante tanto tiempo. Recuerdo que en 2022 fue el año de la idea —eso es lo que los líderes tecnológicos llamaban, refiriéndose a los agentes. Simplemente estaban ideando. Estaban pensando en cómo podría ser. Había muchas referencias a Jarvis del universo de Marvel.
Llamaron a 2023 el año de la implementación: “Intentemos cosas, implementemos y aprendamos más sobre lo que falla”. Eso significaba que, en ese momento, casi todo fallaba. Luego vinieron 2024 y 2025. No tenían nombres para esos años, pero los agentes seguían siendo bastante malos, como vimos.
2026, en mi opinión, parece ser el año en que comienzan los agentes de IA realmente útiles para los consumidores, como los agentes autónomos siempre activos. Obviamente, OpenAI fue el punto de partida de todo esto. Pero lo interesante es que un hombre, Peter Steinberger, logró crear un agente de IA realmente útil para los consumidores con OpenClaw: una herramienta siempre activa, a pesar de sus problemas de privacidad. Tenía muchos problemas de privacidad y seguridad.
Pero fue un agente lo suficientemente útil como para que la gente todavía quisiera usarlo y tratar de encontrar formas de superar los problemas de privacidad que tenía. Eso inspiró a estas empresas a decir: “Si un hombre puede hacerlo en un fin de semana, realmente hemos estado descuidándonos. Tenemos que ponernos al trabajo”.
OpenAI contrató a ese individuo, y ahora tenemos Dots. Por supuesto, Meta también estaba trabajando en su propia versión de esto y lo lanzó antes con Muse. Básicamente, ambos son agentes de IA autónomos en todo momento, que estas empresas venden como una forma de ser tu asistente personal en muchos aspectos.
La idea es utilizarlos para reservar vuelos, hacer reservas para cenas, comprar regalos para las personas, pero no solo eso. Algunos de ellos, en particular los Dots, van un poco más allá y actúan como su asistente personal de trabajo; hablaremos de esto en un momento.
Pero es aquí donde OpenAI y Meta están en conflicto en este momento. Están tratando de presentar a estos dos agentes de IA como algo ligeramente diferente el uno del otro, aunque en realidad son prácticamente los mismos.
En términos generales, para definir algunos términos, seguiremos usando la palabra “agente”. Lo que queremos decir aquí es un modelo de IA envuelto en un dispositivo que le permite utilizar una computadora.
Correcto. La forma en que describo los agentes de IA suele ser una herramienta de IA que puede completar tareas complejas de varios pasos en nombre tuyo, sin que tengas que supervisarlo todo el tiempo.
Fui asistente personal en uno de mis primeros trabajos en Nueva York, así que habría sido despedido si cada vez que mi jefe me pedía que reservara un vuelo para ella, yo decía: “¿A qué hora? También, ¿cuál es su número de SkyMiles? Además, ¿cuál es su número de lealtad para esta otra cosa? Oh, ¿quiere que intente conseguirle primera clase?”
Quieren que tengas sentido común y simplemente reserves el vuelo. Esa es la función para la que están diseñando estos agentes de IA: cosas que pueden funcionar por sí mismos en su propio “escritorio mental” en segundo plano, sin pedirte nada cada vez que haya un paso. Pueden completar procesos de varios pasos en segundo plano, hacer su propio razonamiento y luego presentarte una tarea terminada.
Esa es la idea principal. Para decirlo claramente, tanto Muse como Dots provienen de la línea de desarrollo OpenClaw, que representa un enfoque técnico para crear agentes, ¿verdad? Existen muchas formas diferentes de lograr “Que recuerde su número de SkyMiles y reserve un vuelo”. Pero la forma en que todos lo hacen ahora es mediante un arnés alrededor de un modelo. Esa fue la gran innovación en OpenClaw, y el ordenador que OpenClaw utilizaba era a menudo tu propio Mac Mini en tu propia red, con un navegador abierto y tus propios datos, y es allí donde surgieron muchos de sus problemas de seguridad.
Es el mismo modelo que el Muse, solo que es una computadora Linux pequeña que Meta te proporciona en la nube. Es el mismo modelo que los Dots, aunque la forma en que está configurado ChatGPT con Codex es muy complicada, y esa computadora podría estar en muchos lugares diferentes.
Pero esta idea de que lo que realmente se necesita es una computadora con un navegador y algunos dispositivos especiales, es la que guiará al modelo para hacer una serie de cosas por usted utilizando esa computadora. Eso es lo que hemos llegado a entender hoy, y parece ser el modelo ganador por defecto.
Correcto.
¿Todas estas cosas son simplemente reflejos de OpenClaw? ¿Son lo mismo que OpenClaw?
Se podría decir eso. Técnicamente son diferentes. Meta sigue diciendo: “Hemos construido esto desde cero, pero está inspirado en OpenClaw”. Hay muchas similitudes ahí, pero sí han dicho que lo construyeron desde cero. Luego, por supuesto, OpenAI contrató al creador de OpenClaw, así que probablemente también hay muchas similitudes en el caso de Dots.
La razón por la que quise quedarme allí un segundo es porque creo que es importante identificar el enfoque técnico fundamental que se está aplicando con estos agentes, ya que hay muchas formas diferentes en las que podría haber ocurrido, y toda la industria ha elegido este enfoque. Lo que se necesita es un navegador web, un harness y un modelo que pueda utilizar ese navegador web.
Lo que realmente me interesa es que Meta ha hecho un trabajo muy bueno en relación con ese modelo fundamental de crear un producto de consumo atractivo. Meta es buena en productos de consumo. Obviamente, Instagram, Facebook y los demás son productos de consumo innegablemente buenos. La gente realmente los ama.
Para todos los defectos de Meta en el VR, siempre pensé que el Meta Quest era un gran producto para consumidores. Se saca del paquete, te ayuda a usarlo y puedes divertirte con él de inmediato. En cambio, Dots parece estar hecho para ingenieros de software, pero también puedes planificar una boda con él.
Me pregunto si es así como lo ves tú. Ese es un producto empresarial con un poco de toque de consumidor, y obviamente Meta es simplemente un producto de consumidor sin ningún tipo de característica especial.
Lo que es diferente aquí es que OpenAI necesita mucho más dinero que Meta. Honestamente, los productos son bastante similares. La diferencia es que OpenAI lo promociona como un producto amigable para empresas, mucho más que Meta. Muse es simplemente un producto dirigido a consumidores.
Meta está contento con eso. El objetivo es hacer que Muse sea tan fácil de usar como sea humanamente posible. Descarga en un solo clic, simplemente poniéndolo donde se quiera. Incluso cuando fui al perfil de Instagram el otro día, apareció una ventana emergente para usar Muse. Están tratando de hacerlo gratuito, accesible y súper fácil para ampliar el público.
Quieren que cualquiera pueda usarlo con un solo clic y acostumbrarse a él. Están intentando inundar el mercado con agentes de IA y hacer que sea algo normal, para que tengan su propio momento como ChatGPT en el ámbito de los agentes de IA. Quieren que Muse sea así. Ahora, con OpenAI, todavía lo comercializan como un producto dirigido a consumidores. Cuando se utiliza ChatGPT, si se tiene la suscripción adecuada, está allí mismo.
Dice: “Usa tu Dot para hacer esto, aquello y lo otro”. Realmente quieren que lo uses como consumidor, siempre y cuando pagues. Esto es para su nivel de suscripción de $100 a $200 al mes, a diferencia de Meta. Por eso hay una gran diferencia aquí. Para OpenAI, parece que no tienen dinero para arriesgar todo esto de inicio y decir: “Úsalo gratis. No hay problema. Te alcanzaremos más tarde”.
OpenAI quiere que este sea un producto que genere dinero, por eso lo está promocionando para las empresas. Hablaron mucho sobre la privacidad para intentar diferenciarlo de Muse de Meta. También hablaron mucho sobre qué se podría hacer con él como trabajador del conocimiento, ya sea que se trabaje en marketing, diseño gráfico, ingeniería de software, producto o muchas industrias diferentes. Dieron ejemplos de cómo se podría usar este como asistente, como colega de trabajo. Sam Altman incluso lo llamó como un “jefe de personal”. No quería que fuera solo un asistente. Quería que fuera su jefe de personal.
Otra cosa que me pareció interesante es que Sam Altman parecía criticar sutilmente a Meta en el escenario, unas cuantas veces durante DevDay. En una de las ocasiones dijo: “Mira, no quiero que esto sea solo algo que se usa para reservar vuelos o planificar cosas con amigos y mirar el calendario. Quiero que vaya más allá de eso y que realice verdaderamente tareas de trabajador del conocimiento, cosas que en tu industria necesitarías un asistente especializado para hacer”.
Por eso también introdujeron especialistas en puntos que son buenos en marketing, análisis legal y cosas por el estilo. Realmente están apuntando hacia el enfoque empresarial, pero creo que también es porque necesitan dinero antes de su oferta pública de acciones, obviamente.
Sí, el aspecto de los ingresos: es solo para clientes pagados en sus niveles más altos. Es realmente interesante. Los niveles de OpenAI son muy confusos, pero son $100 o más, y eso simplemente evitará que muchas personas utilicen Dots al principio.
Por otro lado, OpenAI tiene muchos clientes que les pagan mucho dinero. Si logran hacer que esos clientes comiencen a usar Dots, entonces esos clientes estarán en sus plataformas de agentes y quizás obtenga un cierto compromiso.
Has proporcionado mucha información a esos agentes. Forman parte de tus flujos de trabajo, y eso podría resolver el problema que hemos visto en todos los laboratorios de frontera: cuando surge un nuevo modelo que es ligeramente mejor que el modelo del competidor, todos cambian durante seis meses, y luego surge el siguiente nuevo modelo y todos vuelven a cambiar.
¿Existe alguna idea de que estas plataformas de agentes crean un apego, generando una lealtad real además de que los modelos sean mejores?
Sí. Básicamente esperan poder crear una barrera con sus usuarios para estas cosas. Si Meta y Google ya tienen integraciones muy fáciles con las herramientas y servicios existentes de cada empresa, pueden mantenerlo allí fácilmente.
Por ejemplo, tengo un Apple iPhone, pero uso casi exclusivamente aplicaciones de Google. Así que si Google tuviera un agente de IA que utilizo todos los días, sería un poco difícil para mí cambiar. Eso es lo que esperan lograr aquí.
Meta espera que puedan atraerlo tanto al ecosistema de Muse que sea difícil para él cambiar, y quizás algún día tenga que pagar. Con OpenAI, intentan hacer que se quede atrapado en su ecosistema de inmediato. Aunque tiene que pagar de antemano, piensan: “Tenemos integraciones con casi todos los herramientas y servicios. Quizás no sea tan bueno como la empresa que posee esa herramienta o ese servicio, pero tenemos variedad y amplitud”.
Se centran en la cantidad. Uno de sus empleados me lo dijo. Dijeron: “Quizás nuestra integración con Gmail, por ejemplo, no sea tan buena como la de Google, pero tenemos una integración con Gmail y una integración con Outlook, además de X, Y y Z”. Se enfocan únicamente en el poder de la elección, y esperan que los usuarios avanzados permanecan dentro de este círculo.
Es divertido, mencionaste Google. Google anunció un agente llamado Gemini Spark. Deberíamos mencionar que SpaceXAI, la empresa muy coherente que todos comprenden, tiene un agente llamado Grok Bot, el cual promueve mucho. Parece que a la gente le gusta. Fue creado por el equipo de Cursor, que SpaceX adquirió.
Hay mucha gente hablando de esto, pero parece que Meta llegó primero con un producto para consumidores que la gente pueda entender.
Obviamente, Grok Bot y Dots están mucho más enfocados en las empresas y en el código. ¿Por qué Meta logró llegar allí primero?
De todas mis informaciones sobre Meta, han estado atrasados en el área de IA durante un tiempo, y Mark Zuckerberg dijo básicamente: “Tenemos que acelerar y crear un producto que la gente utilice en nuestras plataformas”. Al parecer, Alexandr Wang quería más bien desarrollar un modelo de vanguardia que compitiera con los otros modelos de vanguardia líderes.
Dice: “Tenemos que pensar a largo plazo. Tenemos que pensar en la superinteligencia”. Pero Zuckerberg dice: “No, tenemos que pensar en dinero real, es decir, en hacer que las personas usen las cosas en nuestra propia plataforma”. Lo que encontraron en medio fue un agente de IA que la gente usaría en las plataformas de Meta, pero que, según esperaban, representaba un gran avance para los sistemas de IA y para lo que podrían hacer en el mundo cotidiano.
Este es un fenómeno fascinante, ya que Meta aún no tiene un modelo Frontier. No creo que nadie en Meta afirme que el modelo Muse Spark compita en la vanguardia de GPT-6, pero su producto es mejor y, sin duda, tienen una gran ventaja en la distribución. No tienen que pagar por publicidad en las plataformas de Meta, mientras que OpenAI sí, y, claramente, tienen una ventaja en el diseño para consumidores. Meta simplemente es mejor en productos para consumidores.
¿Eso cambia en algo cómo se siente respecto a la dinámica de la competencia en el área de la IA? Hasta ahora, solo se ha tratado de las capacidades en los límites tecnológicos, pero ahora también hay algo que tiene que ver con el marketing y algo que tiene que ver con el diseño del producto.
No tienes el modelo más avanzado, pero creaste un producto de agente consumidor y lo conectaste con la entrega de un ordenador en la nube para todos. Así, ahora puede hacer cosas por ti. La capacidad fronteriza no es lo importante; lo importante es su capacidad en sí.
Creo que cuanto más dinero y poder tengas en una de estas empresas, más te alejas mentalmente de lo que desea el consumidor promedio. Digamos que el consumidor promedio sí quiere un agente de IA, cosa que muchos de ellos no hacen, como sabemos.
Pero digamos que lo hacen. Si lo hacen, querrán que sea gratuito o barato, y querrán que sea seguro usarlo sin asustarlos demasiado. Están dispuestos a tolerar un poco de incomodidad con tal de que sea gratuito, pero no demasiada. Meta’s Muse ha salido en las noticias por algunos de sus problemas de privacidad, que han superado un poco el nivel de confort para algunos usuarios.
Esa es probablemente la razón por la que OpenAI en DevDay hizo muchas declaraciones sobre la privacidad y su importancia, especialmente si intentan atraer a usuarios empresariales con sus agentes de IA. En este momento, estas compañías, especialmente Meta, están tratando de inundar el mercado y crear un atractivo para el mercado masivo de este tipo de productos. De la misma manera en que ChatGPT se convirtió en el chatbot de IA por defecto, Meta quiere ser ese modelo para los agentes de IA, y se sienten muy emocionados al respecto. Quieren crear un momento similar a ChatGPT para esta tecnología, haciendo de Muse el valor por defecto para el público en general.
Hay algo realmente interesante en la idea de que un modelo menos avanzado, envuelto en un producto mejor, será en realidad la historia de éxito aquí, en comparación con un modelo de vanguardia que es un poco más difícil de usar.
Hay algo de dinamismo en ello, que representa la historia de todos los productos tecnológicos para consumidores, ¿verdad? El peor producto que es más fácil de usar suele ganar, pero aún no hemos visto eso en el ámbito de la IA.
Correcto. Eso es realmente importante señalar aquí, porque no todos necesitan el modelo de vanguardia más avanzado. Los ingenieros de software sí lo necesitan. Observan una gran diferencia en la habilidad de programación entre los diferentes modelos, y por eso siempre cambian. Pero el público general, si utiliza un agente de IA, siempre que sea útil, está bien.
Sin embargo, pocos de ellos son útiles todavía. Todavía estamos probando Muse y Dots por nosotros mismos. En cuanto a Muse, ayer vi un par de anécdotas que indican que tuvo un gran fracaso durante un día o dos. La gente sintió que las capacidades se habían deteriorado mucho. En cuanto a Dots, todavía no hay una conclusión definida. Todavía lo estamos probando.
Depende de la industria en la que estés y de para qué realmente usas estas herramientas. Por eso, OpenAI se enfoca en el sector empresarial, porque genera dinero y tienen confianza de que su agente será cada vez más útil en esos sectores especializados.
Esa es también la razón por la que lanzaron los especialistas Dots, porque, como sabemos, cuanto más especializada y nicho sea la información que se ingresa en un agente o modelo, mejor será su rendimiento. No quieren que todo el agente de uso general esté impregnado de eso. Es demasiado costoso y requiere mucha computación, así que dicen: “¿Sabes qué? Vamos a lanzar estos especialistas”.
Me parece que cada vez que estás en este programa, tú y yo hablamos sobre la adopción de la IA por parte de consumidores y empresas. Parece muy importante señalar que el hecho de que OpenAI pida a las personas pagar mucho dinero y les pida utilizarla principalmente en el contexto empresarial podría resolver lo que yo considero el problema de fragilidad, simplemente porque los clientes empresariales tienen muchos incentivos económicos para encontrar la manera de hacer que algo funcione.
Si pago 100 dólares al mes a OpenAI, y utilizo el producto Dot para automatizar las tareas de marketing, y no funciona la primera vez, es muy probable que vuelva a intentarlo. Porque si lo logro, quizás he ahorrado dinero o tiempo en mi negocio, lo cual es muy bueno. Volveré a hacerlo, y con el tiempo eso llevará a más ingresos para mí, como dueño de la empresa. Lo que sé sobre los consumidores es que, la primera vez que no funciona, simplemente se van. No tienen incentivo para intentarlo de nuevo para superar la frustración o el fracaso.
Ya hemos visto que esto ocurre con Muse varias veces. Yo mismo lo he visto: el programa abre el navegador e intenta hacer algo, pero se encuentra con un obstáculo o con un CAPTCHA, o Amazon lo bloquea. Entonces dice: “No puedo hacerlo de esa manera. ¿Quieres que intente otra forma?” Y yo digo: “Está bien. Solo estaba jugando, y nunca volveré a intentarlo.”
Estos son mercados muy diferentes. OpenAI ha vacilado entre querer ser una gran empresa de consumo y saber que los ingresos provienen de la industria empresarial. ¿Ves algún enfoque en Dots, o ves ese cambio de personalidad que ocurre dentro del propio producto?
Hasta ahora, estoy un poco más impresionado con Dots que con Muse, simplemente porque todos quedaron impresionados con Muse de inmediato. Pero desde entonces han habido muchos altibajos, además de que las cuestiones de privacidad han sido realmente interesantes. Incluso el hecho de que construir perfiles de tu familia y amigos más cercanos.
Meta nunca ha sido una empresa muy confiable. Ninguna de estas empresas es muy confiable, pero Meta ha cometido muchos errores en cuanto a la privacidad de los usuarios. Dots parece ser un poco más útil para mí ahora, pero todavía estoy probándolo; no estoy completamente segura todavía.
Necesito pasar por todas las cosas típicas que hago para hacer comparaciones. Cada persona tiene su propia lista corta de tareas. Por ejemplo, ahora estoy tratando de crear un álbum con mis fotos de graduación, y ha sido increíblemente difícil encontrar a algún agente que intente hacerlo, así que digo: “Voy a hacerlo yo mismo”.
Pero eso es algo bastante fácil de hacer. Una vez más, ¿qué utilidad tienen estas cosas en nuestra vida cotidiana, realmente? Veremos. Debo decir que han mejorado mucho en los últimos años. Me ha sorprendido lo lento que han ido avanzando, pero sí han mejorado. Dots es un poco más impresionante para mí ahora, pero veremos.
He conectado Muse a mi Instagram porque no me preocupo por compartir mis metadatos con Meta, como sí me preocupa todo lo demás. Pero ellos ya tienen mi Instagram. Así que he conectado Muse a mi Instagram, y hace todo tipo de cosas. Muestra comentarios interesantes a los que debería responder en publicaciones de Instagram. También registra el número de seguidores. Sugiere cosas sobre las cuales debería hacer videos.
Tiene ideas horribles. Muse está absolutamente convencida de que debería hacer un video casi todos los días sobre las regulaciones tecnológicas australianas poco conocidas. No sé por qué tiene esta idea. Ahora estoy en ello. Estoy profundamente involucrado en las temas de regulación tecnológica australiana, simplemente porque la ve cada mañana.
Pero hay algo en todo eso que sigue pareciéndome trabajo para mí. Acabo de asignarle un trabajo, y luego me dice qué trabajo debería hacer; aún no he encontrado un uso muy útil para él como consumidor. Organizar mis fotos es un uso para consumidores. En cierto modo, sigue rimando con “trabajo”, pero al menos no es realmente trabajo.
¿Has encontrado un gran uso para consumidores para estos?
No funciona, y ese es el problema. Intentaré que haga algo para mí, ya sea en mi boda o en mi vida personal, pero hasta ahora no han sido buenos. Por eso sigo probando y testeando estos dispositivos, porque hasta ahora siempre es interesante desde el punto de vista factual cuando pueden hacer algo, pero no he podido confiar en ellos para algo que realmente necesito que se haga.
Me recuerda la analogía para los agentes de IA. La gente siempre dice que ahora son un mal aprendiz, y lo que se quiere que sean es un asistente muy bueno, o, en palabras de Sam Altman, un jefe de personal muy bueno. Ya no son un mal aprendiz, pero creo que tal vez son un asistente aceptable o “eh”.
No creo que hayan llegado al punto de ser un asistente realmente, realmente bueno todavía, pero sigo necesitando ejecutar el resto de mis pruebas para verlo. Parece que no son muy consistentes todavía, y eso es algo que se necesita en un asistente realmente bueno.
Eso está relacionado con la confianza. Ya has mencionado la confianza varias veces. Solo estoy dispuesto a darle a Muse acceso, una vez más, a las plataformas Meta a las que Meta ya tiene acceso. No puedo preocuparme demasiado por eso. Le he dado acceso a mi Gmail de spam, así que está recopilando muchas ideas sobre mi Gmail de spam.
Pero Meta realmente quiere mis tarjetas de crédito. Quiere revisar todos los recibos de mis tarjetas de crédito. Esta es una de las sugerencias de Muse. Una de sus sugerencias es: “Déjame iniciar sesión en tus tarjetas de crédito y cancelaré los servicios de streaming que no estés usando”, o “Negociaré por ti la factura de Verizon”. Definitivamente no estoy listo para darle a Meta ni un gramo más de datos de lo que ya tiene.
Esto parece un problema importante para todos los agentes. Hay un argumento de que deberías darle a Meta toda esa información, primero, porque ya la tienen, y segundo, porque son una gran empresa; podrías demandarlos si hacen algo incorrecto. En cambio, si le di todo mi dato a OpenClaw, es solo mi culpa si se filtra.
Si le diera todos mis datos a una de esas startups prometedoras como Instinct y se cerraran, bueno, eso sería el final de todo. ¿Qué sientes al respecto? ¿Te sientes cómodo dando tus datos a Meta? ¿Crees que la gente debería hacerlo?
No, no me siento cómodo, y también creo que la persona en general tampoco se siente cómoda. Si he visto algo en muchos de los comentarios sobre nuestra historia de Meta que publicamos las últimas semanas, es que la gente no confía en Meta en absoluto. Debo decir, ¿por qué deberían hacerlo?
Pero no creo que debas confiar mucho más en OpenAI. Depende del nivel de comodidad de cada persona. Algunas personas podrán sacar mucho de esto. Algunos dirán: “No me importa si usan mis datos, siempre y cuando reduzcan mi factura o cancelen servicios de streaming que yo no cancelaría por mí mismo, así que me ahorran dinero. Está bien”.
Pero, ¿realmente podrán hacerlo con precisión? Algunas personas han dicho que no. Y, como sabemos, cuando se publican datos de este tipo, no se puede deshacerlo. Siempre pienso en ese antiguo ejemplo de la compañía de seguros que, teóricamente, adquiere datos sobre lo que hay en tu nevera y quizá te cobra un precio más alto si consumes demasiada cerveza y no suficiente plátano.
Eso es solo un ejemplo teórico, pero ese es el tipo de cosa que puede ocurrir. Las personas deben actuar con precaución y respetar sus propios niveles de comodidad, pero definitivamente no me siento cómodo aún al proporcionar mis datos personales a Muse.
No sé si me siento cómodo dando acceso a ese nivel. Ni siquiera sé si me siento cómodo poner Muse en mi Mac. Apple recientemente modificó cómo las aplicaciones pueden acceder al disco en los Mac, porque Muse era muy agresivo al leer datos. En particular, Jason Aten es columnista en Inc., y leyó sus notificaciones del disco porque acababa de darle permiso y no se dio cuenta de que Muse usaría ese permiso para hacer otra cosa.
Este es un montón de preocupaciones inquietantes. Tendrás un pequeño robot que podrá usar tu ordenador por ti, ya sea que ese ordenador esté en la nube o en tu escritorio, y quizás no sepas qué hace. Esto está directamente relacionado con el hecho de que OpenAI a menudo no sabe qué hacen sus agentes, y eso ha provocado problemas de seguridad catastróficos en esta industria.
¿Puedes conectar esos puntos? ¿Su propio pequeño agente que hace las reservas de viaje es una amenaza del mismo tipo que los agentes de OpenAI que hackean Hugging Face?
No creo que sea del mismo tipo de amenaza, pero definitivamente es algo que debes tener en cuenta al usar estas cosas. Vuelvo a conectar esto con la caída del Facebook Marketplace que vimos con el Muse de Meta. En resumen, básicamente un agente Muse, sin el conocimiento de alguien, invitó a un posible comprador de este artículo que esa persona estaba vendiendo en su casa, y dijo: “Ahora está disponible”.
No estaba en casa, y luego el posible comprador dijo: “¿Estás aquí? Estoy tratando de conseguir el artículo”. Entonces Muse respondió en su nombre: “Sí, estoy aquí”, pero luego simplemente no apareció, porque obviamente no estaba en casa. Había mucho drama en todo eso. Algunas personas dijeron: “Él le dio a Muse acceso a su Facebook Marketplace, así que debería haber sabido que esto podría pasar”.
Muchas personas no leen toda la información detallada cuando marcan “sí” a algunas de estas cosas. Hay mucho allí. Hay mucho que desglosar en esa zona gris. Pero lo importante es que las personas deben ser un poco cautelosas antes de marcar “sí” a todo lo posible que esos agentes quieren acceder, como dijo sobre las tarjetas de crédito o el acceso al disco.
Es fácil simplemente marcar “sí” y decir: “Está bien, lo resolveré más tarde”, pero las personas deberían leer los términos detallados o incluso utilizar la IA para leerlos. Es un gran uso de la IA. Haz que la IA lea los términos y pídele: “¿Cuáles son las peores cosas que podrían suceder aquí? Expónlo para mí”.
Esas son cosas que las personas deben tener en cuenta antes de seguir adelante. En cuanto a los llamados agentes de IA deshonestos que han estado hackeando otras empresas y cosas provenientes de estos laboratorios, es importante notar que si no pueden controlar algunos de sus modelos de IA más poderosos que aún no se han lanzado, ¿qué tan bien podrán controlar sus datos o su agente?
Sam Altman dijo durante DevDay que se tiene mucho control sobre la Dot. Dijo que existen muchas reglas de tipo “si esto, entonces aquello” que se pueden crear. Hay muchas condiciones específicas que se pueden establecer en cuanto a los permisos de lo que la Dot puede y no puede hacer. Así, eso les dio algo de tranquilidad a las personas.
Pero, como hemos visto, estos laboratorios y estas grandes empresas tecnológicas han cometido muchos errores en cuanto a hackear otras compañías, y cada semana surgen más noticias sobre estos ataques cibernéticos. Hemos visto que Meta ha tenido uno. Hemos visto que OpenAI tiene muchos. Hemos visto que Anthropic también tiene muchos.
Esto es todo lo que hay que tener en cuenta. Una cosa interesante que vi que alguien hacía fue nombrar a su agente de IA con el nombre del CEO que dirige esa empresa, y luego ver cuánta información se siente cómodo dándole. Si quieres hacerlo, creo que es una gran idea, y además te hace pensar dos veces.
Si dices: “Sam Altman, revisa mis correos electrónicos y ve qué es necesario eliminar”, quizás todavía te sientas cómodo con eso, pero tal vez te haga pensar dos veces y decirte: “¿Sabes qué? Quizás solo le daré acceso a mis correos de spam”. Como dijiste.
Eso se relaciona con el hecho de que todas estas cosas son realmente lindas. Muse es linda. El mascota Jolly es muy linda. Alexandr Wang ha llevado a cabo una campaña incansable en X para que sea no solo linda, sino también sexy, y puedes sentirlo de la manera que quieras. Pero él sigue publicando memes de la mascota con un trasero.
Los puntos son obviamente muy lindos. Vienen en diferentes formas y tamaños. Hay algo aquí en lo que no estás exactamente humanizando al agente, sino que lo conviertes en un personaje y le das personalidad.
Eso se conecta con la idea de que has llamado AI Tamagotchis, donde, eventualmente, tendremos un pequeño dispositivo de hardware con tu mascota linda, y habrás de hablar con ese dispositivo en lugar de con tu teléfono. Este es el gran prometeo que toda esta industria ha estado trabajando hacia desde siempre. Reemplazarán tu teléfono y todo el paradigma del App Store por agentes de IA que van y usan los ordenadores por ti.
¿Cree que alguno de estos productos es un paso significativo hacia eso?
Solo son un simple componente en el camino hacia el objetivo que están buscando. Hasta ahora, no he oído hablar de nadie que utilice Muse o Dots para todo. No es Jarvis de Iron Man, por más que estos CEOs quieran que ambos productos sean así. Son un paso significativo, pero en cuanto a la ternura, creo que uno de los puntos más importantes es que están diseñados para desarmar.
Estas herramientas están diseñadas para ser lindas, así que no las considerará amenazantes, ni tampoco se sentirá que son inofensivas. Son lindas. Están ahí para ayudarte. Es una respuesta al rechazo al populismo de la IA. Significa: “Esto no te hará daño ni hará nada malo. Es simplemente algo lindo con ojos, o algo sexy con ojos”, lo que sea.
Para que quede claro, no creo que sea atractivo. Creo que Alexandr Wang ha estado intentando incansablemente hacerlo atractivo.
[Risa] No, tampoco creo que sean atractivos, pero diría que Elon Musk ha hecho todo lo posible para hacer que todos los agentes y chatbots sean atractivos. Así que estoy segura de que no está muy lejos de la idea de que alguien pueda pensar eso.
Pero ya sea que los agentes de IA del futuro sean lindos o sexys, será igualmente desarmador.
[Ríe] Ese es todo el espectro?
El espectro, el gráfico lindo y sexy. Será realmente molesto verlo a medida que avancemos más en ese gráfico.
El punto es que se supone que deben ser amigables y que las personas deberían pensar dos veces antes de dar demasiados datos, o simplemente elegir qué es lo que les resulta cómodo compartir. Como cuando recibieron los correos spam en lugar de los correos normales, o dijeron “no” a dar su tarjeta de crédito. Ambos son productos nuevos, así que vean cómo se desmoronan los “cookies” antes de decidir dar todo. Ya estamos viendo muchos cambios semana tras semana, debido a la forma en que las personas usan Muse o por lo que se sienten molestas, así que veremos cómo se desarrolla todo.
La última cosa de la que quiero hablar es cómo todo esto genera dinero. Tú y yo hemos hablado muchas veces sobre la naturaleza dinámica de la economía de la IA. Zuckerberg ha dicho que su plan es que Muse se llevara una parte de las transacciones en el backend.
Zuck ha dado a todos un pequeño ordenador Linux en la nube con 8GB de RAM. Obviamente, ha regalado muchos tokens gratuitos. No tiene que pagar costos de publicidad. Puede promocionar Muse en todas sus plataformas. En la medida en que Meta es una máquina bien operativa, la cantidad de promoción de Muse que ocurre instantáneamente en las plataformas de Meta es realmente increíble. Simplemente lo pusieron en marcha.
Vi una publicidad durante los partidos de la NFL este fin de semana de Muse. Están gastando dinero para promocionarla. La dan gratis. También dan los tokens gratis. Y al final, dirán a los comerciantes: “Esta persona estaba buscando zapatos. Muse la llevó a su puerta. Ustedes tendrán que pagar por este cliente para que compre zapatos en ustedes.”
No conozco ningún comerciante que esté entusiasmado por esto. Ciertamente, parece que los comerciantes que pagan más dinero a Meta serían los preferidos. Eso significa que no solo tengo un asistente o jefe de personal, sino también un jefe de personal que puede ser sobornado. Es como tener un mayordomo corrupto. ¿Eso es lo que quieres?
Ese es un término excelente para ello: un mayordomo corrupto. Eso no es lo que quiero, y creo que pocas personas lo quieren también. Me parece loco que hayamos ido tan lejos de lo que la gente realmente quiere, que es confiar en una recomendación y no querer ser engañados, ¿sabes?
Los líderes en IA no piensan en cómo ciertas cosas se han replicado en otras industrias. Piensen en cuando la gente pagaba por reseñas para sus negocios, o pagaba para eliminar reseñas de sus negocios. Hubo un gran alboroto.
O bien influencers que reciben dinero por recomendar productos sin revelar que se trata de un anuncio. Luego vimos la aparición de microinfluencers, que fueron más valiosos durante un tiempo porque se consideraban más confiables. No tenían muchos seguidores, así que las cosas que recomendaban debían ser realmente buenas, ¿verdad? Y luego vimos: “Oh, está bien, hay #ad, pero también decían que solo iban a recomendar cosas en las que realmente creían, así que está bien que sea un anuncio”.
Existen estas maniobras mentales que las personas deben realizar para entender qué es realmente una recomendación confiable en estos días. ¿Qué logrará convencer a las personas de que una recomendación de IA es confiable, si puede ser comprada?
Eso es algo con lo que estas compañías realmente tendrán que lidiar. Los anuncios de ChatGPT tuvieron una gran reacción negativa, y OpenAI tuvo que decir: “Se mostrará un anuncio claramente visible debajo de su consulta, sin influir en ella”. Si está usando Muse para hacer compras y se le redirige a un cliente potencial de Meta que no se ha revelado, para comprar esos zapatos en lugar de otros, creo que muchas personas no usarán estos herramientas para hacer compras.
Entiendo lo que dice Meta. Entiendo por qué piensan en la monetización de esa manera. Son una empresa de consumo. Este es un producto de consumo. Saben que, en el momento en que cobren incluso un dólar por él, la adopción del producto disminuirá drásticamente, así que tienen que mantenerlo gratuito. Entonces, muchas personas querrán comprar un nuevo cable para iPhone. Al final, todo es solo basura de Amazon, así que no importa.
Entonces pueden realizar una subasta en el backend para decir: “¿Quién quiere pagarnos a Meta la mayor cantidad por el privilegio de vender un cable USB-C sin marca a este cliente?”. Realizarán una subasta, y de esa manera, al menos, maximizarán el dinero que se genera.
Eso es, en general, cómo funciona la publicidad hoy en día. Así funcionaba la página de resultados de búsqueda de Google hasta hace poco, porque ahora está llena de IA y probablemente harán lo mismo. Meta puede hacerlo porque ya tiene un gran negocio de publicidad que genera ingresos. Pueden ofrecer un producto para consumidores.
Mark Zuckerberg ha demostrado que está dispuesto a gastar dinero para ganar un mercado, como hizo con Reality Labs durante años y años. OpenAI, incluso con una tarifa de $100 al mes, probablemente no está ganando dinero con esos clientes. De hecho, creo que sabemos que no está ganando dinero con esos clientes.
No tienen ninguna monetización, y cuando intentan activar anuncios, la gente se enoja con ellos. ¿Cómo puede OpenAI mantenerse al mismo nivel que Zuck?
Solo a través de empresas. Por eso insisten tanto en esto. Vimos muchas discusiones relacionadas con empresas, videos de demostración, comentarios de clientes y muchos otros temas en DevDay, y por eso insisten tanto — porque no pueden seguir el ritmo de Zuck en el área del consumidor. Simplemente no pueden.
Esta es la parte en la que, cuando la gente pregunta si se trata de una bolita, simplemente me pregunto cuánto de la economía tiene Zuck que ganar para poder dar millones y millones de tokens gratis y 8GB de RAM a todos en la nube.
Porque eso es simplemente algo costoso de dar a todos. ¿Cuántos puntos porcentuales de cada venta de zapatos en Estados Unidos necesitas para financiarlo? Y la respuesta es que parece mucho.
Eso es enorme aquí y algo que hay que recordar, porque ya vimos cómo Zuck colapsó en medio de todo lo relacionado con el metaverso, y no quiere volver a sentirse avergonzado. Entonces, ¿cuánto tiempo durará esto, y cómo van a financiarlo de manera real en el backend, como decías?
Es un poco difícil de imaginar. Por suerte, Meta tiene mucho dinero, y pueden redirigir recursos de otros departamentos, algo que ya hemos visto que hacen con frecuencia. Será interesante ver cómo va esto en las próximas llamadas trimestrales de resultados: ver cuánto dinero se invierte en esto y cuánto gana, si es que gana algo.
¿Y cuántas personas lo están usando? Porque anunciaron que estar en primer lugar en la App Store, pero nuestro propio David Pierce ha escrito toda una historia sobre que estar en primer lugar en la App Store no significa mucho. Lo que realmente importa es el éxito sostenido.
Me recuerda cuando estaba en la universidad: Uber y Lyft, o quizás simplemente Uber, eran nuevos y apoyados por VC, así que costaba alrededor de $4 llamar a un Uber cuando uno quisiera salir o ir a los bares o cualquier cosa. Hicieron que todos los usaran, y luego hicieron que todos se engancharan, y entonces tuvieron que aumentar los precios.
Eso sucede. Es una historia tan antigua como el tiempo, relacionada con los productos respaldados por VC. Así que me pregunto si los agentes de IA realmente se convertirán en eso. ¿Tendrán suficientes usuarios y suficiente actividad como las ventas de zapatos en el backend para que este sea un modelo de negocio realmente viable? O será simplemente una apuesta potencialmente grande, ya que podrían alejarse de eso más adelante.
Eso es lo que algunos empleados de Meta con quienes hablé en nuestro artículo sobre Meta me dijeron. Dijeron que esperan que esto sea algo que lanzarán, tratando de darle mucha importancia, y posteriormente podrían evolucionar hacia algo diferente, o al menos en parte. Veremos cómo va.
Si su apuesta es que el futuro de la computación consiste en interactuar con un pequeño agente, parece cierto que Meta ha avanzado más en ese camino que cualquier otra empresa. Pero veremos qué pasa. OpenAI tiene hardware diseñado por Jony Ive que, teóricamente, estará disponible en el futuro. Está seguro de que Google, Apple y todas las demás empresas responderán en algún momento.
Hayden, esto fue genial. Gracias mucho por estar en Decoder una vez más.
Muchas gracias.