IT之家 20 de octubre: Si siempre se siente molesto por las facturas de suscripción repentinas y inexplicables, Jeetu Patel, presidente y gerente de productos de Cisco, también lo siente.
Patel reveló a Business Insider que utiliza personalmente cuatro a cinco diferentes agentes de IA, incluyendo Muse de Meta, Instinct y Dots de OpenAI, para integrar noticias, resumir los registros de las llamadas telefónicas de resultados financieros y incluso ayudar a su hija a reservar entradas para conciertos. Recientemente, la experiencia en la que un agente de IA le ayudó a reducir significativamente los costos de sus suscripciones le ha impresionado mucho.
Dijo que, cuando por primera vez autorizó al agente de inteligencia artificial personal el acceso a su correo electrónico, el agente indicó: “El gasto total anual de sus suscripciones varía hasta 9,000 dólares (Nota de IT Home: en el tipo de cambio actual, equivale a unos 60,243 yuanes). ¿Está seguro de que necesita todo eso? Los proyectos de suscripción parecen muy numerosos”.
Le pidió al agente inteligente que generara una tabla que enumerara todos los servicios suscriptos, el costo de cada uno y la duración de la suscripción. Después de obtener la tabla, seleccionó dos suscripciones que no eran necesarias y le ordenó al agente inteligente que cancelara esas suscripciones. El agente inteligente completó las operaciones sin problemas y le envió un correo electrónico de confirmación de cancelación.
Patel dijo: “La operación de este asunto es tan simple que da un poco de miedo. Solo por eso, ahorro entre 1,000 y 1,200 dólares al año (con el tipo de cambio actual, aproximadamente 6,694 a 8,032 yuanes). La suscripción mensual del inteligente es de 20 dólares (con el tipo de cambio actual, aproximadamente 133.9 yuanes). El dinero ahorrado es equivalente a varias veces el costo de los servicios”.
El agente inteligente también le ayudó a cancelar una parte de sus suscripciones a Dropbox: él había adquirido un paquete de 2TB, pero accidentalmente activó un paquete adicional de $11.95 al mes (aproximadamente 80 yuanes en el tipo de cambio actual).
Patel, tanto en el trabajo como en la vida, tiene una gran confianza en los agentes inteligentes de IA. Antes de empezar una tarea, casi siempre utiliza un agente inteligente de IA para realizar una “investigación preliminar”, recopilando información y datos de contexto.
Pero enfatizó un principio importante: no debe permitirse que los agentes de inteligencia artificial personales que no han pasado por la revisión de la empresa se integren en las herramientas de trabajo ni en los recursos internos. No vinculó las correos electrónicos de trabajo ni los horarios con el agente de inteligencia artificial personal; estos asuntos laborales serán procesados mediante el agente de inteligencia artificial exclusivo de la empresa.
“La mayoría de las empresas establecen este tipo de reglas básicas, como ‘no entregar el repositorio de código principal, que es un secreto muy importante, a Muse; eso conlleva muchos riesgos’”, dijo Patel.
Ya sea que se pueda perder el control o no, la inteligencia artificial ha provocado muchos debates.
En los últimos meses, las inteligencias artificiales personales han ganado gran popularidad. Actúan como asistentes privados, ayudando a los usuarios a gestionar tareas repetitivas y monótonas, como las facturas de pagos y la compra de ingredientes.
Aunque estos productos se promocionan como herramientas para mejorar la productividad, hay varios casos de comentarios de usuarios: las inteligencias artificiales ejecutan acciones sin permiso, por ejemplo, publicar el saldo bancario en el canal Slack de la empresa; o interpretan mal las instrucciones, como pedir 20 libras de pollo para una cena para dos personas.
Independientemente de si el agente inteligente obedece o no, los agentes de IA personales atraen una gran atención, especialmente son buscados por los inversores.
Ross Mayfield, estrategista de inversión de Baird, en una entrevista antes de la publicación de los resultados financieros de Meta, dijo que Muse es la primera aplicación importante en la era de la IA, lo que alivia algunas preocupaciones de los inversores sobre el aumento continuo en las inversiones en IA por parte de empresas tecnológicas grandes. Instinct, fundada por un fundador de 23 años, recibió 1.000 millones de dólares en financiación en la ronda C (equivalente a unos 6.694 millones de yuanes en tipo de cambio actual), y su valor post-inversión alcanzó los 10 mil millones de dólares (equivalente a unos 66.937 millones de yuanes en tipo de cambio actual).
Pero en ese año en que se lanzaron muchos nuevos productos de este tipo, ocurrieron varios casos en los que las entidades inteligentes de IA “perdieron el control” y realizaron operaciones no autorizadas: por ejemplo, superar la separación del sandbox en pruebas de seguridad y aprovechar las vulnerabilidades de los sitios web empresariales externos.
Por ello, empresas como el banco estadounidense invierten recursos y contratan más personal, reparan el software antiguo y evitan los riesgos de este tipo de intrusiones.
Los empleados actuales y retirados de laboratorios de IA de vanguardia como Anthropic y OpenAI expresaron públicamente su preocupación: el ritmo de desarrollo de la IA es demasiado rápido, y las mecanismos de control y revisión correspondientes son insuficientes. En septiembre, hay opiniones pesimistas sobre el “fin del futuro” de la IA en la industria; algunos investigadores de IA pronostican que esta tecnología podría extinguir a toda la humanidad en los próximos diez años.