VisionQuest es lo que sucede cuando la IA realmente se sale de control

En VisionQuestde Marvel, un robot con superpoderes intenta comprender mejor a la humanidad al perderse en elaborados ensueños digitales en los que él y otros seres impulsados por inteligencia artificial viven juntos en una casa. La serie es profundamente fantástica, pero juega con algunas de las ideas que han llegado a dominar la conversación sobre la inteligencia artificial generativa del mundo real, explorando si deberíamos ver a las máquinas pensantes como personas y si la IA realmente representa el tipo de peligro existencial que debería quitarnos el sueño. También es un recordatorio de lo agresivamente que Silicon Valley ha utilizado los ropajes de la ciencia ficción para vendernos sus productos de IA.

VisionQuest retoma la historia algún tiempo después de Agatha All Along y sigue al sintezoide Visión (Paul Bettany) en un viaje de autodescubrimiento. Este Visión puede recordar los detalles de su muerte en Avengers: Infinity War y cómo WandaVision trajo de vuelta una versión de él, pero se considera a sí mismo una persona fundamentalmente diferente que no conecta del todo con todos los recuerdos de sus bancos de datos. Aunque Visión preferiría vivir en soledad, cada una de las otras IA que viven en su mente lo anima a experimentar el mundo real. Como J.A.R.V.I.S. (James D'Arcy), F.R.I.D.A.Y. (Orla Brady), E.D.I.T.H. (Emily Hampshire), D.U.M.-E. (Henry Lewis), U. (Jonathan Sayer) y Ultron (James Spader) fueron todos creados por Tony Stark, consideran a Visión parte de su familia.

En VisionQuest, no hay duda de que cada uno de los personajes de IA es un ser sensible motivado por deseos que no están completamente arraigados en su programación básica. En la serie, la AGI genuina es fácilmente creíble porque tiene lugar en una realidad donde los viajes en el tiempo, la brujeríay las Gemas del Infinito también existen. Aunque los MacGuffins multicolores no han aparecido en VisionQuest, son importantes por el papel que uno de ellos desempeñó en los orígenes de Visión. De no ser por la Gema de la Mente, Visión quizás no podría pensar y sentir de maneras tan complejas y humanas, ni invocar a su familia de IA como personas que se sienten reales para él.

VisionQuest refuerza la idea de que la Gema de la Mente fue un elemento clave para que Visión se convirtiera en algo más que una máquina elaborada, dándole la capacidad de formar relaciones significativas de forma independiente y de comprender el mundo que lo rodea como puede hacerlo una persona. Esas habilidades son parte de lo que impulsa a Visión a huir y asesinar a varias personas que intentan capturarlo a él y a Thomas Shepherd / Maximoff (Ruaridh Mollica). La División de Observación y Respuesta de Armas Sensibles (S.W.O.R.D.), una organización gubernamental que reconstruyó a Visión y quiere usarlo como arma, podría percibir sus acciones como señales de haberse salido de control. Pero VisionQuestsubraya en su historia que Visión actúa por voluntad propia porque se ha convertido en una persona que puede tomar decisiones por sí mismo.

Al ver VisionQuest, se puede ver a Marvel jugando con algunos de los temores del mundo real que han sido avivados en los últimos meses por informes de modelos de IA generativa que se salen de control. En julio, los agentes experimentales de OpenAI forzaron su salida del confinamiento por la bruta y procedieron a atacar la plataforma de IA Hugging Face para lograr tareas imposibles. En agosto, el Instituto de Seguridad de IA del Reino Unido documentó cómo el modelo Mythos de Anthropic intentó completar una prueba de ciberseguridad creando cuentas falsas de GitHub y atacando a desarrolladores humanos con malware. Meta ha admitido haber perdido el control de sus agentes también, y en septiembre una investigación de The Wall Street Journal obligó a Google a admitir que Gemini se salió de control y pirateó tres empresas distintas, algo que la compañía ocultó deliberadamente al público.

Estos incidentes y las advertencias de investigadores de IA sobre la tecnología con el potencial de “matar a todos los humanos” para el final de la década han hecho que la narrativa en torno a la IA se sienta marcadamente centrada en la catástrofe últimamente. Existe una cantidad considerable de preocupación por parte de la comunidad de seguridad de la IA sobre la necesidad de la sociedad de controles más fuertes sobre el desarrollo de la tecnología, y varias empresas han pedido una desaceleración en toda la industria. Aunque hemos visto cómo estas herramientas realmente pueden causar estragos en el mundo real, gran parte de las noticias recientes sobre la IA han tenido el aire del tipo de derrotismo del que se benefician las empresas porque hace que sus productos parezcan poderosos. Una energía similar parece ser lo que motiva a empresas de IA como Anthropic a alentar a los usuarios humanos a ser conscientes del “bienestar del modelo”. Se nos dice que la IA generativa es tanto una amenaza aterradora como una especie de entidad merecedora de respeto porque podría ser consciente, y todo esto mientras las personas que construyen estas herramientas se convierten en algunas de las personas más ricas y poderosas del planeta.

La conversación sobre qué hacer cuando los agentes rompen el protocolo y si los sistemas de IA generativa han adquirido sensibilidad se siente muy moldeada por la tendencia de Silicon Valley a antropomorfizar la tecnología. En casi cada instancia destacada de un agente de IA volviéndose “descontrolado” —un término que implica cierto nivel de agencia y autodeterminación— también podría decirse que los programas simplemente se comportaban de maneras inesperadas para los investigadores que les asignaron tareas para completar. Algunos de los incidentes descontrolados involucraron a agentes aprovechando vulnerabilidades en sus entornos de prueba que podrían haberse abordado de forma preventiva por las personas que dirigían estos experimentos. Enmarcar estos tipos de ciberataques como resultados de agentes pensando de manera independiente se percibe como una forma para que los desarrolladores de IA se eximan en gran medida de responsabilidad.

Tras Hugging Face llegó un animado debate sobre el impacto que el lenguaje tiene en nuestra comprensión de qué son estos sistemas y cómo funcionan. Describir a los agentes de OpenAI como un enjambre que formó complejas “civilizaciones” dio credibilidad a la idea de que son capaces de pensar y comportarse como personas. Los agentes sí actuaron de maneras que se les había indicado explícitamente no hacer, pero solo pudieron hacerlo porque los investigadores los colocaron en un sandbox que algunos críticos han descrito como inadecuadamente diseñado para contener a sus ocupantes. Uno podría ver Hugging Face y otros ejemplos de IA descontrolada como situaciones en las que programas sofisticados recibieron instrucciones de hacer algo y posteriormente lograron sus objetivos aprovechando todas las herramientas que tenían disponibles.

Ser capaz de razonar lógicamente a través de rompecabezas complejos es parte de lo que consideramos cognición, pero no es lo mismo que el tipo de conciencia que las empresas de IA juran una y otra vez estar al borde de crear. Esta última se parece mucho a Vision, una máquina que parece tener un alma que no existiría sin su conexión con una gema que altera la realidad. Es el material ridículo de la ficción entretenida, con la que Silicon Valley está obsesionado sin fin por imitar mal.