Mengyao, desde Ao Fei Si
Quantum Bit | Account público QbitAI
Tsinghua recientemente lanzó un sistema operativo inteligente de código abierto, diseñado para resolver los diversos problemas difíciles que ocurren cuando los agentes de IA trabajan.
Este sistema llamado PilotDeck 2.0 fue lanzado conjuntamente por el laboratorio THUNLP de la Universidad de Tsinghua y equipos como Face Wall Intelligence y OpenBMB.
El problema que resuelve es, por casualidad, exactamente relacionado con lo más frustrante que enfrentamos al trabajar con un agente de IA: «fuerte».
Por ejemplo… cuando hay muchos proyectos, los archivos, la memoria y las tareas se mezclan todo, y uno se siente confundido… (risa)
El proceso es complejo; los tokens se generan sin cesar, y apenas la persona se aleja del ordenador, el AI se queda atascado en el medio esperando instrucciones *1000……
Y PilotDeck 2.0 se enfoca precisamente en esos viejos bugs que causan problemas.Gestión de memoria, ejecución de tareas y costos de llamadas a modelos。
El amable yo también he resumido brevemente para todos qué puede hacer este dispositivo y qué problemas cotidianos puede resolver.
- Gestión de proyectos: Gestionar múltiples proyectos al mismo tiempo, aislar archivos, recordar tareas y asignarlos, reduciendo la mezcla de información y la superposición de tareas.
- Memoria a largo plazo: Recordar el contexto del proyecto, las preferencias de los usuarios y el progreso del trabajo, permitir ver y modificar, evitando repetir explicaciones.
- Ejecución en el backend: Soporta la ejecución de tareas de larga duración desde el backend, verifica las tareas ejecutables y permite que la IA continúe trabajando incluso cuando el usuario se aleja.
- Rute inteligente: Se elige el modelo adecuado según la dificultad de la tarea. Para tareas complejas se utiliza un modelo potente, y para tareas sencillas, un modelo de bajo costo, lo que reduce los gastos innecesarios.
En las pruebas de rendimiento de Workbuddy Bench, PilotDeck obtuvo un puntaje de 79.1 con Qwen3.6-35B-A3B, lo cual es mejor que Claude Code (77.3).
Además, al permitir que los modelos fuertes tomen decisiones y que los modelos pequeños se encarguen de las tareas secundarias, ¿se puede reducir el costo de las tareas complejas y largas en casi cinco sextos??
Parece que es bastante útil, ¿eh??
La IA tiene su propio compartimento de trabajo, y puede gestionar la memoria, los archivos y las tareas.
Todos podrían tener esta sensación…
De todas las cosas que nos asustan al usar diversos herramientas de IA en la vida cotidiana, una de ellas es la «contaminación del contexto».
Por ejemplo, justo después de pedirle al AI que escriba una artículo sobre arquitectura técnica en estilo académico serio, luego le pide que escriba un texto para小红书, y en todas las veces que habla, sigue mencionando la desacoplamiento de arquitecturas... (risa)
Y detrás de este asunto de “catch-mate”, está principalmente relacionado con el problema de la caja negra de la memoria de la mayoría de los Agentes existentes.
En otras palabras, ¿qué es lo que la IA realmente recuerda, cuándo lo recuerda y dónde lo guarda? Nosotros, al otro lado de la pantalla, estamos completamente en la oscuridad.
Si en el camino se comete un error en alguna lógica de negocio clave, será difícil encontrar dónde está el problema. Al final, solo se puede aceptar la situación y eliminar todo el diálogo, empezando de nuevo!!!
Y la arquitectura subyacente más importante de PilotDeck es basada en el WorkSpace como unidad básica.
Podemos entenderlo como una plataforma física independiente para la IA, donde cada proyecto tiene su propio sistema de archivos, base de memoria y conjunto de habilidades.
Ejemplos específicos proporcionados por la autoridad oficial——
En la cabina de trabajo A se trabaja en edición de audio y video, y en la cabina de trabajo B se crean juegos pequeños para iOS. Los espacios de memoria y recuperación de ambos lados están completamente aislados físicamente, y nunca volverán a entrar en conflicto entre sí.
De esta manera, incluso si se manejan varias tareas al mismo tiempo, cada una puede mantener su contexto, reduciendo así los problemas de mezcla de información y desvío de tareas.
Lo que es aún más problemático es que PilotDeck ha convertido completamente la memoria en una “caja blanca”.
Por ejemplo, la IA de repente dice que recuerdo que anteriormente preferías este tipo de escritura. Quizás ni siquiera sabes de dónde saca las conclusiones, ni si se ha equivocado!!
La memoria de caja blanca resuelve este problema, dando directamente al usuario la oportunidad de «revisar el libro de contabilidad» en cualquier momento.
Desde la generación de la memoria, su extracción, almacenamiento hasta su llamada final, toda la cadena de procesos es completamente visible para el usuario.
Por ejemplo, la IA registra las preferencias y los hechos durante el proceso de trabajo, y al abrir la pantalla se pueden ver uno por uno.
Si se descubre que se ha equivocado en algún parámetro clave, no es necesario escribir una larga cadena de Prompt para intentar hacer que olvide el error de información.
Se puede modificar o eliminar manualmente directamente, e incluso se pueden fijar las informaciones importantes con un solo clic.
Además, incluye un mecanismo llamado «Modo Dream».
Cuando la IA está en estado ocioso, el sistema automáticamente agrupa, refina y elimina duplicados de las interacciones dispersas en segundo plano.
Si se pierden detalles clave durante el proceso de organización, se puede revertir con un solo clic y volver al estado anterior a la organización en segundos. No hay necesidad de preocuparse por que la organización pase a ser más desordenada.
Además, PilotDeck también introduce el modo Always-on (ejecución permanente).
Incluso si se cierra la ventana de chat y se sale del ordenador, el agente seguirá llevando a cabo en segundo plano las tareas de monitoreo y ejecución a largo plazo.
Puede completar la tarea establecida, además de detectar activamente tareas potenciales durante la ejecución, y después de finalizar todo, transformar los resultados en archivos locales, junto con un informe completo de avance y resumen.
Cabe mencionar que todo el sistema soporta nativamente MCP.
No importa si se utiliza la interfaz web, la línea de comandos CLI o entornos de mensajería como WeChat y Feishu, el lógico y el comportamiento del backend son los mismos.
Para los desarrolladores, significa que pueden expandir herramientas y habilidades en torno a las flujos de trabajo existentes.
Para aquellos que utilizan la IA durante mucho tiempo, también es una oportunidad para reducir el tiempo que se necesita para repetir los detalles de contexto y conectar manualmente las etapas.
“Principal fuerte, secundario débil” enrutamiento inteligente: gastar 1/6 del dinero para derrotar el modelo de última generación...
Usar el agente para tareas largas, y que la cartera no aguante, suele ser el mayor punto que disuade al usuario.
Muchas veces las tareas no son difíciles; puede ser simplemente arreglar el formato de algunos párrafos o aplicar un plantilla para la traducción de múltiples idiomas.
Pero, debido a la simple arquitectura del sistema, se utiliza constantemente el modelo estrella más costoso, y el consumo de Tokens suele ser bastante excesivo...
Cabe mencionar que PilotDeck también ofrece un Smart Routing.
Incluye en su base una identificación de dificultad de tareas, descompone las tareas en diferentes etapas y las distribuye a modelos de diferentes niveles, implementando una colaboración entre el lado del cliente y la nube, así como un organigrama estratificado.
Las complejas decisiones de planificación se realizan por medio del modelo grande de última generación, mientras que la ejecución, la edición y el procesamiento de formato en la capa inferior se asignan a un modelo ligero.
En las pruebas realizadas en el entorno de operación de redes sociales por medios autónomos, si no se utiliza una ruta de ahorro de costos y se ejecuta todo el proceso con Claude Opus 4.5, el costo individual es de $12.58.
Y después de activar el enrutamiento inteligente, el agente principal se encarga de la planificación superior usando Opus 4.5, mientras que el agente subordinado se encarga de la retocación del texto para reducirlo a Sonnet 4.5.
El costo se reduce a $2.83, lo que permite ahorrar casi el 70% de los costos, como si dijera:
Además, en los pruebas de tareas complejas más avanzadas, esta diferencia se manifiesta de manera más pronunciada??
El equipo de investigación realizó comparaciones horizontales entre 7 tareas complejas y de alto nivel, como el envío de podcasts en múltiples idiomas, informes de datos de múltiples fuentes, reseñas de artículos del área, documentos de arquitectura de bibliotecas de código y otros.
Unidad MiniMax-M2.7 se ha probado, el costo es bastante bajo ($1.90), pero la puntuación es solo 37.1, no sirve para nada, así que se descarta directamente...
El monómero Claude Sonnet 4.6 logró una puntuación de 69.1, pero un solo test consume $18.36.
Bajo la organización de rutas de PilotDeck, se utiliza una arquitectura principal de hadrones fuertes y débiles con Sonnet 4.6+ sub-MiniMax-M2.7, y la puntuación total alcanza los 70.6, con un costo de solo $3.15.
El rendimiento es mejor que el de un modelo individual de alta gama pura, pero el costo es aproximadamente una sexta parte del costo del modelo de alta gama.
Por cierto, PilotDeck utiliza la licencia de código abierto AGPL-3.0, es compatible con macOS, Linux y Windows, y también ofrece una implementación mediante Docker.
Si les interesa, pueden probarlo. El enlace de GitHub está abajo.
Enlace de referencia:
[1]
https://github.com/OpenBMB/PilotDeck
[2]
https://x.com/OpenBMB/status/2110364065822646570