量子位

Tsinghua Open Source! Die Kosten für Aufgaben im System für intelligente Systeme sind um 83% gesunken; die AI-Erinnerung ist einfach…

Das gesamte System unterstützt von Natur aus MCP

Bildquelle · 量子位

Mengyao, von Ao Fei Si
Quantum Bit | Public Account QbitAI

Tsinghua hat kürzlich ein Open-Source-Intelligenzsystem für Betriebssysteme veröffentlicht, das speziell dazu dient, die verschiedenen „schwierigen“ Probleme bei der Arbeit von AI-Agenten zu lösen?!

Das System mit dem Namen PilotDeck 2.0 wurde von der THUNLP-Laborstelle der Tsinghua-Universität in Zusammenarbeit mit den Teams von Face Wall Intelligence und OpenBMB entwickelt.

Die gelösten Probleme sind zufällig genau mit dem zentralen Problem übereinstimmend, das wir beim Arbeiten mit einem AI Agent haben – „stark relevant“.

Zum Beispiel… Wenn es viele Projekte gibt, vermischen sich Dateien, Erinnerungen und Aufgaben – das ist verwirrend… (Lacht)

Komplex und kompliziert – Tokens fließen heraus, sobald man den Computer verlässt, steckt das AI wieder fest auf halbem Weg, wartend auf Anweisungen *1000……

Und PilotDeck 2.0 zielt genau auf diese schwierigen alten Bugs – Speicherverwaltung, Aufgabenausführung und die Kosten für Modellaufrufe.

Der fürsorgliche ich hat auch für alle eine kurze Zusammenfassung gegeben, was dieses Ding eigentlich für uns tun kann und welche alltäglichen Probleme es lösen kann.

  • Projektmanagement: Mehrere Projekte gleichzeitig verwalten, Dateien, Erinnerungen und Aufgaben isolieren, um Unordnung und Kollisionen von Aufgaben zu vermeiden.
  • Langefristige Erinnerung: Speichern Sie den Hintergrund des Projekts, die Benutzervorlieben und den Arbeitsfortschritt. Es ermöglicht das Überprüfen und Bearbeiten, um wiederholten Aufklärungen zu vermeiden.
  • Backend- Ausführung: Unterstützt die ausführliche Arbeit von langfristigen Aufgaben im Hintergrund sowie die Überprüfung ausführbarer Aufgaben, sodass das AI weiterarbeitet, während der Benutzer weg ist.
  • Intelligente Routing: Wähle das geeignete Modell je nach Aufgabekomplexität aus. Für komplexe Aufgaben verwende ein starkes Modell, für einfache Aufgaben ein kostengünstiges Modell, um unnötige Kosten zu reduzieren.

In den Bewertungen von Workbuddy Bench erreichte PilotDeck einen Score von 79,1 mit Qwen3.6-35B-A3B, was besser ist als bei Claude Code (77,3).

Außerdem kann durch die Verwendung von starken Modellen für Entscheidungen und kleinen Modellen für alltägliche Aufgaben die Kosten für komplexe, lange Aufgaben fast fünf Sechzen reduziert werden??

Klingt, als wäre es ziemlich praktisch, ha???

Die AI hat ihr eigenes Arbeitsmodul, sodass sie sich um Erinnerungen, Dokumente und Aufgaben kümmern kann.

Vielleicht haben alle diese Gefühle…

Einer der schlimmsten Dinge, die wir mit verschiedenen AI-Tools verwenden, ist „Kontextverschmutzung“.

Zum Beispiel bat man das AI gerade, einen technischen Architekturbericht im seriösen akademischen Stil zu schreiben, und danach bat man es um einen Content für Xiaohongshu, aber was es auch sagt, immer noch sind die Architekturdialogen im Vordergrund... (lacht)

Hinter dieser „Grab-Maschine“-Angelegenheit liegt hauptsächlich das Problem der schwarzen Boxen mit den Erinnerungen der meisten bestehenden Agenten.

Mit anderen Worten: Was die KI tatsächlich behält, wann sie es behält und wo sie es behält, das wissen wir am Bildschirm gegenüber in völliger Dunkelheit.

Wenn während des Prozesses irgendwo ein wichtiger Geschäftslogik-Algorithmus falsch eingetragen wird, ist es sehr schwierig, herauszufinden, wo das Problem liegt. Am Ende muss man den Dialog komplett löschen und von vorne anfangen!!!

Die Kernarchitektur von PilotDeck besteht darin, dass der WorkSpace die Grundunit ist.

Wir können es als eine separate physische Arbeitsstelle für die AI betrachten, bei der jedes Projekt ein eigenes Dateisystem, eine Erinnerungsbibliothek und eine Fähigkeitssammlung hat.

Beispiele, die der offizielle Anbieter gegeben hat –

In der A-Arbeitskabine wird die Audio- und Videobearbeitung durchgeführt, in der B-Arbeitskabine werden kleine iOS-Spiele entwickelt. Die Speicherflächen für Erinnerungen und Suche sind vollständig physisch getrennt, sodass sie nicht mehr miteinander interagieren.

So kann man, selbst wenn mehrere Aufgaben gleichzeitig bearbeitet werden, jedes noch so kleine Kontextverhältnis erhalten und die Probleme wie Gedankenüberschneidungen oder falsche Aufgabenzuweisung vermeiden:

Noch schmerzhafter ist, dass PilotDeck das Gedächtnis vollständig „Whitebox-isiert“ hat.

Zum Beispiel sagte die AI plötzlich, ich erinnere mich daran, dass du zuvor eine solche Schreibweise bevorzugt hast. Du könntest nicht einmal wissen, woher sie ihre Schlussfolgerung hat, oder ob sie sich irgendwo geirrt hat!!

Die White-Box-Memorie löst genau dieses Problem, indem sie dem Benutzer die Möglichkeit gibt, jederzeit das „Buch zu blättern“ –

Von der Erzeugung, Auswahl, Speicherung bis hin zum Aufruf ist die gesamte Verbindung vollständig für den Benutzer sichtbar.

Zum Beispiel notiert die AI während der Arbeitsprozessen, welche Präferenzen und welche Fakten sie festhält. Wenn man das Panel öffnet, kann man diese Informationen einzeln ansehen.

Falls festgestellt wird, dass ein wichtiger Parameter falsch gespeichert ist, muss man nicht lange eine lange Liste von Prompts schreiben, um zu versuchen, das Fehlermeldung zu vergessen.

Man kann direkt manuell ändern oder löschen, und sogar eine einzige Klickaktion reicht aus, um wichtige Informationen zu fixieren~

Außerdem verfügt es über ein Mechanismus namens „Dream-Modus“.

Wenn die AI in einem leeren Zustand ist, ordnet das System im Hintergrund automatisch die verstreuten Interaktionen zusammen, bereinigt sie und entfernt Duplikate.

Wenn während der Organisation ein wichtiger Detail verloren geht, kann man mit einer Klick-Rückkehr sofort in den Zustand vor der Organisation zurückkehren. Man muss sich keine Sorgen machen, dass alles durch die Organisation immer chaotischer wird.

Nicht nur das: PilotDeck führt außerdem das Always-on-Modus ein – ein Modus, bei dem das System ständig aktiv ist.

Auch wenn das Chatfenster geschlossen und der Computer ausgeschaltet wird, führt der Agent weiterhin im Hintergrund die langfristigen Überwachungs- und Ausführungstätigkeiten durch.

Man kann die festgelegte Aufgabe fertigstellen und während der Ausführung aktiv potenzielle neue Aufgaben erkennen. Nachdem alles erledigt ist, wird das Ergebnis als lokales Datei abgelegt, zusammen mit einem vollständigen Fortschritts- und Zusammenfassungsbericht.

Es ist erwähnenswert, dass das gesamte System von Natur aus MCP unterstützt.

Egal ob man auf der Web-Oberfläche, in der Kommandozeile CLI oder in der IM-Ökologie wie WeChat oder Feishu arbeitet, die Logik und das Verhalten des Backends sind genau gleich.

Für Entwickler bedeutet das, dass sie Tools und Fähigkeiten um ihre bestehenden Arbeitsprozesse erweitern können.

Für Freunde, die AI über längere Zeit verwenden, ist das auch eine Chance, die Zeit, die für das wiederholte Erklären der Hintergrundinformationen und die manuelle Verknüpfung der Schritte benötigt, zu reduzieren.

„Starke Hauptkarte, schwache Unterkarten“ intelligente Routing: Man verliert 1/6 des Geldes und schafft das beste Modell nicht...

Mit dem Agent auszuführen einer langen Aufgabe, bei der das Portemonnaie nicht zurechtkommt, ist oft der größte Abschreckungsfaktor.

Oft sind die Aufgaben nicht schwierig – es handelt sich vielleicht nur um das Anordnen von Textabschnitten oder das Einfügen einer Vorlage für mehrere Sprachen.

Aber da die Systemarchitektur einfach ist, läuft der Prozess den ganzen Weg mit dem teuersten Flaggschiffmodell, und die Tokenverbrauchung ist oft ziemlich übertrieben...

Es ist erwähnenswert, dass PilotDeck auch eine Smart Routing-Funktion anbietet.

Es verfügt über eine integrierte Erkennung der Aufgabenhöhe auf Grundlage, bei der die Aufgaben in verschiedene Abschnitte unterteilt und an Modelle unterschiedlichen Levels verteilt werden. Dabei wird eine Art Endcloud-Koordination und Schichtenorganisation implementiert.

Die komplexen Planungsentscheidungen werden von dem leistungsstärksten Modell durchgeführt, während die untere Ebene der Ausführung, der Überarbeitung und der Formatierung vollständig auf ein leichtes Modell umgelegt wird.

In den praktischen Tests zur Betreuung von Social-Media-Marketing-Projekten führte das Fehlen einer Kosteneinsparung bei der Nutzung von Claude Opus 4.5 durch den gesamten Prozess zu einem Kostenaufwand von bis zu $12.58 pro Mal.

Nach dem Aktivieren des intelligenten Routings ist der Haupt-Agent für die top-level Planung mit Opus 4.5 verantwortlich, während der Unter-Agent den Text optimiert und auf Sonnet 4.5 herabstuft.

Die Kosten sinken auf $2.83 – das bedeutet, dass man fast 70% der Kosten sparen kann, wie:

Außerdem ist dieser Unterschied bei den härteren, komplexeren Aufgabentests noch größer??

Die Forschungsteams führten eine horizontale Vergleichung von 7 hochkomplexen und anspruchsvollen Aufgaben durch, darunter Podcasts in mehreren Sprachen, Berichte über mehrquellenbasierte Daten, Übersichten über Fachartikel und Dokumentationen zur Architektur von Codebibliotheken.

Monomodell MiniMax-M2.7 hat eine recht niedrige Kostenstruktur von $1.90, aber das Ergebnis beträgt nur 37.1 – daher ist es nicht nutzbar, direkt wegschmeißen...

Das Einzelmodell Claude Sonnet 4.6 erreichte eine Punktzahl von 69.1, aber ein Test kostet 18.36 $.

Unter der Routing-Organisation von PilotDeck wird eine Haupt-Sonnet 4.6+-Sub-MiniMax-M2.7-Haupt-Stark-Wahrscheinlichkeit-Stark-Architektur verwendet, wobei das Gesamtscore auf 70.6 steigt und die Kosten nur $3.15 betragen.

Die Leistung ist besser als bei einem reinen High-End-Modell, während der Preis nur etwa ein Sechstel des High-End-Modells beträgt.

Richtig, PilotDeck verwendet die AGPL-3.0-Opportunitätslizenz, unterstützt macOS, Linux und Windows und bietet auch eine Docker-Deployment-Methode.

Wenn Sie interessiert sind, können Sie es ausprobieren. Der GitHub-Link folgt unten~

Referenzlink:
[1]
https://github.com/OpenBMB/PilotDeck
[2]
https://x.com/OpenBMB/status/2110364065822646570

Originalquelle

量子位

Hinweise zum Inhalt

Originalveröffentlichung und Rechte liegen bei der Quelle.

Maschinelle Übersetzung · Original beachten