몽야오, 아페이스(凹非寺)에서 발송
양자위(量子位) | 공식 계정 QbitAI
칭화대는 최근오픈 소스 에이전트 운영체제, AI Agent가 작업할 때 겪는 각종 「고질적인」 문제들을 전문적으로 해결한다?!
이름이 다음과 같은 이 제품은PilotDeck 2.0의 시스템으로, 칭화대학교 THUNLP 연구실이 면비지능(ModelBest), OpenBMB 등 팀과 함께 공동으로 출시했습니다.
이것이 해결하는 문제는, 우연히도 우리가 AI Agent로 작업할 때 가장 뼈아픈 일과 '강하게 관련'되어 있다 —
예를 들자면… 프로젝트가 많아지면 파일, 메모리, 작업이 전부 뒤죽박죽 섞여서 얼떨떨해지는 거죠…（웃음）
작업이 복잡해지면 Token이 펑펑 불타고, 사람이 막 컴퓨터를 떠났는데 AI는 또 한가운데서 지시*1000을 기다리며 멈춰 있다…
그리고 PilotDeck 2.0이 겨냥한 것은 바로 이런 골치 아픈 오래된 버그들입니다——메모리 관리, 작업 실행, 그리고 모델 호출 비용。
친절한 제가 여러분을 위해 이 물건이 대체 우리에게 어떤 일을 도와줄 수 있고, 어떤 일상의 불편을 해결해 줄 수 있는지 가볍게 정리해 보았습니다——
- 프로젝트 관리: 여러 프로젝트를 동시에 처리하고, 파일·기억·작업을 격리하여 자료 혼재와 작업 뒤섞임을 줄입니다.
- 장기 기억：프로젝트 배경, 사용자 선호도 및 작업 진행 상황을 기억하며, 확인 및 수정을 지원하여 반복적으로 설명하는 번거로움을 피할 수 있습니다.
- 백그라운드 실행: 백그라운드에서 장기 작업을 실행하고 실행 가능한 항목을 점검하는 기능을 지원하여, 사용자가 자리를 비운 동안에도 AI가 계속 작업을 수행하도록 합니다.
- 스마트 라우팅: 작업 난이도에 따라 적절한 모델을 선택하고, 복잡한 작업에는 강력한 모델, 간단한 작업에는 저비용 모델을 사용하여 불필요한 지출을 줄입니다.
Workbuddy Bench 평가에서 PilotDeck은 Qwen3.6-35B-A3B를 사용해 79.1점을 기록했으며, 이는 Claude Code(77.3)보다도 우수한 성과였습니다.
또한 강한 모델이 의사결정을 맡고 작은 모델이 잡일을 처리하는 스케줄링 방식을 통해 복잡한 장기 작업의 비용을 거의 6분의 5나 줄일 수 있을까요??
들어보니까 꽤 실용적이네요, 그렇죠???
AI에 자신만의 워크스페이스가 생겨 기억, 파일, 작업까지 모두 관리할 수 있게 되었다
여러분도 어쩌면 이런 느낌을 받아본 적이 있을 겁니다…
평소 다양한 AI 도구를 쓸 때 가장 두려운 것 중 하나가 바로 '컨텍스트 오염'이다.
예를 들어 방금 AI에게 진지한 학술 스타일로 기술 아키텍처 문서를 써달라고 했다가, 바로 이어서 샤오홍슈 카피를 써달라고 하면, 입에 담기도 전에 계속 아키텍처 디커플링 얘기만 한다。。。 （웃음）
그리고 이 번아웃성 드라마의 배후에는 주로 기존 대부분의 Agent 기억이 가진 블랙박스 문제가 관련되어 있다.
다시 말해, AI가 도대체 무엇을 기억했는지, 언제 기억했는지, 어디에 기억했는지, 화면 이쪽의 우리는 캄캄할 뿐이다.
만약 중간에 어떤 핵심 비즈니스 로직을 잘못 기억했다면, 문제가 어디에 있는지 찾는 것조차 어렵고, 결국 마지못해 대화 전체를 폐기하고 처음부터 다시 시작해야만 한다!!!
그리고 PilotDeck의 가장 핵심적인 저변 아키텍처는 WorkSpace(작업창)를 기본 단위로 하는 것이다.
이것을 AI에게 독립된 물리적 자리를 나눠준 것으로 이해할 수 있는데, 각 프로젝트는 자신만의 전용 파일 시스템, 기억 저장소, 스킬 세트를 갖는다.
구체적으로 공식이 제시한 예시를 보면——
A 작업창에서는 음성·영상 편집을 다루고, B 작업창에서는 iOS 미니 게임을 만들 때, 양쪽의 기억과 검색 공간이 완전히 물리적으로 격리되어 있어 더 이상 서로 충돌하지 않는다.
이렇게 되면 여러 건의 일을 동시에 처리하더라도 각자의 컨텍스트를 유지할 수 있어, 기억이 뒤섞이거나 작업이 방향을 벗어나는 번거로움을 줄일 수 있다:
더욱 아픈 곳을 정확히 짚은 것은, PilotDeck이 기억을 완전히 「화이트박스화」했다는 점이다.
예를 들어 AI가 갑자기 '당신이 이전에 이런 작성 방식을 선호한다는 것을 기억한다'고 말할 때, 그 결론을 어디서 도출했는지, 혹시 잘못 기억한 것은 아닌지 전혀 알 수 없을 수 있다!!
화이트박스 메모리는 바로 이 문제를 해결하며, 사용자에게 언제든 '장부를 넘겨볼' 기회를 직접 제공한다—
메모리의 생성, 추출, 저장, 마지막으로 호출되기까지 전체 체인이 사용자에게 완전히 공개된다.
예를 들어 AI가 작업 중 기록한 선호나 사실들이 어떤 것들이 있는지, 패널을 열면 하나하나 확인할 수 있다.
혹시 어떤 핵심 파라미터를 잘못 기록한 것을 발견하더라도, 긴 프롬프트를 열심히 작성해 잘못된 정보를 잊게 하려고 애쓸 필요가 없다.
직접 수동으로 수정·삭제하면 되고, 중요한 정보는 원클릭으로 고정할 수도 있다~
또한 'Dream 모드'라는 메커니즘이 내장되어 있다.
AI가 유휴 상태일 때, 시스템이 백그라운드에서 자동으로 흩어진 상호작용 메모리를 귀纳, 정제 및 중복 제거한다.
정리 과정에서 핵심 세부 정보를 잃어버리더라도 원클릭 롤백으로 정리 전 상태로 초 단위 복구가 가능해, 정리할수록 더 지저분해질 걱정이 없다.
게다가 PilotDeck은 Always-on(상시 실행) 모드도 도입했다—
채팅 창을 닫고 컴퓨터를 떠나도, 에이전트는 백그라운드에서 장주기 모니터링 및 실행 작업을 계속 추진한다.
예정된 작업을 완주할 수 있을 뿐만 아니라, 실행 과정에서 잠재적인 후보 작업을 능동적으로 발견하고, 모두 완료한 후에는 결과물을 로컬 파일로 저장하며 전체 진행 상황과 요약 보고서를 함께 제공한다.
특히 이 시스템은 MCP를 네이티브하게 지원한다.
웹 인터페이스, 명령줄 CLI, 기업 위챗·페이슈 등 IM 생태계 어디서 작업하는 것을 선호하든, 백엔드 로직과 동작은 완전히 동일하다.
개발자에게는 기존 워크플로우를 중심으로 도구와 스킬을 확장할 수 있다는 의미다.
AI를 장기 사용하는 사용자들에게도 배경을 반복해서 설명하고 단계를 수동으로 연결하는 시간을 줄일 기회가 생긴 셈이다~
'주강자약(主强子弱)' 지능형 라우팅: 1/6의 비용으로 최상위 모델을 제친다...
에이전트로 장기 작업을 돌릴 때 지갑이 감당 못 하는 것이 가장 큰 저항 요소다.
많은 경우 작업 자체는 어렵지 않다. 몇 단락의 텍스트를 조판하거나 다국어 번역에 템플릿을 씌우는 정도일 수 있다—
그런데 시스템 아키텍처가 조잡해서 전 과정에서 가장 비싼 플래그십 모델을 맹렬히 돌리기 때문에, 토큰 소비가 상당히 많은 경우가 많다...
특히 PilotDeck은 Smart Routing(지능형 라우팅)도 구현했다.
하위 레이어에 작업 난이도 인식을 내장하여, 서로 다른 단계의 작업을 분해한 뒤 서로 다른 급수의 모델에 배분하며, 엔드-클라우드 협업과 계층화된 오케스트레이션 체계를 갖췄다.
복잡한 계획·의사결정은 최상위 대형 모델이 맡고, 하위 실행, 윤문, 포맷 처리는 모두 경량 모델로 격하된다.
셀프 미디어·소셜 미디어 운영 시나리오의 실측에서, 절약 라우팅을 쓰지 않고 전 과정을 Claude Opus 4.5로 돌리면 1회 비용이 $12.58에 달했다.
반면 지능형 라우팅을 켜면 메인 에이전트가 상위 계획을 담당해 Opus 4.5를 쓰고, 서브 에이전트는 텍스트 윤문을 담당하며 Sonnet 4.5로 격하된다.
비용은 $2.83로 떨어져 약 70%의 비용을 절감할 수 있다. be like:
또한 더 하드코어한 복잡 작업 테스트에서는 이 격차가 더욱 현저하게 나타났다??
연구진은 팟캐스트 다국어 배포, 다중 소스 데이터 보고서, 분야 논문 리뷰, 코드베이스 아키텍처 문서 등 7개의 고난도 복잡 작업으로 횡적으로 비교했다:
단일체 MiniMax-M2.7로 돌리면 비용은 상당히 낮지만($1.90), 점수가 37.1에 불과해 사용할 수 없어 바로 탈락...
단일체 Claude Sonnet 4.6으로 돌리면 점수는 69.1까지 올랐지만, 한 번 테스트에 $18.36이 소모되었다.
반면 PilotDeck의 라우팅 오케스트레이션 하에서, 메인 Sonnet 4.6 + 서브 MiniMax-M2.7의 주강자약 아키텍처를 채택하자 종합 점수가 70.6으로 치솟았고 비용은 $3.15에 불과했다.
순수 최상위 단일체 모델보다 성능이 좋으면서도, 비용은 최상위 모델의 6분의 1 수준이다.
참고로, PilotDeck은 AGPL-3.0 오픈소스 라이선스를 채택했으며, macOS, Linux, Windows를 지원하고 Docker 배포 방식도 제공한다.
관심 있으신 분들은 직접 사용해 보시길 바랍니다. GitHub 링크는 아래에 있으니 참고하세요~
참고 링크:
[1]
https://github.com/OpenBMB/PilotDeck
[2]
https://x.com/OpenBMB/status/2110364065822646570