IT之家 11월 7일 소식에 따르면, Anthropic은 어제(11월 6일) 연구 논문 《The components of agent memory》를 발표했습니다. 이 논문에서는 Claude 스마트체가 어떻게 세션 간 기억, 필터링, 오류 수정 및 지식 정리를 하는지에 대해 시스템을 해부합니다.
이 연구에 따르면 AI 지능체는 인간의 뇌이야말로 “수면 중 기억을 정리하는” 메커니즘을 참고할 수 있습니다，여가 시간에 역사적 기록을 성찰하고 오류를 수정하며 지식 구조를 구축함으로써 장기적인 과제 수행 능력을 크게 향상시킬 수 있습니다.
이 연구는 아지트의 기억을 세션 로그, 기억 노트, 지식 표현(예: Wiki), 컨텍스트 삽입이라는 네 가지 층으로 구분하며, “꿈꾸기”(dreaming) 메커니즘을 도입하여 모델이 두 번의 상호작용 사이의 여유 시간에 로그를 검토하고 오류를 수정하며 규칙을 정리하고 지식 데이터베이스를 업데이트할 수 있도록 한다.
연구팀은 AI가 수면 중인 인간의 뇌가 기억을 강화하는 것처럼, 즉각적인 경험을 단계적으로 재사용 가능한 장기적 지식으로 전환할 수 있다고 생각합니다. Claude는 대화 중에 중요한 사건을 표시하거나 기억 노트를 작성하지만, 모든 정보가 저장될 가치가 있는 것은 아닙니다. AI는 미래에 실제로 유용할지 여부를 판단해야 합니다.
Anthropic은 기억이 본질적으로 미래에 대한 예측이라는 것을 지적합니다. 예를 들어, 검증된 규칙을 기록하는 것은 모델이 향후에도 다시 그 규칙에 의존할 것으로 예상된다는 의미입니다.
지속적인 학습 기준 CL-Bench의 데이터베이스 질문-답변 작업에서, 기억 능력을 가진 Claude 모델은 기억이 없는 기준 모델보다 뛰어난 성능을 보였다. Claude Opus 5.5와 Sonnet 5.5는 기억 기능을 활용한 후 각각 평균 점수가 0.838과 0.833에 달했으며, 기억이 없는 기준 모델의 경우 각각 0.655과 0.644였다. 더 강력한 모델은 “실패 — 성찰 — 검증 — 요약”이라는 학습 순환을 자율적으로 형성할 수 있다.
《포켓몬 레드》 게임 테스트에서 Anthropic은 “적은 수이지만 고품질”의 기억이 더 효과적이라는 것을 발견했습니다. Claude Fable 5는 단 10개의 기억 파일만을 관리했음에도 4개의 엠블렘을 획득했으며, Sonnet 3.7은 413개의 파일을 기록했지만 1개의 엠블렘만을 얻었습니다. 연구에 따르면 모델은 변동하는 화면 상태가 아닌, 전략, 계획 및 테스트된 규칙을 우선적으로 저장해야 합니다.
“꿈꾸기” 메커니즘은 오류 수정 능력도 보여준다. Claude가 포켓몬 센터의 위치를 잘못 기록하여 길을 잃었을 때, 시스템은 원본 대화 기록과 비교하여 기억을 수정함으로써 최종적으로 다음 도시에 성공적으로 도착할 수 있게 한다. 수정되지 않은 기억으로는 반복적으로 돌아가서 목표를 달성하지 못한다.
약 35만 건의 기업 문서를 테스트한 결과, Claude는 여러 차례의 “꿈꾸기” 과정을 통해 Wiki를 점차 구축했습니다. “꿈꾸기” 횟수가 2회 대화에서 128회로 증가함에 따라, 25개 질문 중 기준을 충족하는 비율은 13%에서 48%로 향상되었습니다; Wiki와 검색 도구를 결합한 후에는 종합 점수가 54%에서 61%로 상승했습니다.
안트로픽은 스마트 아티의 기억이 언제 저장하고, 어떻게 업데이트하며, 오류가 축적되는 것을 피하는 등 여러 과제에 직면해 있다고 밝혔습니다. 미래의 AI는 작업을 완료한 후 "경험을 검토"하는 능력이 더욱 향상될 것이며, 개별적인 상호작용을 전이 가능하고 검증 가능한 장기적인 지식으로 변환할 수 있을 것입니다.
IT之家 참고 주소
관련 읽기: