arXiv — AI 에이전트의 기억 상실증을 치료하는 외부 컨텍스트 매니저, AdaCoM

1. 한눈에 보는 핵심 요약 (Executive Summary)

인공지능(LLM) 에이전트가 웹 검색이나 심층 리서치처럼 시간이 오래 걸리고 여러 단계를 거쳐야 하는 복잡한 작업(Long-Horizon Tasks)을 수행할 때 가장 큰 걸림돌은 바로 ‘기억 과부하’입니다. 에이전트가 도구를 사용하고 환경과 상호작용하면서 대화 기록(컨텍스트)이 계속 쌓이게 되는데, 이 과정에서 과거의 중요한 지시사항을 까먹거나(기억 상실), 똑같은 검색을 무한 반복하는 등의 인지 오류가 발생합니다. 이를 ‘긴 컨텍스트 성능 저하(Long-Context Degradation)’라고 부릅니다.

기존에는 에이전트 자체에게 스스로 대화 기록을 요약하라고 시키거나 전용 요약 도구를 쓰게 만들었습니다. 하지만 이 방식은 에이전트 모델 자체를 추가로 학습시켜야 해서 비용이 많이 들고, 소스코드가 닫힌 외부 상용 모델(Closed-Source LLM)에는 적용하기 불가능하다는 치명적인 한계가 있었습니다.

Adaptive Context Management (AdaCoM)은 이 문제를 완전히 새로운 시각으로 해결합니다. 에이전트는 전혀 건드리지 않고(Frozen), 에이전트의 대화창(컨텍스트)만 똑똑하게 관리해 주는 ‘외부 비서 모델’을 따로 두는 방식입니다. 이 외부 비서가 에이전트에게 정보를 전달하기 전에 불필요한 쓰레기 정보를 지우고 핵심 요약 노트만 남겨줌으로써, 에이전트의 추론 능력을 극대화합니다.

2. 핵심 개념 및 아키텍처 쉽게 이해하기 (Core Concepts)

AdaCoM의 작동 원리는 우리가 흔히 보는 ‘유능한 임원(에이전트)’과 ‘스마트한 수석 비서(컨텍스트 매니저)’의 관계와 똑같습니다. 임원이 복잡한 비즈니스 리서치를 수행할 때, 수백 페이지짜리 원문 자료를 그대로 주면 읽다가 지쳐 중요한 포인트를 놓치게 됩니다. 대신 비서가 중간에서 자료를 깔끔하게 요약하고 불필요한 메일은 삭제하여 ‘한 장짜리 핵심 브리핑 노트’로 만들어 전달하는 것입니다.

🔄 AdaCoM의 3단계 워크플로우

1. 기록 수집 (Append): 에이전트가 웹 검색 등의 도구를 사용하면, 그 결과와 에이전트의 생각이 대화 기록에 그대로 추가됩니다.
2. 비서의 편집 (Modification): 외부 비서 모델(AdaCoM)이 이 기록을 읽고 JSON 형태로 편집 계획을 세웁니다. 이때 메시지를 단순히 요약하는 것에 그치지 않고, 필요 없는 정보는 삭제(delete), 중복된 내용은 병합(merge), 중요한 내용은 더 강조해서 재작성(rewrite)하는 유연함을 보여줍니다.
3. 에이전트 전달 (Execute): 편집되어 군더더기 없는 깔끔한 컨텍스트만 에이전트에게 전달되고, 에이전트는 이를 바탕으로 똑똑하게 다음 행동을 결정합니다.

💡 핵심 메커니즘: 강화학습을 통한 비서 교육 에이전트 모델은 그대로 얼려둔 채, 외부 비서 모델만 강화학습(GRPO)을 통해 훈련시킵니다. 에이전트가 최종 정답을 맞히면 비서가 보상을 받고 , 에이전트가 똑같은 명령을 반복하거나 컨텍스트가 너무 길어지면 비서가 감점(페널티)을 받는 방식으로 학습하여 에이전트와 완벽한 호흡을 맞추게 됩니다.

3. 실험 결과 및 성능 지표 (Benchmark & Results)

연구진은 웹 검색(BrowseComp-Plus)과 심층 리서치(MCP-Bench-Wiki)라는 두 가지 가혹한 환경에서 다양한 LLM 에이전트 모델들을 대상으로 테스트를 진행했습니다.

📈 주요 벤치마크 결과

• 평균 39%의 성능 향상: 아무런 컨텍스트 관리를 하지 않는 기본 ReAct 방식 대비, AdaCoM을 붙였을 때 웹 검색 작업에서 평균 39% 이상의 성능 향상을 보였습니다. 특정 에이전트 모델(Kimi-K2-Instruct)의 경우 무려 95%의 폭발적인 성능 향상을 기록했습니다.
• 고정된 요약 방식 압도: 단순히 매 단계마다 기계적으로 요약을 수행하는 방식(SumCoM 등)은 에이전트의 특성을 고려하지 못해 오히려 성능이 떨어지기도 했으나, AdaCoM은 유연한 편집 덕분에 모든 에이전트에서 일관되게 높은 성능을 보여주었습니다.
• 실패 모드의 획기적 감소: 에이전트가 중간에 지쳐서 포기하거나(Early give-up), 엉뚱한 오답을 내거나, 똑같은 도구 호출을 무한 반복하다가 제한 횟수에 걸리는 현상이 눈에 띄게 줄어들었습니다.

⚖️ 성능-신뢰성 트레이드오프 (Fidelity-Reliability Trade-off)

흥미롭게도 AdaCoM이 에이전트별로 완전히 다른 맞춤형 기억 관리 전략을 스스로 학습했다는 점입니다.

• 똑똑한 에이전트(고성능 모델): 원래 긴 문맥을 잘 이해하는 모델에게는 원문 데이터를 최대한 많이 보존(Fidelity)하고 가끔씩만 뭉텅이로 압축하는 '계층적 관리 전략'을 썼습니다.
• 비교적 약한 에이전트(저성능 모델): 문맥이 조금만 길어져도 추론이 망가지는 모델에게는 매 라운드마다 아주 공격적으로 정보를 정제하고 줄여서 항상 짧고 명확한 기억만 유지시키는 ‘적극적 증류 전략’을 사용했습니다.

4. 연구의 한계점 및 주의할 점 (Limitations)

• 작은 비서 모델의 용량 한계: 본 연구에서는 비용 절감을 위해 4B(40억 매개변수) 크기의 비교적 작은 모델을 외부 비서로 사용했습니다. 이 때문에 아주 복잡하고 밀도 높은 정보를 손실 없이 압축해야 할 때, 비서 모델의 지적 능력이 부족하여 에이전트에게 필요한 디테일을 놓치는 경우가 발생했습니다.
• 추론 오버헤드 발생: 에이전트가 한 걸음 내딛을 때마다 중간에서 외부 비서 모델이 한 번씩 생각을 하고 편집을 해야 하므로, 전체적인 토큰 비용과 실시간 응답 속도(Latency)가 늘어나는 비용적, 시간적 단점이 있습니다.
• KV 캐시 효율성 저하: LLM 시스템은 이전 대화 기록을 메모리에 저장해 두고 재사용(KV Caching)하여 속도를 높이는데, AdaCoM은 대화 기록의 중간이나 앞부분을 계속 수정하기 때문에 이 캐시가 깨져 서버 연산 효율이 떨어질 수 있습니다.

5. MVP가 제안하는 실무 활용 팁 (Strategic Implications)

• 비용 절감을 위한 ‘중간 재사용’ 전략 (Zero-Shot Transfer) 실무에서 모든 에이전트마다 컨텍스트 매니저를 새로 학습시키는 것은 불가능합니다. 이 논문이 준 놀라운 인사이트는 “비슷한 수준의 성능을 가진 모델끼리는 비서를 공유할 수 있다”는 점입니다. 즉, 대표 모델 하나로 AdaCoM 비서를 잘 훈련시켜 두면, 비슷한 체급의 다른 Closed-source LLM 에이전트에도 그대로 가져다 쓸 수 있어 실무 적용성이 매우 높습니다.
• 플러그앤플레이(Plug-and-Play) 형태의 에이전트 오케스트레이션 현재 기업형 AI 서비스를 만들 때 가장 큰 고민은 “오픈소스 모델로 가야 하나, 상용 API 모델로 가야 하나?”입니다. AdaCoM 프레임워크를 벤치마킹한다면, 메인 에이전트는 OpenAI나 Anthropic의 강력한 Closed API를 그대로 사용하면서, 컨텍스트를 청소하고 요약하는 대화방 관리자는 사내에서 가볍게 돌릴 수 있는 소형 오픈소스 모델(sLLM)로 배치하는 ‘이종 모델 협력 아키텍처’를 구축할 수 있습니다.
• 스마트한 호출 트리거 설계로 오버헤드 극대화 방지 매 단계 비서를 호출하면 비용과 속도에서 손해를 봅니다. 실무 시스템에 적용할 때는 논문에서 발견한 ‘계층적 관리 전략’을 차용하여, “컨텍스트가 10K 토큰을 넘었을 때만 AdaCoM 비서를 호출하여 청소하기” 또는 “도구 호출이 3회 이상 반복될 때만 트리거하기” 같은 규칙 기반 하이브리드 아키텍처를 결합하면 단점을 멋지게 우회할 수 있습니다.

References:

1. Learning Agent-Compatible Context Management for Long-Horizon Tasks (arXiv:2605.30785v1)

Tags:

LLMAgent #ContextManagement #ReinforcementLearning #AgenticWorkflow #sLLM #ArtificialIntelligence #AI에이전트 #컨텍스트관리 #강화학습 #에이전틱워크플로우 #거대언어모델 #인공지능트렌드