연구진은 LLM 에이전트의 지속적 학습에 있어 경험 내면화 방법의 문제점을 발견하고 개선 방안을 제시했어요. 기존 방법은 반복적인 학습 과정에서 성능 저하를 겪는데, 이는 경험의 세분성, 주입 방식, 학습 방식의 문제 때문이에요. 연구진은 원칙 수준의 경험, 단계적 주입, 오프라인 맥락 증류 방식을 통해 안정적이고 지속 가능한 경험 내면화를 가능하게 하는 방법을 제안했어요.
원칙 수준의 경험은 구체적인 상황에 덜 의존하여 더 오래 지속되며, 단계적 주입은 장기적인 도구 사용에 중요한 의사 결정 상태에 맞춰 경험을 주입해요. 또한, 고품질 교사 데이터에 대한 오프라인 맥락 증류는 학생의 오류 상태에 대한 제한적인 수정으로 인한 문제점을 해결해요.
이러한 연구 결과를 바탕으로 LLM 에이전트의 자체 진화 및 지속적인 학습을 위한 구체적인 지침을 제공하며, LLM의 지속적인 발전에 기여할 것으로 기대돼요.