LatentSkill은 텍스트 기반 기술을 LoRA 어댑터로 변환하여 LLM 에이전트의 효율성을 높이는 프레임워크입니다. 기존 방식은 컨텍스트 오버헤드가 크고 기술 내용이 텍스트로 노출되는 문제점이 있었어요.
LatentSkill은 기술 지식을 가중치 공간에 저장하여 컨텍스트 공간을 절약하고, 모듈화된 로딩, 확장, 조합을 가능하게 합니다. ALFWorld와 Search-QA에서 기존 방식 대비 성능이 향상되었어요.
실험 결과, 생성된 기술 LoRA는 의미론적 구조를 가지며, LoRA 스케일링 계수를 통해 정밀하게 제어 가능하고, 기술 구성 요소가 정렬되면 가중치 공간 산술을 통해 조합할 수 있습니다.