연구진은 LLM의 지속적인 미세 조정을 위해 프로그램 메모리를 활용하는 ProCL 프레임워크를 제안했습니다. 이 프레임워크는 입력에 따라 동적으로 검색되는 구조화된 프로그램 메모리 슬롯을 활용하여 빠른 적응과 지식 보존을 가능하게 합니다. ProCL은 기존 LoRA 방식의 단점을 보완하며, 기존 방식보다 뛰어난 유지력과 파국적 망각 감소 효과를 보여줍니다.
ProCL은 기존 LoRA 파라미터화 내에서 작동하며 추가적인 추론 비용을 발생시키지 않습니다. 프로그램 메모리 슬롯은 유사한 입력이 공유된 어댑터 영역을 재사용하도록 장려하며, 미래 데이터를 위한 여유 공간을 확보합니다. 이는 신경과학의 상호 보완 학습 시스템에서 영감을 받았습니다.
실험 결과, ProCL은 다양한 벤치마크에서 다른 지속 LoRA 전략보다 향상된 유지력과 파국적 망각 감소 효과를 보여주었습니다. 이 방법은 기존 LoRA 어댑터를 구조화된 프로그램 메모리 슬롯으로 구성하여, LLM의 지속적인 학습 능력을 향상시키는 데 기여합니다.