연구진은 역할 연기 챗봇에 사용되는 거대 언어 모델(LLM)의 비효율성을 지적했어요. Persona-Pruner 프레임워크를 통해 특정 캐릭터의 핵심 특성을 유지하면서 모델 용량을 줄이는 방법을 제안했어요. 기존 LLM pruning 기법보다 역할 연기 성능 저하를 최대 93.8%까지 줄일 수 있었어요.
Persona-Pruner는 단일 캐릭터 설명을 기반으로 LLM의 persona-specific 하위 네트워크를 분리하여 경량 모델을 생성해요. 이를 통해 일반적인 LLM 능력도 유지하면서 모델 크기를 줄일 수 있어요.
RoleBench에서 LLM-as-a-judge 점수를 통해 성능을 평가한 결과, 기존 pruning 기법 대비 성능 저하를 크게 개선했어요.