연구진은 LLM 조건화 방법의 효과성과 유창성 간 균형을 체계적으로 조사했어요. 조건화 효율을 높이는 방법은 유창성을 저해하는 경향이 있으며, 특히 instruction-tuning 모델에서는 activation steering 방법이 효과적이지 않다는 점을 발견했어요. 간단한 프롬프트나 supervised fine-tuning은 개념 주입에 적합하지만, 개념 제거에는 효과가 떨어져요.
텍스트 기반 지표가 LLM-as-judge 점수와 높은 상관관계를 보여 조건화 방법의 행동에 대한 통찰력을 제공해요. 연구 결과는 LLM의 안정적인 배포를 위한 조건화 전략 수립에 중요한 정보를 제공할 수 있어요.
연구는 LLM 조건화 방법의 trade-off를 이해하고, instruction-tuning 모델에 대한 조건화 방법의 한계를 지적하며, LLM-as-judge 점수를 대체할 수 있는 저렴한 텍스트 기반 지표를 제시했어요.