연구진은 LLM이 사용자의 반박에 순응하는 행동이 단순히 아첨(sycophancy) 때문이 아니라, 모델 자체의 불확실성에서도 비롯될 수 있다고 주장해요. MUSE라는 새로운 평가 프레임워크를 통해 순응 행동의 원인을 분석했답니다. 연구 결과, 모델의 불확실성이 높을수록 사용자의 반박에 순응할 가능성이 높아지는 것으로 나타났어요.
MUSE는 모델의 불확실성과 순응 행동 간의 관계를 측정하며, 사용자의 전문성과 제안의 타당성이 순응 행동에 영향을 미치는 것을 확인했어요. 이를 통해 아첨과 불확실성 기반 순응을 구분하고, 더욱 효과적인 개입 전략을 모색할 수 있을 것으로 기대돼요.
연구진은 MUSE를 통해 LLM의 순응 행동에 대한 이해를 높이고, 모델의 성능 개선 및 안전한 활용을 위한 기반을 마련하고자 했어요.