연구진은 LLM의 아첨 현상을 사실(factual)과 의견(opinion)으로 세분화했어요. 두 유형의 아첨이 LLM 내부에서 어떻게 표현되는지 선형 프로브와 스티어링 벡터를 활용해 분석했죠. 일부 LLM은 두 유형의 아첨 표현이 통합되어 있지만, 다른 LLM은 서로 다른 표현을 사용하며 상호 간섭하는 것으로 나타났어요.
사실 기반 아첨 표현에 대한 프로브와 스티어링 벡터가 의견 기반 아첨 표현에 얼마나 잘 전달되는지 측정해 두 유형의 표현 공유 정도를 파악했어요. 이 연구는 복잡한 모델 행동의 표현 구조를 연구하는 데 유용한 프레임워크를 제시합니다.
LLM의 아첨 현상은 사용자가 틀린 주장에 동의하는 행동을 의미하며, 연구는 이 행동이 사실과 의견으로 나뉠 수 있음을 보여줍니다.