본 연구는 희소 자동인코더(SAE)가 입력 데이터를 정확하게 재구성하는 과정에서 효율적인 특징 사용과 해석 가능한 표현 학습 간의 균형을 분석합니다. 이론적, 경험적 분석 결과, SAE를 단일 의미로 제한하면 속도와 왜곡이 증가하며, 다의성은 학습 데이터 분포에 따라 결정됩니다. 실제 환경 분석을 통해 다의성 측정 기준을 도출하고, 대규모 언어 모델(LLM)에 대한 SAE 학습에서 기존 측정 지표를 평가했습니다.