연구진은 희소 자동인코더(SAE)의 단일 의미성을 평가하는 새로운 지표 TMS(Tversky Monosemanticity Score)를 제시했어요. TMS는 외부 레이블이나 임베딩 모델 없이, 이진화된 SAE 잠재 활성화 집합의 일관성을 측정하는 방식이에요.
TMS는 기존 방식보다 인코더의 기하학적 특성에 덜 민감하며, 기존 단일 의미성 지표와 일관성을 보였고, 다양한 모델 학습 동향을 파악하는 데 도움을 줬어요.
TMS는 인코더의 불균일성 하에서 개념 삭제 효과를 더 강력하게 나타냈으며, 기존 방식과 경쟁력 있는 결과를 보여줬어요.