연구진은 희소 오토인코더(SAE)가 개념 수준 조작을 위한 해석 가능 도구로 사용될 수 있다는 가정에 따라 디퓨전 모델에서 객체 제거 및 방향 조절을 평가했어요. SAE는 의미 있는 개념을 감지하고 위치 파악하는 데 효과적이지만, 잠재 공간에 직접 개입하면 시각적 오류가 발생해요. 연구진은 SAE 활성화를 개념 감지기로만 활용하여 대상 객체가 있는 이미지 영역을 대체하는 방식으로 더 깨끗한 결과물을 얻었어요.
SAE는 생성 모델 분석을 위한 강력한 해석 도구이지만, 직접 조작에는 한계가 있다는 점을 보여주며, 단일 의미 또는 희소 특징이 제어 장치가 되기 어렵다는 것을 밝혀냈어요. 이 연구는 개념 감지와 개념 개입 간의 근본적인 격차를 보여줍니다.
본 연구는 SAE를 활용한 직접 조작의 한계를 지적하며, 해석 가능성을 위한 도구로서의 활용은 가능하지만, 언러닝과 같은 직접적인 조작에는 주의가 필요함을 강조합니다.