연구진은 CEDAR(Conceptual Embedding Disentanglement via Adaptive Rotation)라는 새로운 방법론을 제시했어요. CEDAR은 사전 학습된 임베딩의 구조를 밝히는 후처리 기법으로, 차원 증가 없이 의미 정보를 분리된 좌표로 집중시킵니다. CLIP과 같은 모델에서는 좌표가 텍스트 개념으로 해석되고, BLIP과 같은 생성 모델에서는 자연어 설명으로 디코딩될 수 있어요.
기존 희소 오토인코더의 단점을 극복하고, 재구성-희소성 균형을 맞추면서 인간의 인지 일치도를 높이는 설명 생성에 기여합니다. 이는 비전-언어 표현의 얽힘을 해결하기 위해 적절한 기저 변화를 통해 가능하며, 과적합된 확장을 피할 수 있음을 보여줍니다.
CEDAR은 기존 방식과 경쟁력 있는 성능을 보이면서도, 임베딩의 구조를 더 잘 이해할 수 있도록 돕는다는 점에서 의미가 있습니다.