본 연구는 시각적 표현을 이산화하여 언어 모델과의 간극을 좁히는 것을 목표로 합니다. 기존 양자화 방법의 코드북 붕괴 문제를 해결하기 위해 하이퍼구면 양자화(HSQ)를 제안합니다. HSQ는 의미 콘텐츠와 특징 크기를 분리하여 크기 편향 없이 의미 기반 코드 할당을 가능하게 합니다.
dRAE는 높은 충실도의 재구성을 달성하면서도 의미적 무결성을 유지하고 확장 가능한 코드북 예산을 지원합니다. 실험 결과, 어휘 크기가 131,072까지 확장되면서도 일관된 성능 향상을 보였습니다.
dRAE는 100% 코드북 활용률, 간소화된 학습 파이프라인, 이해 및 생성 작업에서의 강력한 성능을 보여줍니다.