연구진은 다중 스케일 표현 학습의 한계인 중첩된 부분 공간의 차원 중복과 스펙트럼 붕괴 문제를 해결하기 위해 MIC 프레임워크를 제안했어요. MIC는 SCR과 SIR을 활용하여 부분 공간 간의 중복을 줄이고 저차원 부분 공간의 균일성을 확보해요. 자체 증류 목표를 통해 의미가 밀집된 표현을 생성하며, 높은 압축률에서도 정보 용량을 유지하는 데 효과적이에요.
Soft Collapse Regularization (SCR)은 접두사 및 잔여 부분 공간 간의 상관 관계를 줄이고, Spectral Isotropy Regularization (SIR)은 저차원 접두사의 초구면 균일성을 보장해요. 이 두 가지 전략을 통합하여 성능을 향상시켰어요.
실험 결과, MIC는 표준 기준 성능을 크게 능가했으며, 특히 정보 용량 유지가 중요한 고압축 시나리오에서 뛰어난 성능을 보였어요.