연구진이 자기 지도 학습 비전 트랜스포머(ViT)가 기하학적 정보를 어떻게 인코딩하는지 분석하기 위해 서브스페이스 개입 프레임워크를 도입했어요.
DINOv2는 공간적 특징을 정렬하여 효율적인 선형 추출을 가능하게 하지만, Masked Autoencoder(MAE)는 더 넓은 공간적 맥락이 필요하다는 점을 발견했어요.
기하학적 표현은 높은 압축률을 보이며, 가벼운 디코더 설계에 기여할 수 있다는 점을 시사하며, 관련 코드 GitHub에서 확인할 수 있어요.