본 연구에서는 사전 훈련된 비전 모델을 활용하여 왜곡에 강건한 표현을 학습하고, 이를 다양한 다운스트림 작업에 적용할 수 있음을 보여줍니다. 비대칭 지식 증류 프레임워크를 제안하여, 교사는 깨끗한 이미지를 처리하고 학생은 왜곡된 이미지를 처리하도록 합니다. 글로벌 임베딩, 패치 레벨 특징, 어텐션 맵을 정렬하는 다중 레벨 증류를 통해 학생 모델이 깨끗한 이미지 표현을 근사할 수 있음을 입증했습니다.