연구진이 저해상도 얼굴 인식 성능을 높이는 FaceMoE 모델을 제안했어요. FaceMoE는 Mixture of Experts(MoE) 구조를 활용해 해상도에 따른 특징 추출을 가능하게 해요.
MoE 구조 덕분에 모델은 사전 학습된 지식을 유지하면서도 저해상도 데이터셋에 대한 파인튜닝이 가능해요. 저해상도 얼굴 인식 벤치마크에서 기존 방식보다 성능이 뛰어나다는 결과가 나왔어요.
FaceMoE는 얼굴 영역별로 특화된 피드포워드 네트워크(FFN) 전문가를 활용하고, 토큰을 적절한 전문가에게 동적으로 할당하는 top-k 라우터를 도입했어요. 코드 GitHub에서 확인할 수 있어요.