연구진은 원샷 연합 학습 환경에서 데이터 불균형 문제를 해결하기 위해 FedMITR 프레임워크를 제안했습니다. 이 프레임워크는 합성 이미지의 모든 패치를 활용하여 글로벌 모델을 학습합니다.
FedMITR은 희소 모델 역전 기술을 사용하여 의미 있는 전경만 역전하고 불필요한 배경은 제외하여 그래디언트 불안정성을 줄입니다.
토큰 재표시 전략을 통해 ViT 예측을 방해하는 의미 없는 토큰을 수정하고, 정보 밀도가 높은 패치에는 가짜 레이블을, 낮은 패치에는 앙상블 모델을 사용하여 강력한 증류를 수행합니다.