연구진이 인간 시각 시스템의 효율성을 모방한 Foveated Dynamic Transformer (FDT) 아키텍처를 공개했어요. FDT는 불필요한 정보를 걸러내고 다중 스케일 정보를 활용해 노이즈와 적대적 공격에 강건한 성능을 보여요.
FDT는 50% 고정 예산 설정 시 DeiT-S보다 높은 정확도(81.9% vs 80.9%)를 달성하면서 곱셈-누적 연산량을 34.57% 줄이는 효율성도 확보했어요.
FDT는 적응적 연산과 향상된 강건성을 결합한 인공 신경망으로의 발걸음으로 평가돼요.