비전 트랜스포머(ViT)가 적대적 예시에 취약하다는 연구 결과가 나왔어요. 본 연구에서는 단순화된 ViT 아키텍처에서 적대적 훈련을 이론적으로 분석하여 특정 조건 하에서 거의 0에 가까운 로스를 달성하고 강력한 일반화 성능을 보인다는 것을 밝혀냈어요.
과거 CNN에서 관찰되었던 긍정적 과적합 현상이 ViT에서도 나타나, 적대적 훈련이 ViT의 일반화 성능을 향상시키는 데 기여하는 것을 확인했어요.
합성 데이터 및 실제 데이터셋에서의 실험을 통해 이론적 분석 결과를 검증하고, ViT의 적대적 훈련에 대한 이해를 높였어요.