본 연구에서는 Vision Transformer (ViT)의 전방향 자기 주의 메커니즘의 계산 비용 문제를 해결하기 위해 Elastic Attention Cores (VECA)라는 새로운 아키텍처를 제안합니다.
VECA는 학습된 코어 집합을 통해 패치 토큰 간의 정보 교환을 제한하여 이미지 해상도에 따른 연산 비용을 선형 시간 복잡도 O(N)으로 줄입니다.
VECA는 기존 모델과 경쟁력 있는 성능을 유지하면서도 계산 비용을 절감하며, 핵심-주변 구조의 탄성적 주의 메커니즘을 Vision Transformer의 확장 가능한 대안으로 제시합니다.