본 논문은 Transformer 아키텍처의 핵심 요소인 위치 인코딩 중 유사도 기반 위치 인코딩(simPE)의 회전 변환에 대한 강건성을 이론적으로 분석하고 실험적으로 검증합니다.
simPE는 이미지 획득 과정에서 발생하는 회전에 강건하도록 설계되었지만, 회전 불변성이 아님을 보였으며, 특정 조건 하에서 회전 변환에 안정적이고 명확한 경계값을 도출했습니다.
실험 결과, simPE는 표준 학습 위치 인코딩보다 정확도, F1 점수, 정밀도, 재현율 측면에서 우수한 성능을 보였으며, 특히 작은 각도에서 강건성을 입증했습니다.