연구진은 CLIP 모델의 어텐션 레이어에서 소프트맥스 함수를 α-entmax 변환으로 대체하는 방법을 제안했어요. α-entmax는 중요하지 않은 토큰의 연결을 0으로 만들어 노이즈를 줄이고 핵심 토큰에 집중하도록 설계됐어요.
밀집 의미론적 분할(ADE20K) 및 미세 입자 검색(FG-OVD) 작업에서 성능 향상을 확인했으며, 기존 어텐션이 목표 클래스에서 벗어날수록 효과가 크다는 것을 확인했어요.
연구 결과는 어텐션 희소화가 밀집 예측 성능을 향상시키는 데 중요한 역할을 한다는 것을 보여줘요.