연구진은 생물학적 시각 시스템의 억제 메커니즘에서 영감을 받아 새로운 self-attention 방식인 Inhibited Self-Attention (ISA)을 제안했어요. ISA는 음수 attention score를 활용해 불필요한 feature를 억제하고 객체에 대한 집중력을 높여요. ImageNet-1k, COCO 데이터셋 실험 결과, ISA는 객체 중심 선택성을 향상시키고, shortcut 의존성을 줄이며, 일반화 성능을 개선했어요.
ISA는 relevance map 분석 결과, 객체 관련 영역에 더욱 선명하고 국소화된 집중력을 보여주고, 불필요한 feature로 인한 방해를 줄여 더욱 신뢰성 있는 모델을 가능하게 해요.
연구진은 ISA 코드와 모델을 GitHub에 공개했어요.