연구진은 신경망 내부 특징을 입력 데이터에서 추출하는 방식을 이해하는 방법을 제시했어요.
소스 기반 특징 반전은 대상 생성 입력에서의 소스 로컬 네트워크 기하학에 의해 역으로 조건을 설정하는 방식으로, 기존 방법의 한계를 극복했어요.
새로운 방법은 다양한 CNN 및 Transformer 아키텍처에서 작동하며, 독립적인 내부 특징에 대한 개입과 예측 조건부 특징 대지를 연결해줘요.
이 연구는 개별 레이어와 채널 수준에서 모델의 숨겨진 특징 계층을 검사할 수 있도록 하여, 네트워크가 입력에서 추출하는 것과 의사 결정을 형성하는 내부 증거를 연결해줘요.