이 연구는 언어 모델의 내부 메커니즘이 언어학에서 연구되는 교차 구성 원칙과 얼마나 일치하는지 조사해요. 필러-갭 의존성과 부정 극성 항목(NPI) 라이선싱을 중심으로, 특정 어텐션 헤드와 MLP 블록의 기능적 역할을 파악하기 위해 활성화 패치 기술을 사용했어요. 필러-갭 의존성은 초기에서 중간 계층에 고도로 국지화되고 공유된 메커니즘을 보이는 반면, NPI 처리는 그러한 통합 메커니즘을 보이지 않아요.