연구진은 언어 모델의 뉴런 선택기가 실제로 중요한 역할을 하는지 직접적으로 검증했어요. 기존 방법들이 뉴런의 중요도를 평가하는 데 효과적이며, 불필요한 뉴런을 식별하는 데 도움이 된다는 사실이 확인됐어요. 유해한 신호와 안전한 신호를 대비시켜 테스트한 결과, 특정 뉴런을 제거하면 모델이 유해한 요청을 거부하면서도 자연스러운 언어 구사 능력을 유지할 수 있었어요.
뉴런 선택기의 안정성이 높다고 해서 반드시 인과적으로 유효하다는 보장은 없으며, 여러 방법으로 거부를 구현할 수 있는 중복된 공간이 존재한다는 점이 밝혀졌어요. 이는 거부 기능을 담당하는 뉴런 집합이 유일하지 않다는 것을 의미해요. 연구 결과는 기존의 평가 방식으로는 파악하기 어려운 선택기의 실패 가능성을 드러냅니다.