연구진은 언어 모델 내부에서 정답이 어떻게 만들어지는지 분석했어요. 레이어별 차이분석을 통해 중간 레이어에서 잘못된 답을 선택하는 '오류 일시적 현상(wrong-dip)'을 발견했어요. 이 현상은 모델의 후반부 레이어가 오류를 수정하는 과정에서 나타나요. 연구 결과, 모델 크기가 커질수록 오류 일시적 현상은 심화되다가, 특정 모델에서는 감소하는 경향을 보였어요.