연구진은 모델의 잔류 스트림 게이지가 아키텍처에 따라 달라지며, RMSNorm 모델은 signed-permutation 게이지를 가진다는 것을 밝혔습니다.
signed-permutation 게이지를 무시하면 좌표 정렬 정확도가 떨어지는데, sign-marginalization을 통해 이를 개선할 수 있습니다.
좌표 보존 이동을 통해 여러 체크포인트 간의 좌표를 복원하고, TinyLlama SAE 재구성, Qwen 감정 조종, 거부 조종 등의 도구를 활용할 수 있습니다.
게이지 스위프 감사를 통해 인덱스 레벨 해석 가능성 주장이 명확한 게이지를 기준으로 재현 가능하다는 것을 확인했습니다.