Anthropic이 모델의 'J 공간' 변화를 분석하여 출력에 가장 큰 영향을 미치는 부분을 파악하는 기술을 발표했어요. 이 기술을 활용해 모델의 가지치기, 병합, 증류 과정에서 성능 저하 없이 압축하는 'J-Space 인식' 기법을 개발할 수 있을 것으로 보입니다. 특히, 대규모 모델의 핵심 추론 경로를 소형 모델에 효과적으로 전달하는 증류 과정에서 효율성을 높일 수 있다는 아이디어가 제시됐어요.