Anthropic이 Claude 모델 내부에 J-space라는 작업 공간이 존재한다는 실험 결과를 발표했어요. J-space는 여러 처리 과정에서 공유되는 개념들의 집합을 의미합니다. Jacobian lens(J-lens)를 통해 J-space의 내용을 읽어 특정 단어와 연결된 내부 활성 패턴을 파악할 수 있어요.
J-lens는 Claude의 내부 작동 방식 이해에 기여할 수 있으며, 이는 향후 모델 개선에 활용될 수 있을 것으로 보입니다. Anthropic은 이 연구를 통해 언어 모델의 추론 과정을 더 깊이 이해하고자 노력하고 있습니다.