연구진이 새로운 해석 기법인 Jacobian 렌즈를 활용해 대규모 언어 모델에서 표현 가능성을 가진 J-space를 발견했어요.
J-space는 보고, 의도적인 소환, 추론 과정, 하위 계산 인수로 전달 가능한 전역 작업 공간의 특징을 보여줘요.
J-space는 특정 레이어 밴드에서만 응집된 콘텐츠를 담고, 제한된 수의 개념을 유지하며, 모델 가중치에 의해 널리 방송되는 등 전역 작업 공간 이론과 관련된 구조적 특징을 보여줘요.
J-space는 모델의 비공개적 사고 과정을 엿볼 수 있는 창 역할을 하며, 행동 개선을 위한 역방향 반성 훈련에 활용될 수 있어요.