연구진은 LLM의 복잡한 문제 해결 과정에서 발생하는 긴 추론 토큰 생성 문제를 해결하기 위해 기하학적 잠재 추론(GLR) 방법을 제안했어요.
GLR은 토큰 임베딩 공간에서 반복적인 방향 업데이트를 예측하는 경량 전환 헤드를 사용하며, 텍스트 체인 오브 소트(Chain-of-Thought)를 기준으로 잠재 추론 경로를 학습해요.
Qwen3 모델을 사용한 실험 결과, GLR은 명시적인 길이 제한 없이도 생성 단축을 유도하며, 이는 연속적인 경로가 간결한 중간 추론 상태 역할을 함을 보여줘요.