연구진은 코드 인터프리터(CI)를 활용한 LLM의 추론 능력을 향상시키는 외적·내재적 특성을 조사했어요.
강력한 CI 추론 모델은 중요한 토큰과 검증, 되돌아가기, 역방향 추론 같은 행동이 두드러지게 나타나는 경향이 있어요.
추론 시 중요한 토큰을 추가하면 수학, 순서, 최적화 등 여러 추론 능력 향상에 도움이 되며, 훈련 시 특정 행동을 강화하면 지도 학습 및 강화 학습 성능을 개선할 수 있어요.
연구 결과는 CI 기반 추론의 효과적인 특성을 체계적으로 분석하고, 이를 활용해 추론 능력을 개선할 수 있는 가능성과 한계를 보여줘요.