연구진은 복잡한 문제를 해결하기 위해 LLM의 체인 오브 씽킹(CoT) 추론 과정을 개선하는 AtManRL 방법을 제시했어요.
AtManRL은 가중 주목도 조작을 통해 강화 학습을 활용하여 모델의 추론 과정이 정확한 답변에 기여하고 진정으로 반영되도록 훈련해요.
GSM8K 및 MMLU 데이터셋에서 Llama-3.2-3B-Instruct 모델을 사용하여 실험한 결과, AtManRL은 영향력 있는 추론 토큰을 식별하고 투명한 추론 모델 훈련을 가능하게 하는 것을 입증했어요.