연구진은 LLM의 추론 과정을 안내하는 새로운 패러다임 'Think-with-Rubrics'를 제안했어요. 이 방법은 LLM이 스스로 평가 기준(rubric)을 생성하고 답변을 생성하는 과정을 통합합니다. Think-with-Rubrics는 기존 방식보다 평균 3.87점이 향상된 성능을 보였어요.
Think-with-Rubrics는 답변과 평가 기준 간의 일관성을 평가하는 'rubric verifier'를 활용하여 LLM을 훈련합니다. 이를 통해 LLM은 스스로 생성한 평가 기준과 정답 평가 기준을 통해 성능을 개선할 수 있습니다.
연구 결과, Think-with-Rubrics는 외부 평가 기준으로 사용하던 rubric을 LLM의 내부 추론 지침으로 활용하여 모델의 성능을 향상시키는 데 효과적임을 보여주었어요.