연구진은 LLM의 예측 믿음이 응집력을 잃는 현상(마틴게일 속성 위반)을 다뤘습니다. 여러 선택지 질문 답변에서 LLM의 믿음은 초기 드리프트를 보이지만, 충분한 샘플링을 거치면 안정화됩니다. 연구진은 이 현상을 활용해 믿음 안정화를 가속화하는 프롬프트 전략과 손실 함수를 제안했습니다.
제안된 방법은 LLM의 믿음 드리프트를 줄이고 예측 응집력을 향상시킵니다. 성능 저하 없이 정확도를 유지하면서 개선 효과를 보였습니다. 이는 LLM의 추론 과정에 대한 이해를 높이는 데 기여합니다.
연구진은 LLM이 초기에는 마틴게일 속성을 위반하지만, 반복적인 샘플링을 통해 믿음이 안정화되는 것을 확인했습니다. 이 발견을 바탕으로 초기 드리프트를 보정하는 새로운 손실 함수를 개발했습니다.