연구진은 LLM의 추론 및 계획 능력 향상을 위해 novelty 기반 Tree-of-Thought Search 방법을 제안했습니다. 이 방법은 LLM이 생성한 생각들의 고유성을 측정하여 불필요한 분기를 제거하고 검색 범위를 줄입니다. novelty는 LLM 프롬프트를 통해 추정되며, 기존 노드와 비교하여 새로운 노드의 독특성을 평가합니다.
Novelty 기반 Tree-of-Thought Search는 기존 방식보다 시간과 토큰 비용을 절감할 수 있으며, 언어 기반 계획 및 일반적인 추론 벤치마크에서 성능을 검증했습니다. 이 방법은 각 상태별 프롬프트 수를 늘리지만, 전체 트리 크기를 줄여 전체 토큰 비용을 낮춥니다.
연구는 LLM의 추론 및 계획 능력을 향상시키는 새로운 접근 방식을 제시하며, 특히 복잡한 문제 해결에 유용할 것으로 기대됩니다.