연구진은 대규모 언어 모델(LLM)의 토큰화 과정에서 발생하는 표현적 중복성과 대칭성 문제를 분석했어요. 토큰 재조합(retokenization) 기법을 활용해 LLM의 토큰 분절 방식에 따른 민감도와 강건성을 조사하고, 새로운 샘플링 전략을 제안했어요. 토큰 재조합은 의미적으로 동일한 입력 표현을 통해 모델의 내부 연산에서 다양성을 생성하며, 기존 샘플링 방식으로는 찾기 어려운 해결책을 발견할 수 있도록 돕는다는 결과가 나왔어요.