연구진은 LLM이 인간처럼 경험을 추상화하여 활용할 수 있는지 연구했어요. MATH 데이터셋의 문제 해결 과정을 분석해 자연어 추상화를 추출하고, 이를 활용하는 두 가지 방법을 제시했어요. 경험 추상화는 수학적, 논리적 추론 벤치마크에서 LLM 성능을 향상시키는 효과가 있었어요.
LLM이 스스로 추출한 추상화가 전문가가 추출한 추상화와 유사한 결과를 보여줬으며, 다른 데이터셋과 모델에도 적용 가능했어요. 이는 LLM이 인간처럼 경험을 활용할 수 있음을 시사하는 결과예요.