연구진은 LLM의 자가 진화 능력 향상을 위해 MetaEvolve 프레임워크를 개발했어요. 이 프레임워크는 강화 학습과 데이터 합성 파이프라인을 통해 LLM이 스스로 개선하는 메타 스킬을 학습하도록 설계됐어요.
MetaEvolve는 코딩 환경에서 프로그램 실행 결과를 활용해 자연스러운 보상 신호를 제공하고, 이를 통해 LLM은 프로그램의 정확성과 효율성을 동시에 고려하며 학습해요.
MetaEvolve는 7개의 코딩 벤치마크에서 기존 모델보다 성능을 크게 향상시켰으며, 특히 학습 데이터 범위를 벗어난 문제에서 46.9%의 상대적 성능 향상을 보였어요.