긴 컨텍스트 환경에서 LLM 성능이 예상치 못하게 저하되는 현상이 나타나고 있어요. Divide & Conquer 프레임워크를 활용하여 문서를 병렬 chunk로 나누고, 계획자, 작업자, 관리자를 두어 작은 모델이 GPT-4o를 능가하는 결과를 보여줬어요. Llama-3-70B와 Qwen-72B 모델이 긴 컨텍스트 작업에서 GPT-4o보다 더 뛰어난 성능을 발휘하는 방법을 제시합니다.