LongStraw는 200만 토큰 이상의 컨텍스트를 가진 강화 학습(RL) 후처리를 위한 아키텍처 기반 실행 스택입니다.
Group Relative Policy Optimization(GRPO)을 활용하여 공유 프롬프트를 평가하고, 모델별 상태만 유지하며, 짧은 응답 브랜치를 순차적으로 재활용하여 GPU 사용량을 최적화합니다.
Qwen3.6-27B와 GLM-5.2 모델을 대상으로 실험 결과, 8개의 H20 GPU에서 210만 토큰까지 처리 가능했으며, 32개의 GPU에서는 78개 레이어를 모두 활용하여 210만 토큰 프롬프트를 처리했습니다.