LongStraw는 제한된 GPU 예산으로 최대 200만 토큰의 장문 컨텍스트 RL 학습을 가능하게 하는 새로운 아키텍처 실행 스택입니다.
Group Relative Policy Optimization (GRPO)을 기반으로 작동하며, 프롬프트 공유 시 자동 미분 계산을 피하고 모델 상태만 유지하며 짧은 응답 브랜치를 재활용합니다.
Qwen3.6-27B와 GLM-5.2 모델에 적용하여 8개의 H20 GPU에서 210만 토큰까지 처리했으며, 32개의 GPU에서는 78개 레이어를 모두 통과하는 210만 토큰 프롬프트를 검증했습니다.