연구진이 마스크 디퓨전 언어 모델(MDLM)의 강화 학습을 위한 새로운 정책 그래디언트 방법을 제시했어요. 기존 방법은 토큰 예측만 고려했지만, 이번 연구는 마스크 해제 순서까지 고려하여 성능을 개선했어요. 새로운 방법은 토큰 배치와 마스크 해제 순서를 분리하여 최적화하여 수학적 추론과 코딩 벤치마크에서 최고 성능을 달성했어요.
GSM8K에서 87.1%, MBPP에서 53.4%의 높은 점수를 기록하며 기존 방식의 한계를 극복했어요. MDLM 생성 과정에서 토큰 배치와 마스크 해제 순서를 함께 고려하는 새로운 접근 방식을 사용했어요. 이 방법은 MDLM의 강화 학습을 위한 새로운 가능성을 제시합니다.