연구진은 언어 생성을 확률적 최적 제어 문제로 재해석하여 autoregressive 및 확산 모델의 한계를 설명했어요. Manta-LM이라는 새로운 모델을 개발하여 고품질 텍스트 생성과 효율적인 병렬 샘플링을 동시에 달성했어요. 이 모델은 잠재 제어 공간 내에서 Flow Matching을 활용하여 HJB 방정식을 근사해 폐루프 제어기를 구현했어요.
기존 모델의 효율성-충실도 역설, 되돌릴 수 없는 오류 전파, 최적화 가능성과 충실도 문제를 해결하는 데 초점을 맞췄어요. Manta-LM은 전역 적분 연산자를 활용하여 전역 벡터장을 근사하고 안정성, 효율성, 제어 가능성을 개선했어요.
실험 결과, Manta-LM은 언어 모델링 및 조건부 생성 작업에서 뛰어난 성능을 보였으며, 기존 모델의 한계를 극복하는 데 성공했어요.