연구진이 잠재적 추론 격차를 해소하기 위해 Looped Transformer 기반의 새로운 모델 LOTUS(Looped Transformers with parallel supervision on latents)를 개발했어요.
LOTUS는 기존 잠재적 CoT 방법의 한계를 극복하고, 3B 규모에서 명시적 CoT 수준의 성능을 달성하며 추론 지연 시간을 2.5배에서 6.9배 단축했어요.
LOTUS의 잠재 공간은 해석 가능하고 CoT와 일치하는 것으로 나타났으며, 기존 방식과 달리 금속 추론 단계를 복구하고 유효한 중간 단계를 제시할 수 있어요.