연구진이 잠재적 추론을 활용한 기계 번역 모델 'LatentMT'를 발표했어요. 26억 파라미터 모델을 경량화하여 학습시켰으며, 기존 모델 대비 성능이 우수해요. 중·저자원 언어 번역에서 최고 성능을 달성하며, 효율적인 학습과 추론이 가능해요.
LatentMT는 초기 단계에서 번역 품질이 꾸준히 향상되지만, 특정 시점 이후에는 성능이 정체되는 것을 확인했어요. 반복 추론 단계 축소로 인해 숨겨진 표현 차이가 줄어드는 현상이 관찰됐어요.
기존 모델보다 적은 연산량으로 유사한 성능을 내기 때문에, 효율적인 기계 번역 모델 개발에 잠재적 추론이 유망한 방법론임을 입증했어요.