연구진은 연속 임베딩 공간에서 이산 시퀀스에 대한 생성 모델 학습 문제를 연구합니다. 연구는 유클리드 공간이나 확률 심플렉스에서 작동하는 기존 접근 방식 대신 구 S^(d-1)에서 수행됩니다. 연구 결과, vMF와 예측-교정 샘플링의 조합은 스도쿠와 언어 모델링에서 상당한 개선을 가져왔습니다.