연구에서는 단어 임베딩 생성에 효과적인 Word2Vec이 작은 어휘를 가진 토키포나 언어에서 얼마나 잘 작동하는지 조사했어요. 토키포나 데이터로 Word2Vec 모델을 훈련했는데, 일부 문장에 외국어 토큰이 포함된 모델과 그렇지 않은 모델을 비교했어요. 결과적으로 Word2Vec은 어휘 크기에 크게 영향을 받지 않으며, 분포 패턴이 더 중요하다는 점을 확인했어요.