연구진이 NVIDIA NVL72/576, Huawei CloudMatrix384 등 생산성 슈퍼포드에서 Mixture-of-Experts(MoE) 모델 배포 시 발생하는 병목 현상을 해결하기 위해 UBEP(Unified-Bus Expert Parallelism) 통신 라이브러리를 개발했어요.
UBEP는 기존 방식의 실행 직렬화, 과도한 동기화 오버헤드, 불균형한 트래픽 스케줄링 문제를 개선하여 All-to-All 지연 시간을 최대 52.4% 단축했어요.
대규모 실험 결과, UBEP는 MoE 추론 Time Per Output Token(TPOT)을 최대 11.1%까지 줄이는 성능 향상을 보였어요.