AoiZora는 TPU 서브 슬라이스에서 저지연 비디오 디퓨전 추론을 위한 컴파일러 기반 토폴로지 플래너입니다. 기존 자동 병렬 시스템은 논리 장치 메시만 고려하지만, AoiZora는 물리적 TPU 인터커넥트 토폴로지를 고려하여 성능을 향상시킵니다.
AoiZora는 컴파일 흐름의 여러 단계에서 논리적 샤딩을 물리적 배치와 재연결하며, 사전 컴파일 IR에서 약한 샤딩 후보를 제거하고, 컴파일된 HLO와 토폴로지 기반 통신 모델을 사용하여 물리적 배치를 결정합니다.
TPU v5e 서브 슬라이스에서 AoiZora는 기존 솔루션 대비 1.42배까지 Wan 2.1 단일 단계 디노이징 지연 시간을 줄입니다.