로보틱스 데이터 플랫폼에서 이미지·비디오·텍스트 메타데이터 검색을 위해 SigLIP 2를 사용해요. GPU는 이미지/비디오 임베딩과 인덱싱을 담당하고, Rust + ONNX Runtime 서버는 CPU에서 실시간 텍스트 쿼리를 처리해요. 텍스트 쿼리가 GPU에서 구축한 이미지 인덱스를 검색할 수 있도록 두 모델을 동일한 임베딩 공간에 배치했어요.
희소한 GPU 자원을 고처리량 멀티모달 데이터 수집에 집중하고, 가벼운 쿼리 경로는 일반 CPU 인스턴스에서 확장하는 것이 실용적이었어요. 텍스트 임베딩을 위한 Rust 서버 구축 경험을 공유하며 유사한 사용 사례가 있는지 궁금해요.
GitHub 저장소를 통해 관련 코드 확인 가능해요.