AI 서빙 플랫폼은 모델 추론 성능을 최적화하는 데 어려움을 겪고 있어요. 모델마다 요구 사항이 다르기 때문에, 서빙 인프라를 일일이 맞춰야 해요. 이 문제를 해결하기 위해 모델에 맞춰 자동으로 최적화하는 새로운 플랫폼이 필요해요. 새로운 플랫폼은 모델의 특성을 분석하여 최적의 하드웨어 리소스와 소프트웨어 구성을 자동으로 선택해요. 이를 통해 개발자는 모델 서빙에 대한 복잡한 설정을 신경 쓰지 않고, 모델 개발에만 집중할 수 있어요.