Microsoft가 Foundry Managed Compute를 통해 Hugging Face 모델을 통합한다고 발표했어요. 이를 통해 사용자는 클릭 한 번으로 Hugging Face 생태계의 오픈 웨이트 모델을 배포할 수 있게 됐어요.
Foundry는 Microsoft, OpenAI, Anthropic, Meta, Mistral, DeepSeek, Hugging Face 등 다양한 모델을 지원하며, Python, C#, JavaScript, Java SDK를 통해 접근 가능해요.
Managed Compute는 오픈 소스 및 커스텀 모델을 위한 GPU 플랫폼 서비스로, 파라미터 수, 컨텍스트 길이, 지연 시간 또는 처리량 최적화 여부와 같은 워크로드에 중요한 요소들을 기반으로 모델 인스턴스를 배포할 수 있어요.