SageMaker HyperPod 추론 기능이 업데이트됐어요. 데이터 캡처, Hugging Face Hub 직접 배포, NVMe 로컬 모델 로딩, Route 53 자동 DNS, 서비스 계정을 통한 Pod 단위 IAM 기능이 추가됐어요. 감사 및 모델 개선을 위한 다중 계층 데이터 캡처 기능도 제공돼요.
Hugging Face Hub에서 모델을 바로 배포하고, NVMe 로컬 모델 로딩으로 빠른 콜드 스타트가 가능해졌어요. Route 53 자동 DNS로 사용자 정의 도메인도 설정할 수 있어요.