vllm 프로젝트가 v0.20.0rc1 버전을 출시했습니다. 이번 업데이트는 이전 변경 사항인 PyAV 및 Soundfile을 공통 요구 사항으로 이동하는 것을 되돌리는 내용입니다. 이 변경 사항은 특정 환경에서 호환성 문제를 일으켰던 것으로 보입니다.
v0.20.0rc1 버전은 이전 버전의 안정성을 확보하고 사용자 경험을 개선하기 위한 조치입니다. vllm 프로젝트는 지속적인 개선을 통해 더 나은 성능과 안정성을 제공할 계획입니다.
vllm은 빠른 LLM 추론을 위한 오픈 소스 라이브러리로, 다양한 모델과 하드웨어를 지원합니다.