사용자가 DeepSeek V4 Pro 모델을 Q4_K_M 형식으로 변환하여 개인 Epyc 워크스테이션에서 성공적으로 구동했습니다.
모델 파일 크기는 859GB에 달하며, RTX PRO 6000 Blackwell Max-Q Workstation Edition GPU를 사용했습니다.
DeepSeek V4 Pro는 128K 컨텍스트 윈도우를 지원하며, 파일 업로드 및 웹 검색 기능도 제공합니다.
모델은 API, Claude.ai, Bedrock 채널을 통해 사용할 수 있으며, Bedrock은 다음 주에 출시될 예정입니다.