Pulse · AI 뉴스

64GB VRAM 환경에서 증류에 적합한 최대 모델 탐색

r/LocalLLaMA · 2026-06-28

사용자가 64GB VRAM 환경에서 증류를 위해 사용할 수 있는 최대 모델을 찾고 있어요. 72B 모델까지 로드 가능하며, 초당 12 토큰 속도에 만족한다고 밝혔어요. R9700 두 개를 사용 중이며, 속도는 중요하지 않다고 언급했어요.

Reddit 사용자가 64GB VRAM 환경에서 증류에 적합한 모델을 찾고 있다는 질문을 올렸어요. 72B 모델까지 로드 가능하며, 속도보다는 메모리 용량을 우선시한다고 밝혔어요.

##모델증류##VRAM##72B##R9700
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기