Moonshot 팀이 Kimi K3 모델의 가중치를 Hugging Face에 공개했어요. 모델은 2.8조 개의 파라미터와 1M 컨텍스트를 지원하며, 비전 기능도 포함돼 있어요. A100, H200, B300 GPU 환경에서 테스트를 진행하며, A100과 H200 환경의 결과는 이번 주에 나올 예정이에요.
Kimi K3 모델은 8x A100 환경에서 메모리 부족 문제가 발생하며, 8x H200 환경에서는 최소 2개 노드 구성이 필요해요. B300 환경에서는 모델 전체가 단일 노드에 들어갈 수 있어 최적의 환경으로 예상돼요.
Moonshot 팀은 Kimi K3 모델의 약점(에이전트의 사고 기록 단축 시 품질 저하, 모호한 상황에서 행동 지향적 반응, Fable 5/Sol 대비 채팅 경험 부족)을 솔직하게 인정했어요. GPU 환경별 토큰/초당 처리량(tok/s), 총 처리 시간(ttft), M 토큰당 비용 정보를 이번 주에 공개할 예정이에요.