Sipeed에서 32GB LPDDR5 메모리와 60 TOPS NPU를 탑재한 K3 RISC-V SBC를 출시했어요. 이 SBC는 30B 파라미터 LLM을 실행할 수 있습니다. BF16, FP16, INT4를 지원하여 다양한 연산 환경에 대응합니다.
K3 SBC는 15 토큰/초의 AI LLM 성능을 보여줍니다. 이는 소형 폼팩터에서 상당한 성능을 내는 것을 의미합니다.
Sipeed는 이 SBC를 통해 엣지 AI 및 머신러닝 애플리케이션 개발을 가속화하는 것을 목표로 합니다.