Pulse · AI 뉴스

PrismML Bonsai 27B, 제트슨 오린 나노 8GB에서도 놀랍도록 사용 가능

PrismML · 2026-07-15

PrismML Bonsai 27B 모델이 제트슨 오린 나노 8GB에서도 사용 가능한 것으로 확인됐어요. 48K 컨텍스트 사이즈, 토큰 생성 속도 4.31t/s를 보여줘요. 콜드 스타트 시 6.2GB의 RAM을 사용하며, 복잡한 작업도 비교적 원활하게 처리할 수 있어요.

25W 전력 소비로 AI 설정을 구축할 수 있어 효율적이며, 프롬프트 처리 속도는 27t/s를 기록했어요. 제트슨 오린 나노 환경에서 LLM 활용 가능성을 보여주는 사례로 주목받고 있어요.

##PrismML##Bonsai##제트슨##LLM##오픈소스
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기