Bonsai AI가 270억 파라미터 규모의 언어 모델 Bonsai 27B를 공개했어요. 이 모델은 스마트폰에서도 구동될 수 있도록 설계됐어요. 기존 7B 모델보다 7배 더 큰 규모로, 다양한 작업에서 성능 향상을 기대할 수 있습니다.
Bonsai 27B는 4비트 양자화 기술을 활용해 스마트폰에서 효율적으로 실행되도록 최적화됐어요. 저사양 기기에서도 텍스트 생성, 번역, 코딩 등 다양한 작업을 수행할 수 있습니다.
Bonsai AI는 오픈소스 커뮤니티에 기여하기 위해 Bonsai 27B의 가중치를 공개할 예정이에요.