연구에 따르면 RAG 시스템에서 소형 언어 모델(SLM)이 큰 성과를 낼 수 있어요. 오픈소스 및 독점 데이터셋을 활용해 다양한 주제와 질문 유형을 테스트했어요. SLM 기반 RAG 시스템은 GPU 없이도 온디바이스에서 실행 가능하며 합리적인 시간 내에 답변을 생성할 수 있어요.
연구 결과는 GitHub 저장소에서 확인할 수 있으며, 관련 자료는 링크를 통해 제공돼요. SLM은 GPU 없이도 온디바이스에서 실행 가능해 활용성이 높아요. RAG 시스템에서 SLM의 성능을 평가하는 데 중점을 뒀어요.