HomoAgens1 사용자가 텍스트북 기반 오프라인 LLM 튜터 구축 계획을 공유하며, RAG을 핵심 아키텍처로 고려 중입니다.
RAG은 텍스트북을 청킹하고 임베딩하여 답변을 제공하며, 관련 정보 위치(챕터/섹션/페이지)를 안내하는 역할을 합니다.
LoRA는 스타일 및 교육적 측면(톤, 소크라틱 vs 직접)에 활용될 수 있으며, 텍스트북 사실을 LoRA에 담는 것은 적절하지 않다고 판단합니다.
Ollama와 간단한 로컬 UI를 활용하여 비기술 사용자도 쉽게 설치하고 실행할 수 있도록 패키징하는 방안을 검토 중입니다.