연구진은 민감한 데이터를 외부로 유출할 수 없는 정부 기관의 기술 지원을 위해 RAGAL이라는 로컬 기반 검색 증강 어시스턴트를 개발했어요.
8GB 노트북 환경에서 2만 5천개 문서 조각으로 구성된 로마니아어 코퍼스에 대해, 검색 엔지니어링과 검색기 파인튜닝이 모델 크기보다 더 중요했어요.
단일 도메인 파인튜닝은 검색 성능을 저하시키는 문제를 야기했지만, 로컬 생성 질의(GenQ)를 통해 해결 가능했으며, PII 마스킹은 생성 품질을 향상시키는 등 예상치 못한 결과도 발견했어요.