KARLA는 LLM이 지식 기반에서 사실 정보를 자동으로 가져와 답변 생성하도록 하는 새로운 방법입니다. 이 기술은 LLM 재학습 없이 사실 정보 업데이트가 가능하며, 답변의 출처를 추적하여 투명성을 높입니다. 또한, 작은 모델도 큰 모델과 동등한 사실 정확도를 달성할 수 있습니다.
KARLA는 모델이 지식 기반 쿼리를 트리거하는 특수 토큰을 생성하도록 학습합니다. 실험 결과, 짧고 긴 답변 모두에서 사실 기반을 개선하고, 지식 기반 수정으로 사실 수정이 가능합니다.
이 기술은 LLM의 사실 기반 답변 정확도를 높이고, 투명성을 개선하며, 모델 크기를 줄이는 데 기여할 수 있습니다.