연구팀은 프랑스 의료 질의응답을 사례로 삼아 LLM의 의료 분야 적응 전략의 효과를 분석했어요. 지속적 사전 훈련(CPT), 지도적 미세 조정(SFT), 그리고 이 두 가지 조합을 다양한 모델과 크기, 초기화 방식으로 비교했답니다. 다중 선택 질의응답(MCQA)에서는 SFT가 효과적이지만, 개방형 질의응답(OEQA)에서는 CPT가 생성 품질을 향상시키고 LLM 평가에서 더 좋은 결과를 보여줬어요.
프랑스에서 학습한 모델이 영어 벤치마크에도 효과적으로 적용될 수 있음을 확인했어요. 연구팀은 계산 자원 제약 하에서 적응 전략을 선택하기 위한 실용적인 지침을 제시했어요.