Dolci-Think-SFT-7B 샘플 번역 중 Gemma 모델이 번역 대신 문제 해결을 시도하는 현상을 발견했어요. 모델이 번역 대상 텍스트의 지시사항을 실행하는 문제가 발생했어요.
이러한 문제는 모델이 번역 외 다른 작업을 수행하도록 유도할 때 발생할 수 있으며, 특히 모델이 변형, 교정, 요약과 같은 역할을 수행할 때 주의해야 해요.
작업을 분할하는 청킹(chunking) 방법이 효과적이었지만, 코드 블록 손상, 태그 재구성 등 새로운 문제도 발생했어요. 모델의 출력을 신뢰하기 전에 입력 태깅을 철저히 하는 것이 중요해요.