연구진은 소규모 데이터셋과 노이즈 환경에서 PEFT(Parameter-Efficient Fine-Tuning) 모델의 강건성을 높이는 SDBN(Small Data Big Noise) 프레임워크를 제안했어요.
SDBN은 적대적 훈련을 PEFT에 접목하여 기존 방식보다 성능을 개선했으며, 특히 데이터가 부족한 환경에서 효과적이에요.
SDBN-h와 SDBN-p 두 가지 변형 모델은 캐릭터 단위 편집 및 LLM 생성 변형을 활용하여 강건성을 더욱 높였고, 다양한 벤치마크에서 성능 향상을 보였어요.