연구진이 감정 분석부터 언어 생성까지 다양한 작업에 사용되는 최신 NLP 모델이 universal adversarial attack에 취약하다는 점을 확인했어요. 기존 공격 트리거는 문법적이지 않고 부자연스러웠던 한계가 있었어요. 연구진은 품사 필터링과 perplexity 기반 손실 함수를 결합해 자연스러운 트리거 생성 기법을 제안했어요.
SST 데이터셋 감정 분석에서 0.04, 0.12의 정확도를 달성하며 긍정/부정 예측을 뒤집는 데 성공했어요. 모델의 정확도를 0.12에서 0.48로 향상시키는 adversarial training도 진행했어요. 연구는 공격 트리거를 자연스럽게 만들어 탐지를 어렵게 하고, 모델 개발에 도움이 되는 방어 기법을 제시하는 데 목표를 두고 있어요.
자연스러운 공격 트리거를 활용하여 모델의 취약점을 파악하고, 보다 강력한 모델을 개발하는 데 기여할 것으로 기대돼요.