연구진은 LLM을 활용한 새로운 악성 콘텐츠 주입 공격 프레임워크 CRAFT를 제안했습니다. CRAFT는 기존 공격 방식보다 효과적이며 다양한 랭킹 모델 아키텍처에 적용 가능합니다.
CRAFT는 악성 데이터셋 생성, 지도 학습, 선호도 기반 최적화의 세 단계로 구성되어 있으며, MS MARCO, TREC Deep Learning 벤치마크에서 기존 방식보다 우수한 성능을 보였습니다.
연구 결과는 신경 랭킹 모델의 취약점을 드러내고, 생성 AI의 악용 위험성을 강조하며, 보다 강력한 검색 시스템 개발의 기반을 제공합니다.