LLM 탐지 도구 사용이 보편화되면서, LLM 생성 콘텐츠 탐지가 중요해지고 있어요. 하지만 불완전한 LLM 탐지기는 오히려 LLM 사용량과 출력 품질을 저해할 수 있다는 연구 결과가 나왔어요.
연구팀은 LLM 탐지가 사용자의 콘텐츠 생성 전략을 왜곡해 LLM 사용량을 늘리고, 출력 품질을 떨어뜨릴 수 있음을 모델링을 통해 입증했어요.
arXiv 논문 초록의 단어 빈도 분석 결과, LLM 탐지기는 탐지 지표가 상승했다가 하락하는 패턴을 보이며, 이는 LLM 탐지가 LLM 사용과 출력 품질에 미치는 복잡한 영향을 보여줘요.