연구진이 LLM 생성 텍스트, 환각, 워터마크, 적대적 예제 탐지를 위한 통합 탐지 프레임워크를 제안했어요. Mahalanobis distance scores (MDS) 기반으로 작동하며, 긍정 클래스(인간 생성 텍스트 등)의 공분산 행렬 추정 방법을 개발했어요. Casewise 및 cellwise 최소 공분산 결정(MCD) 추정기를 위한 최적화 알고리즘을 제시하고, 효율성과 견고성을 입증했어요.
긍정 클래스는 여러 클래스로 구성되며, 동질성과 이질성을 모두 나타내기 때문에, 공동 추정 방법이 필요해요. 연구진은 긍정 샘플의 깊은 표현 공분산 행렬을 계산하기 전에 이를 정확하게 특성화하는 것이 중요하다고 강조했어요. 실험 결과, 제안된 탐지 프레임워크의 효과를 확인했어요.
AI 콘텐츠 탐지 및 규제에 있어 비용 효율적인 접근 방식이며, LLM 생성 텍스트, 환각, 워터마크, 적대적 예제 등 다양한 상황에 적용 가능해요.