연구진이 딥페이크 탐지기의 작동 원리를 분석하여 숨겨진 특징을 밝혀냈습니다. Encoding-Decoding Direction Pairs(EDDP) 기법을 활용해 탐지기가 학습한 의미 어휘를 파악하고, 내부 표현에 개념 정보를 읽고 쓰는 메커니즘을 분석했습니다. 기존 방법으로는 얻기 어려웠던 세부적인 설명을 제공하여 모델 이해도를 높이고, 공간적 개념 위치 파악 및 가설 분석을 가능하게 합니다.
기존 딥페이크 탐지기는 이진 분류만 수행하여 설명력이 부족했지만, 이번 연구는 XAI 기법을 활용해 탐지기의 의사 결정 과정을 분석했습니다. 이를 통해 딥페이크 탐지기가 학습한 실제 및 가짜 특징을 새롭게 발견하고, 모델의 투명성을 높였습니다. 연구 결과는 법적 절차 등 실질적인 활용 가능성을 제시합니다.
EDDP 기법은 딥페이크 탐지기의 개념 공간을 밝혀내고, 내부 표현에 개념 정보를 읽고 쓰는 방식을 이해하는 데 유용합니다. 연구진은 이 기법을 통해 딥페이크 탐지 전략에 대한 심층적인 이해를 제공하고, 모델의 성능 개선 및 신뢰도 향상에 기여할 수 있을 것으로 기대합니다.