Pulse · AI 뉴스

FoeGlass: 간단한 인컨텍스트 학습만으로 오디오 딥페이크 탐지기 레드 팀 운영 가능

FoeGlass · 2026-06-04

연구진은 오디오 딥페이크 탐지(ADD) 모델의 취약점을 찾는 새로운 자동 레드 팀 운영 방법인 FoeGlass를 제안했어요.

FoeGlass는 LLM의 인컨텍스트 학습 능력을 활용해 TTS 모델의 입력 공간을 탐색하며 ADD를 속이는 오디오 샘플을 생성해요.

실험 결과, FoeGlass로 생성한 데이터는 기존 방식 대비 오디오 딥페이크 탐지기의 오탐율을 최대 94%까지 개선하고, ADD 모델의 강건성을 향상시켰어요.

##오디오딥페이크##ADD##레드팀##FoeGlass##LLM
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기