연구진이 AI 생성 시각 정보 조작의 신뢰도를 측정하는 벤치마크 SynCred-Bench를 공개했어요. 600개의 AI 생성 허위 정보 이미지와 450개의 실제 이미지로 구성되어 있어요. 기존 시스템은 낮은 정확도를 보였으며, 인간 평가자조차도 신뢰도 판별에 어려움을 겪었어요.
SynCred-Bench는 AI 생성 이미지의 신뢰도를 평가하는 데 필요한 새로운 벤치마크를 제공하며, 기존 시스템의 한계를 드러냈어요. 15개의 LLM은 5% 오탐율 제약 하에서 10.5%의 정확도를 기록했어요.
연구 결과는 AI 생성 시각 정보 조작의 심각성을 강조하며, 표면적인 신뢰도 단서 외에 추론 능력을 갖춘 탐지기 개발의 필요성을 제기했어요.