연구진은 LLM 생성 콘텐츠에 워터마크 삽입 의무화 정부 정책의 법적 효력에 대한 실증적 평가를 진행했어요. KGW, Unigram, SynthID-Text 등 3가지 워터마크 기법을 법적 증거 요건과 디지털 포렌식 과정을 기준으로 평가했어요. 워터마크가 삽입된 텍스트는 의미 보존 패러프레이징 공격에 취약하며, KGW와 Unigram은 100% 워터마크가 제거되고, SynthID는 98.3% 제거되는 결과가 나왔어요.
초기 검출 워터마크의 오탐율이 높았으며, KGW는 70%, Unigram은 83%, SynthID는 80%로 나타났어요. SynthID는 인간이 작성한 텍스트를 AI 생성물로 잘못 판단하는 경우도 있었고, 자체 워터마크된 텍스트의 80%가 불확실 영역에 속하는 문제도 확인됐어요.
현재 워터마크 기법은 법원에서 요구하는 증거 요건을 충족하지 못하며, Forensic Readiness Score (FRS) 점수 시스템도 이러한 한계를 보완하지 못했어요. 연구 결과, 현재 AI 워터마크는 법적 효력을 갖기 어려울 것으로 판단됩니다.
향후 법적 효력을 위한 워터마크 기술 개발과 함께, 디지털 포렌식 프레임워크 설계 시 FRS의 한계를 고려해야 할 필요가 있습니다.