LLM의 기억 추출 연구는 현재 유효성 문제에 직면해 있어요. 일부 연구는 추출을 과장하고, 다른 연구는 추출의 신뢰성을 낮게 평가하며, 둘 다 모델이 훈련 데이터 외에도 실제 텍스트를 재현할 수 있다는 점을 간과하고 있어요.
정확한 기억 추출 주장을 위해서는 모델이 훈련 시퀀스를 높은 확률로 생성해야 하며, 이를 위해 훈련 시퀀스와 유사한 비훈련 시퀀스를 비교해야 해요. 이러한 비교를 통해 예측 가능성의 기준을 설정하고, 훈련 시퀀스가 이 기준을 넘어서면 기억의 증거로 볼 수 있어요.
연구진은 두 가지 방법으로 비교 검증을 수행했어요. 하나는 FPR을 기준으로 임계값을 조정하는 준수 테스트이고, 다른 하나는 일대일 비훈련 문서를 기준으로 임계값을 조정하는 인구 조사 방식이에요.
새로운 방법론을 통해 기존 연구의 문제점을 파악하고, '추출 가능한 기억'의 정의를 '유효한 기억 주장'과 '현실적인 예산 내에서 거의 확실한 생성'으로 구체화했어요.