연구진은 제한적 메모리 언어 모델(LMLM)의 망각 과정을 감사하는 새로운 프레임워크를 제안했어요. 이 프레임워크는 모델을 고정하고 데이터베이스 상태를 조작하여 망각이 발생하는 경로를 분석해요.
연구 결과, 모델 자체의 파라미터에 삭제된 정보가 남아있는 경우는 거의 없었고, 대부분 데이터베이스의 검색 경로를 통해 재구성되는 것으로 나타났어요.
가장 악의적인 조건에서도 삭제된 사실이 남아있는 비율은 13.6%에 불과했으며, 프롬프트 방식은 이 비율에 큰 영향을 미치지 않았어요.
이 연구는 LMLM의 망각 과정에서 데이터베이스 관리자의 역할이 모델 자체보다 더 중요하다는 점을 시사해요.