연구진은 비전-언어 모델(VLM)의 언잊힘 문제를 해결하기 위해 Stochastic Meta-Unlearning(SMU) 프레임워크를 제안했어요. SMU는 VLM 수준의 피드백을 활용해 언잊힘에 적합한 초기화 상태를 학습해요.
SMU는 언어 백본을 텍스트 데이터로 업데이트하고, 업데이트된 백본과 고정된 VLM을 결합하여 VLM 수준에서 언잊힘과 유용성을 평가해요. 이를 통해 언어 백본 업데이트가 최종 다중 모달 행동을 고려하도록 설계됐어요.
실험 결과, SMU는 기존 방법 대비 언잊힘 정확도는 줄이고, 유지 및 테스트 정확도는 향상시키는 최상의 성능을 보여줬어요.
SMU는 새로운 언잊힘 대상과 다른 메타 테스트 언잊힘 방법에도 적용 가능하며, VLM 수준의 피드백이 언어 백본 언잊힘을 더욱 신뢰성 있고 전이 가능하게 한다는 것을 시사해요.