FragFuse: LLM 에이전트 접근 통제 우회 공격 가능 - 메모리 기반 조각 분할 및 결합

연구진이 LLM 에이전트의 장기 메모리 운영 방식을 악용한 새로운 공격 'FragFuse'를 제안했어요. FragFuse는 사용자가 접근 통제를 우회하여 금지된 콘텐츠를 활용할 수 있도록 합니다. 공격은 금지된 콘텐츠 조각을 메모리에 숨겨두었다가 나중에 복원하는 방식으로 진행돼요. FragFuse는 86.3%의 우회 성공률과 41.1%의 유해 작업 성공률을 보였으며, 기존 접근 통제 대비 작업 성공률 저하가 4.4%에 불과했어요.