연구진이 LLM 에이전트의 보안 취약점을 해결하기 위해 APPA(Agentic Permissions Policy Algebra)라는 새로운 프레임워크를 공개했어요. APPA는 데이터 획득 전 안전 검증을 통해 데이터 오염을 방지하고, 안전하지 않은 데이터를 검사할 때 컨텍스트 분기를 활용해 부작용을 최소화해요. 실험 결과, APPA는 데이터 유출을 효과적으로 막고 기존 방식 대비 성능 저하를 줄이는 데 성공했어요.
APPA는 보안 레이블과 이벤트 로그를 기반으로 동작하며, 부모 레이블 보존 및 컨테인먼트 유지라는 안전성을 보장해요. 컨텍스트 분기를 통해 안전하지 않은 데이터를 검사하면서도 주요 컨텍스트를 오염시키지 않아 에이전트의 활용도를 높일 수 있어요.
연구진은 APPA를 4가지 모델로 테스트한 결과, 데이터 유출 공격 성공률을 31~50%에서 0~7%로 낮추고, 기존 방식의 성능 저하를 상당 부분 회복하는 데 성공했어요.