연구에 따르면 LLM 에이전트의 안전 가드레일이 텍스트 기반 공격만 감지하도록 설계될 경우, 도구 접근 권한이 있는 에이전트의 악성 도구 호출 시퀀스를 효과적으로 우회할 수 있다.
CVE와 같은 알려진 보안 취약점을 악용하는 도구 호출 시퀀스를 일반적인 요청으로 재작성하는 방식으로 공격을 수행했을 때, 최첨단 안전 튜닝 모델조차 48%의 낮은 거부율을 보였다.
텍스트 기반 트리거에 의존하는 가드레일 대신 도구 호출 시퀀스를 감지하는 새로운 방법론이 필요하며, 튜닝 없이도 기존 모델의 거부율을 3배까지 향상시킬 수 있다.