연구진은 멀티 에이전트 시스템의 안전망인 런타임 모니터에 취약점이 있음을 밝혔습니다. 악성 페이로드가 여러 에이전트로 분산되어 각 단계별 검사는 통과하지만, 전체 공격은 감지되지 않습니다.
각 에이전트의 메시지나 도구 호출을 개별적으로 검사하는 방식은 '로컬 안전'이라는 착각을 불러일으킬 수 있지만, 분산된 악성 코드는 이러한 검사를 무력화합니다.
연구 결과, 모니터가 악성 페이로드를 감지하려면 개별 요소가 아닌 전체 공격의 표현을 파악해야 하며, 이는 현재의 로컬 안전 방식으로는 불가능합니다.
연구진은 악성 페이로드를 감지하기 위한 새로운 접근 방식, 즉 전체 공격의 표현을 파악하는 방법을 모색해야 한다고 강조했습니다.