에이전트 AI 거버넌스는 에이전트가 정책을 준수하고 악의적인 공격으로부터 보호받도록 하는 중요한 요소입니다. 기존 SAGA는 중앙 집중식 신뢰 지점인 Provider에 의존하지만, Provider가 악의적으로 변하면 보안이 취약해질 수 있습니다.
연구에서는 손상된 Provider가 수행할 수 있는 공격을 분석하고, 속성 연결 무력화, 개인 정보 추출, 접근 제어 우회 등 심각한 피해를 야기하는 공격을 시연했습니다.
SAGA-BFT, SAGA-MON, SAGA-AUD, SAGA-HYB 등 다양한 보안 솔루션을 제시하고, 성능 저하와 보안 강도 간의 균형을 고려하여 최적의 솔루션을 선택하는 방법을 논의했습니다.