AI 에이전트의 위험성 증가에 따라 프롬프트 주입 공격, 정보 유출, 무단 작업 등의 문제가 발생하고 있습니다. 사용자별 필요와 선호도가 다르므로, 에이전트 AI 시스템에서 사용자 수준의 권한 정책 지원이 필요합니다. 관련 연구를 통해 사용자 수준의 권한 정책을 지정하는 다양한 방법을 분석하고, 상용 에이전트의 권한 처리 방식을 비교했습니다.
21개의 에이전트 권한 시스템 제안서를 검토하여 사용자 수준의 권한 정책을 인터페이스와 내부적으로 어떻게 지정하는지 분류했습니다. 사용자 입력을 기반으로 내부 정책을 도출하고, 런타임에 해당 정책을 시행하는 방식을 분석했습니다. 향후 연구가 필요한 과제를 확인했습니다.