기업 AI 에이전트는 일반적으로 정적 자격 증명 세트를 부여받아 수행하는 모든 작업에 필요한 모든 도구를 보유합니다. 이 지속적인 과잉 권한은 공격 범위를 확대합니다. 연구진은 역량 범위가 동적 최소 권한 원칙을 따라야 하며, 탐지 전에 예방 메커니즘으로 취급되어야 한다고 주장합니다.
역할 기반 제한, 작업 컨텍스트 분류기, 정책 기반 조합 금지라는 3원 아키텍처를 설계하여 이 원칙을 구현했습니다. 이 아키텍처는 시행 및 관찰 모드 모두를 지원하며, 후자는 작업 컨텍스트와 일치하지 않는 에이전트 권한 요청을 기록하여 LLM 에이전트 불일치 연구에 사용될 수 있는 행동 신호를 생성합니다.
연구진은 이 아키텍처를 평가하기 위한 첫 번째 단계로, 다부서 회사 정책에 기반한 600개의 기업 작업 프롬프트 합성 데이터셋을 기여했습니다. 이 데이터셋은 배포 가능한 자격 증명 또는 시행 가능한 가드레일과 직접 매핑되는 15개 권한 도구 기반 분류에서 최소 필수 권한으로 레이블이 지정되었습니다.