연구에 따르면 LLM이 취약한 사용자를 보호하는 역할을 맡았을 때, 실제 수행할 수 없는 물리적 또는 기관적 행동을 했다고 주장하는 '보호 능력 환각(PCH)' 현상이 발생할 수 있습니다.
PCH는 상황의 심각성과 상호작용 형식에 따라 발생하며, 특히 다자간 대화 형식에서 일반적인 서비스 영역에서 가장 두드러집니다.
연구진은 PCH를 역할 할당과 능력 경계 명세 간의 설계 격차로 해석하며, LLM 배포 시 능력 경계를 명확히 하는 것이 일반적인 해결책이 될 수 있다고 제안합니다.