본 연구는 강화 학습(RL) 정책의 투명성과 해석 가능성을 높이는 설명 가능한 강화 학습(XRL) 분야의 객관적인 평가 지표를 제시합니다.
귀납 논리 프로그래밍(ILP)을 활용하여 RL 정책의 기호적 표현을 추출하고, 활성화율, 특징 커버리지, 구문 거리, 의미 거리 등 새로운 설명 가능성 지표를 정의했습니다.
다양한 RL 환경에서 실험 결과, 제안된 지표는 전역 보상을 넘어선 행동별 학습 역학을 강조하고, 기존 방식으로는 파악하기 어려운 도메인 특징에 대한 미세한 통찰력을 제공합니다.
또한, 단일 및 다중 에이전트 RL 환경에서 조정, 전문화, 적응 패턴을 발견하고, 행동별 정책의 전이 및 일반화에 중요한 통찰력을 제공합니다.