본 연구는 의료, 자율 주행, 항공 등 고위험 환경에서 AI 신뢰 구축을 위해 설명 가능한 AI 시스템의 중요성을 강조합니다. 딥러닝 기반 AI의 빠른 발전으로 인해 설명 가능성 확보의 필요성이 커지고 있습니다. 강화 학습 알고리즘에 설명 가능 기법을 적용하여 항공 교통 관제 분야의 안전성을 높이고자 합니다.
간단화된 항공 교통 관제 환경에서 지능형 에이전트를 훈련시켜 비행 금지 구역을 피하는 대체 비행 경로를 결정합니다. 초기 설명 가능성 접근 방식으로 saliency map을 활용하여 에이전트의 의사 결정에 가장 큰 영향을 미치는 입력 요소를 파악합니다.