AI 시스템은 배포 후 예상치 못한 실패를 일으킬 수 있습니다. 이러한 실패를 관리하려면 정의, 분류, 모니터링, 보고, 사고 분석 등의 체계적인 AI 사고 관리가 중요합니다. 기존 AI 사고 관리 프레임워크를 검토한 결과, 개별 기능 수행 방식은 설명되어 있지만 정의, 분류, 모니터링, 보고 측면에서 일관성이 부족합니다. 이러한 불일치는 수집 및 보고되는 사고 데이터 유형, 분류 방식, 분석의 깊이와 대표성, 정확성에 영향을 미칩니다.
현재 AI 사고 관리 프레임워크는 규제 기관과 독립적인 노력 모두에서 존재하지만, 데이터 수집 및 보고 방식, 사고 분류, 분석의 깊이와 대표성 측면에서 일관성이 부족합니다. 이는 사고 데이터의 정확성을 저해할 수 있습니다. 사고 관리 체계 개선을 통해 AI 시스템의 안전성을 높이는 것이 중요합니다.
본 연구는 AI 사고 관리의 과제를 제시하고, 데이터 수집 및 보고 방식, 사고 분류, 분석의 깊이와 대표성 측면에서 개선이 필요함을 강조합니다. AI 시스템의 안전성을 확보하기 위해서는 지속적인 노력과 체계적인 사고 관리 체계 구축이 필요합니다.