AI 기술이 다양한 분야에 도입되면서 핵심 기능과 능력이 불투명해지는 시스템이 늘고 있습니다. 이러한 시스템은 입력을 받아 출력을 내지만, 입력이 어떻게 출력으로 이어지는지 파악하기 어렵습니다. 특히 자율성을 높이는 데 사용될 때, 시스템의 신뢰성, 작동의 일관성, 인간의 통제 가능성, 윤리적·법적 준수 등의 문제가 발생할 수 있습니다. 본 연구는 실용적 판단, 덕목, 직관을 활용하여 이러한 우려를 완화할 수 있다고 주장합니다.
불투명 AI 시스템의 실질적인 문제와 윤리적 기준을 연결하는 방법은 인간의 비가치화된 특성을 인식하고, 인간적인 가치를 중심으로 AI 배포 훈련 및 지침을 개발하는 것입니다. 본 연구는 군사 분야를 예시로 들어, AI 배포에 대한 윤리적이고 효과적인 인간의 의사 결정을 이끄는 실용적 판단, 덕목, 직관의 중요성을 강조합니다.
본 연구의 주장은 모든 분야에 적용될 수 있으며, 각 분야의 특성에 맞게 조정될 수 있습니다. 본 연구는 불투명 AI 시스템의 사용에 대한 인간의 판단과 행동을 안내하는 데 기여할 것입니다.
결론적으로, 실용적 판단, 덕목, 직관은 불투명 AI 시스템을 안전하고 윤리적으로 사용하는 데 필수적인 요소입니다.