기업이 AI를 안전하고 일관성 있게, 그리고 대규모로 도입하는 데 필수적인 AI 거버넌스는 AI 사용이 사업 전체로 확장되면서 조직의 거버넌스 프레임워크와 실제 AI 사용 간의 불일치를 야기할 수 있어요.
AI 거버넌스는 초기 단계의 통제된 파일럿 테스트에서는 관리가 용이하지만, AI 사용이 확대되면 위험이 증가할 수 있으며, 이는 AI 사용에 대한 가시성 상실로 이어질 수 있어요.
AI 거버넌스 문제는 종종 초기 AI 사용에 적합했던 규칙, 검토 프로세스, 책임 모델이 사업 전체로 확대될 때 발생하며, 이는 승인 프로세스가 일회성으로 끝나거나, 팀 간 책임 소재가 불분명하거나, 위험 프로필에 맞지 않는 통제를 적용하는 방식으로 나타날 수 있어요.
직원들의 AI 사용을 추적하기 어려워지고, 민감한 데이터가 적절한 통제 없이 사용될 수 있으며, 이는 개인 정보 보호, 보안, 계약 위반 등의 문제를 야기할 수 있어요.
AI 거버넌스 문제를 해결하기 위해서는 AI 사용에 대한 지속적인 검토, 명확한 책임 소재 할당, 위험 프로필에 맞는 통제 적용, 직원 AI 사용 추적, 민감한 데이터 사용 통제 등의 노력이 필요해요.
기업은 AI 거버넌스 프레임워크를 정기적으로 검토하고 업데이트하여 변화하는 환경에 적응하고, AI 사용의 안전성과 책임성을 확보해야 해요.