분산 협업 지능 시스템에서 개별 에이전트의 올바른 판단이 불확실성 속에서 전반적으로 부적절한 행동 경로를 초래할 수 있습니다. 본 논문은 행동 경로 수준의 규제를 가능하게 하는 새로운 개념인 '기계적 양심(MC)' 프레임워크를 소개합니다. MC는 기준 정책의 행동을 수정하여 규범적으로 허용 가능한 영역에서 벗어나는 누적 편차를 줄이는 감독 필터입니다.
기계적 양심(MC)은 '양심 점수', '기계적 죄책감', '공명 신뢰성'과 같은 구성 요소를 도입하여 해석 가능하고 계산 가능한 거버넌스 신호를 제공합니다. MC는 기존 제어 방식이 허용 가능한 경계를 벗어나는 경우에도 행동 경로 수준의 규범적 수용성을 유지하는 것을 보여줍니다.
본 논문의 프레임워크는 다중 에이전트 협업 지능 시스템에서 상호 작용으로 인한 예상치 못한 위험을 억제하는 데 자연스럽게 적용될 수 있습니다.