연구진은 자율 에이전트의 행동을 인간 의도에 맞추기 위한 보상 함수가 다양한 환경 변화에 강건하도록 하는 방법을 연구했어요.
역방향 강화 학습(IRL)은 인간 피드백으로부터 이러한 목적을 추론하는 효과적인 방법이지만, 기존 방식은 단일 환경에 초점을 맞추고 있어요.
연구 결과, 비교 피드백은 다른 방식보다 강력한 제약을 가하며, 다중 환경에서 작동하는 머신 티칭 알고리즘은 균일한 방식보다 더 낮은 후회를 달성하고 일반화 성능이 뛰어났어요.
알고리즘은 보상 제약 조건을 드러내는 정보를 풍부하게 제공하는 환경을 선택하고, 해당 환경에서 저렴한 피드백을 전략적으로 요청하여 강건한 보상 함수 학습을 가능하게 해요.