연구진은 예측 목표가 제어와 관련이 있지만 제어할 수 없는 특징을 버릴 수 있음을 확인했어요. 이는 시간적 예측 가능성을 최적화하기 때문입니다.
JEPA, 액션 기반 JEPA 등 6가지 목표를 비교한 결과, 보상 기반 예측 목표는 외생적 제어 관련 특징을 무작위 수준으로 처리하는 반면, 보상 기반 변형은 이를 선택적으로 유지합니다.
보상으로 레이블이 지정된 전환의 2%만으로도 특징을 복구할 수 있으며, 이 효과는 16~1024 차원의 잠재적 차원에서 지속됩니다.