MAdam은 다중 목표 최적화 문제에서 Adam과 결합되는 두 가지 체계적인 오류를 해결하는 새로운 최적화 방법입니다. Adam의 적응형 메트릭은 다중 목표 최적화 솔버가 가정하는 유클리드 기하학을 왜곡하여 목표 간의 충돌을 야기합니다.
MAdam은 기존 솔버와 최적화기를 변경하지 않고, 선호도 기반 곡률로 조정된 방향을 사용하여 Adam의 두 번째 모멘트가 항등식으로 붕괴되도록 합니다. 이를 통해 선호도 기반 메트릭에 의해 결정되는 업데이트가 가능합니다.
다중 작업 학습, 패레토 프론트 복구, 물리 기반 신경망, 의료 영상 등 다양한 분야에서 MAdam은 모든 솔버 패밀리에 대해 Adam보다 성능이 향상되었습니다.