연구진은 균일 활성화 함수를 가진 심층 신경망에서 미러 플로우가 도달하는 최대 마진 해법을 연구했어요. 경사 흐름의 고전적 결과를 확장하여 오목 이중성을 통한 미러 플로우의 균형 방정식을 도출하고 유도 마진을 지배하는 지평선 함수를 특성화했어요.
미러 플로우는 다양한 비균질 미러 맵이 동일한 최대 마진 해법을 유도할 수 있으며, 수렴 속도가 매우 느릴 수 있음을 보여줬어요. 또한, 모든 미러 맵이 특징 학습을 보이지만, 희소에서 조밀한 뉴런 활성화에 이르는 뚜렷이 다른 표현을 생성할 수 있음을 확인했어요.
이 연구는 균일 신경망에서 희소 및 조밀 특징 학습에 대한 통일된 관점을 제공하며, 미러 맵이 최적화 역학 및 학습 분류기의 기하학을 어떻게 형성하는지 강조합니다.