Pulse · AI 뉴스

SPHERE-JEPA 확장: 초구에서의 균일 분포 강제를 위한 통계 정규화기 패밀리

SPHERE-JEPA · 2026-06-16

연구진은 자기 지도 학습에서 초구에서의 균일 분포를 강제하는 기존 방식의 문제를 해결하기 위해 새로운 접근법을 제시했어요.

기존 방식의 확률적 샘플링 방식에서 발생하는 그래디언트 불안정성을 제거하고, 최대 평균 불일치(MMD)를 활용하여 통계적 테스트를 직접 수식화했어요.

ImageNet 및 Galaxy10 데이터셋에서 기존 방식보다 더 안정적인 최적화, 빠른 수렴, 성능 향상을 확인했으며, 통계적 테스트 선택에 따라 학습된 잠재 공간의 기하학적 구조가 달라지는 것을 발견했어요.

##자기지도학습##통계정규화##초구##MMD##SPHERE-JEPA
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기