연구진은 상호 정보량(MI) 기반 특징 학습 기법이 비선형 의존성 구조를 유지하는 저차원 임베딩을 생성하지만, 데이터가 부족한 환경에서 확률 분포 추정의 노이즈 문제를 겪는다는 점을 지적했어요.
두 번째 차원의 통계에서 계산되는 H-Score는 특징 추출 네트워크 훈련을 위한 실용적인 대리 지표로, 제약된 근사 클래스에서는 입력 기반 회전에 민감하지만 제한 없는 기능 설정에서는 불변성을 보입니다.
연구진은 단위 사전 조건화(unitary preconditioning)를 연구하여 적절한 기반 회전을 선택하면 예측 의존성을 더 적은 지배 모드로 집중시켜 유한 폭 절단 오류를 줄일 수 있음을 보여줬어요.
연구진은 거의 정지 상태 프로세스에서 저렴하고 데이터 독립적인 사전 조건기로 고속 푸리에 변환(FFT)을 식별하고, 스펙트럼 엔트로피와 누적 의존성 에너지 기반의 훈련 프리(training-free) 지표를 도입하여 기반 적합성을 정량화하고 네트워크 훈련 전에 다운스트림 추론 이득을 예측했어요.