연구진은 다층 네트워크에서 특징 학습을 통해 스케일링 법칙이 나타나는 간단한 메커니즘을 제안했어요. 계층적 구조를 가진 고차원 타겟을 분석하여, 예측 오차 감소가 지수적으로 감소하는 것을 확인했어요. 이 연구는 무작위 행렬 방법과 해상도 기반 교란 논쟁을 활용하여 개별 고유 벡터 복구에 대한 상한 및 하한을 제공했어요.
새로운 분석은 강한 특징이 작은 샘플 크기에서도 감지되고, 약한 특징은 더 많은 데이터가 필요하다는 순차적 복구 과정을 보여줘요. 연구 결과는 스무스한 스케일링 법칙이 날카로운 특징 학습 전환의 연속에서 나타날 수 있음을 보여줘요.
실험 결과는 예측된 순차적 복구, 유한 크기 스무딩, 비계층적 커널 기준선과의 분리를 확인했어요.