연구진이 심층 신경망의 학습 표현을 해체하는 수학적 프레임워크 HOPE(Hilbert Operator for Progressive Encoding)를 발표했어요. HOPE는 네트워크 압축을 힐베르트 공간의 연속 함수로 모델링하여 가지치기 및 뉴런 병합을 저랭크 부분 공간 투영으로 통합해요.
개별 뉴런을 랭크-1 힐베르트-슈미트 연산자로 모델링하고 매크로 블록 퇴거를 도입하여 잔여 경로와 같은 다층 구조를 통일된 지표로 포괄하며, 계층별로 편향되지 않은 아키텍처 결정을 가능하게 해요.
HOPE는 데이터 의존성 및 하이퍼파라미터 없이 작동하며, 모델 압축 및 미세 조정 실험을 통해 실용적인 잠재력을 보여줘요.