LeNEPA는 시간 시계열 데이터의 표현 학습을 위한 새로운 방법론입니다. 기존 방식과 달리 데이터 증강을 사용하지 않고, 잠재 토큰 예측을 통해 학습합니다.
LeNEPA는 기존 NEPA 방식의 안정화 기법을 SIGReg 기반의 등방성 정규화로 대체하고, 경량화된 투영 공간에서 예측 손실을 계산합니다.
PTB-XL과 Diag 데이터셋에서 ECG에 맞춰 튜닝된 JEPA 방식과 비교한 결과, LeNEPA는 두 데이터셋 모두에서 유용한 frozen-probe 성능을 유지했습니다.
LeNEPA는 학습 초기 단계에서 더 빠르게 표현력을 습득하며, CauKer 사전 학습 모델은 UCR-128 데이터셋에서 높은 정확도를 달성했습니다.