연구진이 채널별 텍스트 설명을 통합한 Transformer 기반 모델 CHARM을 개발했어요. CHARM은 시계열 데이터의 다양한 채널 간 관계를 파악하고, 이상 감지, 분류, 예측 등 다양한 작업에서 뛰어난 성능을 보입니다.
Joint Embedding Predictive Architecture (JEPA)를 활용하여 학습된 CHARM은 노이즈에 강건하고, 채널 간 관계를 해석할 수 있는 임베딩을 생성합니다. 텍스트 설명은 데이터셋 간 일반화에 중요한 역할을 합니다.
CHARM은 선형 프로브만으로도 강력한 성능을 달성하며, JEPA 학습 목표와 채널 조건부 아키텍처가 성능 향상에 기여하는 것으로 나타났습니다.