본 연구는 시계열(TS) 언어 모델에서 토큰 효율성을 분석하고, TS 토큰과 프롬프트 토큰의 정보 구조 차이를 고려한 비대칭 토큰 압축 프레임워크를 제안합니다. TS 토큰의 스펙트럼 기여도가 불균등하고, 프롬프트 토큰의 영향력이 모델 깊이에 따라 감소한다는 점을 발견했습니다. 이를 바탕으로 빈도 영역 구조를 활용해 TS 토큰을 압축하고, 모델 레이어별로 프롬프트 토큰 수를 점진적으로 줄이는 방식을 적용했습니다.
TS 언어 모델의 예측, 분류, 보간, 이상 탐지 실험에서 추론 속도가 최대 7.68배 향상되고, 78%의 환경에서 성능 향상을 보였습니다. 이는 비대칭 토큰 압축이 확장 가능한 TS 기반 모델에 효과적임을 입증합니다. 연구는 TS 언어 모델의 효율성을 높이는 새로운 접근 방식을 제시하며, 시계열 데이터 분석 분야에 기여할 것으로 기대됩니다.