연구진은 Rotary Positional Embeddings(RoPE)의 회전 공간을 고정된 구조로 취급하는 것을 지적하며, 이 공간을 학습 가능한 신호에 조건부로 적용할 수 있도록 제안했어요.
SIREN-RoPE라는 새로운 방법을 통해 시간 정보, 주기적 패턴, 범주형 메타데이터를 회전 차원에 통합하여 모델의 표현력을 향상시켰어요.
실제 뉴스 피드 데이터셋에서 생성형 추천 모델을 사용하여 실험한 결과, 회전 차원을 활성화하면 모델의 성능을 향상시킬 수 있었어요.