Pulse · AI 뉴스

nD-RoPE: 임의 차원 위치 임베딩을 위한 일반화된 로터리 위치 임베딩

nD-RoPE · 2026-06-10

연구진이 임의 차원 위치 임베딩을 위한 새로운 방법 nD-RoPE를 제안했어요. 기존 로터리 위치 임베딩(RoPE)의 한계를 극복하고, 차원 간 상호작용을 개선하는 데 목표를 뒀어요.

nD-RoPE는 연속 힐베르트 공간에서의 변환 불변성 공식에서 파생됐으며, 위치와 주파수를 결합된 n차원 벡터로 처리하는 스펙트럼 조건을 충족해요.

이미지, 비디오, 포인트 클라우드 등 다양한 고차원 환경에서 성능 향상과 일반화 능력을 입증했어요.

##RoPE##위치임베딩##Transformer##nD-RoPE##고차원
매일 핵심 AI 소식을 한국어로, 빠르게
App Store 에서 Pulse 받기 앱에서 열기