연구진이 함수 공간 매핑을 위한 새로운 방법 'Functional Attention'을 제안했어요. 이 방법은 어댑티브 베이스 간의 함수적 대응 관계를 활용하여 기존 토큰 기반 어텐션의 한계를 극복해요. 실험 결과, PDE 해결, 3D 세그멘테이션, 회귀 등 다양한 작업에서 기존 모델과 동등한 성능을 보이면서도 해상도 불변성을 확보했어요.
Functional Attention은 기하 함수 매핑에서 영감을 받아 소프트맥스 어피니티를 구조화된 선형 연산자로 대체하여 글로벌 의존성을 명시적으로 포착해요. 이로써 컴팩트하고 일반화 가능하며 해상도 불변적인 표현을 얻을 수 있어요.
연구 결과는 GitHub에서 확인할 수 있으며, PDE, 3D 세그멘테이션, 회귀 등 다양한 작업에서 기존 모델과 경쟁력 있는 성능을 보여줘요.